多倫多大學和LGAIResearch的研究人員開發(fā)了一種“可解釋的”人工智能(XAI)算法，可以幫助識別和消除顯示屏中的缺陷。新算法在行業(yè)基準測試中的表現優(yōu)于同類方法，是通過LG和多倫多大學之間正在進行的人工智能研究合作開發(fā)的，該合作于2019年擴大，重點關注企業(yè)人工智能應用。

研究人員表示，XAI算法可能會應用于其他需要了解機器學習如何做出決策的領域，包括對醫(yī)學掃描數據的解釋。

“可解釋性和可解釋性是為了滿足我們作為工程師為自己設定的質量標準，也是最終用戶的要求，”愛德華·S·羅杰斯學院電氣和計算機工程系教授KostasPlataniotis說。應用科學與工程。“對于XAI，沒有'一刀切'。你必須問你為誰開發(fā)它。是給另一個機器學習開發(fā)人員的嗎?還是給醫(yī)生或律師的?”

XAI是一個新興領域，它解決了機器學習策略的“黑匣子”方法問題。

在黑盒模型中，計算機可能會收到一組數百萬張標記圖像形式的訓練數據。通過分析數據，算法學會將輸入(圖像)的某些特征與某些輸出(標簽)相關聯。最終，它可以正確地將標簽附加到它以前從未見過的圖像上。

機器自行決定要注意和忽略圖像的哪些方面，這意味著它的設計者永遠不會確切知道它是如何得出結果的。

但這種“黑匣子”模型在應用于醫(yī)療保健、法律和保險等領域時會帶來挑戰(zhàn)。

“例如，[機器學習]模型可能會確定患者有90%的機會患有腫瘤，”Sudhakar說。“對不準確或有偏見的信息采取行動的后果實際上是生死攸關。為了完全理解和解釋模型的預測，醫(yī)生需要知道算法是如何得出的。”

與傳統機器學習相比，XAI被設計為一種“玻璃盒子”方法，使決策透明化。XAI算法與傳統算法同時運行，以審核其學習性能的有效性和水平。該方法還提供了進行調試和提高培訓效率的機會。

Sudhakar說，從廣義上講，有兩種方法可以開發(fā)XAI算法——每種方法都有優(yōu)點和缺點。

第一種稱為反向傳播，它依賴于底層的AI架構來快速計算網絡的預測與其輸入的對應關系。第二種稱為擾動，為了精度而犧牲了一些速度，并涉及更改數據輸入和跟蹤相應的輸出以確定必要的補償。

“我們在LG的合作伙伴需要一種結合兩者優(yōu)勢的新技術，”Sudhakar說。“他們有一個現有的[機器學習]模型，可以識別帶顯示器的LG產品中的缺陷部件，我們的任務是提高可能缺陷的高分辨率熱圖的準確性，同時保持可接受的運行時間。”

該團隊的結果XAI算法，解釋語義輸入采樣(SISE)，在最近的第35屆AAAI人工智能會議論文中進行了描述。

“我們看到了SISE廣泛應用的潛力，”Plataniotis說。“特定場景的問題和意圖總是需要對算法進行調整——但這些熱圖或'解釋圖'可以更容易地被例如醫(yī)療專業(yè)人員解釋。”

“LG與多倫多大學合作的目標是成為人工智能創(chuàng)新領域的世界領導者，”Jang說。“XAI的首個成就表明我們公司一直在努力在多個領域做出貢獻，例如LG產品的功能、制造創(chuàng)新、供應鏈管理、材料發(fā)現效率等，使用人工智能來提高客戶滿意度。”

電氣和計算機工程系主任迪帕·昆杜爾教授說，像這樣的成功是與行業(yè)合作伙伴合作價值的一個很好的例子。

“當兩組研究人員都帶著各自的觀點來到談判桌前時，通?？梢约涌旖鉀Q問題的速度，”昆杜爾說。“讓研究生接觸到這個過程是非常寶貴的。”

雖然團隊在為期一年的項目中實現激進的準確性和運行時間目標是一項挑戰(zhàn)——同時還要兼顧多倫多/首爾時區(qū)并在的限制下工作——但Sudhakar說有機會產生一個實用的解決方案對于一家世界知名的制造商來說，付出的努力是非常值得的。

“了解行業(yè)究竟是如何運作的，這對我們有好處，”Sudhakar說。“LG的目標雄心勃勃，但我們得到了他們非常鼓舞人心的支持，并提供了有關想法或類比的反饋以供探索。那真是太讓人激動了。”

　　免責聲明：本文由用戶上傳，與本網站立場無關。財經信息僅供讀者參考，并不構成投資建議。投資者據此操作，風險自擔。 如有侵權請聯系刪除！