多倫多大學(xué)和LGAIResearch的研究人員開發(fā)了一種“可解釋的”人工智能(XAI)算法，可以幫助識(shí)別和消除顯示屏中的缺陷。新算法在行業(yè)基準(zhǔn)測(cè)試中的表現(xiàn)優(yōu)于同類方法，是通過LG和多倫多大學(xué)之間正在進(jìn)行的人工智能研究合作開發(fā)的，該合作于2019年擴(kuò)大，重點(diǎn)關(guān)注企業(yè)人工智能應(yīng)用。

研究人員表示，XAI算法可能會(huì)應(yīng)用于其他需要了解機(jī)器學(xué)習(xí)如何做出決策的領(lǐng)域，包括對(duì)醫(yī)學(xué)掃描數(shù)據(jù)的解釋。

“可解釋性和可解釋性是為了滿足我們作為工程師為自己設(shè)定的質(zhì)量標(biāo)準(zhǔn)，也是最終用戶的要求，”愛德華·S·羅杰斯學(xué)院電氣和計(jì)算機(jī)工程系教授KostasPlataniotis說。應(yīng)用科學(xué)與工程。“對(duì)于XAI，沒有'一刀切'。你必須問你為誰開發(fā)它。是給另一個(gè)機(jī)器學(xué)習(xí)開發(fā)人員的嗎?還是給醫(yī)生或律師的?”

XAI是一個(gè)新興領(lǐng)域，它解決了機(jī)器學(xué)習(xí)策略的“黑匣子”方法問題。

在黑盒模型中，計(jì)算機(jī)可能會(huì)收到一組數(shù)百萬張標(biāo)記圖像形式的訓(xùn)練數(shù)據(jù)。通過分析數(shù)據(jù)，算法學(xué)會(huì)將輸入(圖像)的某些特征與某些輸出(標(biāo)簽)相關(guān)聯(lián)。最終，它可以正確地將標(biāo)簽附加到它以前從未見過的圖像上。

機(jī)器自行決定要注意和忽略圖像的哪些方面，這意味著它的設(shè)計(jì)者永遠(yuǎn)不會(huì)確切知道它是如何得出結(jié)果的。

但這種“黑匣子”模型在應(yīng)用于醫(yī)療保健、法律和保險(xiǎn)等領(lǐng)域時(shí)會(huì)帶來挑戰(zhàn)。

“例如，[機(jī)器學(xué)習(xí)]模型可能會(huì)確定患者有90%的機(jī)會(huì)患有腫瘤，”Sudhakar說。“對(duì)不準(zhǔn)確或有偏見的信息采取行動(dòng)的后果實(shí)際上是生死攸關(guān)。為了完全理解和解釋模型的預(yù)測(cè)，醫(yī)生需要知道算法是如何得出的。”

與傳統(tǒng)機(jī)器學(xué)習(xí)相比，XAI被設(shè)計(jì)為一種“玻璃盒子”方法，使決策透明化。XAI算法與傳統(tǒng)算法同時(shí)運(yùn)行，以審核其學(xué)習(xí)性能的有效性和水平。該方法還提供了進(jìn)行調(diào)試和提高培訓(xùn)效率的機(jī)會(huì)。

Sudhakar說，從廣義上講，有兩種方法可以開發(fā)XAI算法——每種方法都有優(yōu)點(diǎn)和缺點(diǎn)。

第一種稱為反向傳播，它依賴于底層的AI架構(gòu)來快速計(jì)算網(wǎng)絡(luò)的預(yù)測(cè)與其輸入的對(duì)應(yīng)關(guān)系。第二種稱為擾動(dòng)，為了精度而犧牲了一些速度，并涉及更改數(shù)據(jù)輸入和跟蹤相應(yīng)的輸出以確定必要的補(bǔ)償。

“我們?cè)贚G的合作伙伴需要一種結(jié)合兩者優(yōu)勢(shì)的新技術(shù)，”Sudhakar說。“他們有一個(gè)現(xiàn)有的[機(jī)器學(xué)習(xí)]模型，可以識(shí)別帶顯示器的LG產(chǎn)品中的缺陷部件，我們的任務(wù)是提高可能缺陷的高分辨率熱圖的準(zhǔn)確性，同時(shí)保持可接受的運(yùn)行時(shí)間。”

該團(tuán)隊(duì)的結(jié)果XAI算法，解釋語義輸入采樣(SISE)，在最近的第35屆AAAI人工智能會(huì)議論文中進(jìn)行了描述。

“我們看到了SISE廣泛應(yīng)用的潛力，”Plataniotis說。“特定場(chǎng)景的問題和意圖總是需要對(duì)算法進(jìn)行調(diào)整——但這些熱圖或'解釋圖'可以更容易地被例如醫(yī)療專業(yè)人員解釋。”

“LG與多倫多大學(xué)合作的目標(biāo)是成為人工智能創(chuàng)新領(lǐng)域的世界領(lǐng)導(dǎo)者，”Jang說。“XAI的首個(gè)成就表明我們公司一直在努力在多個(gè)領(lǐng)域做出貢獻(xiàn)，例如LG產(chǎn)品的功能、制造創(chuàng)新、供應(yīng)鏈管理、材料發(fā)現(xiàn)效率等，使用人工智能來提高客戶滿意度。”

電氣和計(jì)算機(jī)工程系主任迪帕·昆杜爾教授說，像這樣的成功是與行業(yè)合作伙伴合作價(jià)值的一個(gè)很好的例子。

“當(dāng)兩組研究人員都帶著各自的觀點(diǎn)來到談判桌前時(shí)，通常可以加快解決問題的速度，”昆杜爾說。“讓研究生接觸到這個(gè)過程是非常寶貴的。”

雖然團(tuán)隊(duì)在為期一年的項(xiàng)目中實(shí)現(xiàn)激進(jìn)的準(zhǔn)確性和運(yùn)行時(shí)間目標(biāo)是一項(xiàng)挑戰(zhàn)——同時(shí)還要兼顧多倫多/首爾時(shí)區(qū)并在的限制下工作——但Sudhakar說有機(jī)會(huì)產(chǎn)生一個(gè)實(shí)用的解決方案對(duì)于一家世界知名的制造商來說，付出的努力是非常值得的。

“了解行業(yè)究竟是如何運(yùn)作的，這對(duì)我們有好處，”Sudhakar說。“LG的目標(biāo)雄心勃勃，但我們得到了他們非常鼓舞人心的支持，并提供了有關(guān)想法或類比的反饋以供探索。那真是太讓人激動(dòng)了。”

標(biāo)簽：