宣布了一項(xiàng)基于“可解釋AI”原則的新技術(shù)，該技術(shù)可根據(jù)AI數(shù)據(jù)結(jié)果自動向用戶呈現(xiàn)實(shí)現(xiàn)預(yù)期結(jié)果所需的步驟。富士通實(shí)驗(yàn)室有限公司和北海道大學(xué)今天宣布開發(fā)一項(xiàng)基于“可解釋人工智能”原則的新技術(shù)，該技術(shù)可根據(jù)人工智能結(jié)果(例如，來自體檢的數(shù)據(jù))自動向用戶展示實(shí)現(xiàn)預(yù)期結(jié)果所需的步驟。

“可解釋的人工智能”代表了人工智能和機(jī)器學(xué)習(xí)領(lǐng)域越來越感興趣的領(lǐng)域。雖然人工智能技術(shù)可以根據(jù)數(shù)據(jù)自動做出決策，但“可解釋的人工智能”也為這些決策提供了個(gè)人原因——這有助于避免所謂的“黑匣子”現(xiàn)象，即人工智能通過不明確且可能存在問題的手段得出結(jié)論。

雖然某些技術(shù)也可以提供當(dāng)個(gè)別項(xiàng)目出現(xiàn)不良結(jié)果時(shí)可以采取的假設(shè)改進(jìn)，但這些技術(shù)并沒有提供任何具體的改進(jìn)步驟。

例如，如果對受試者健康狀況進(jìn)行判斷的人工智能確定一個(gè)人不健康，則可以應(yīng)用新技術(shù)首先從身高、體重和血壓等健康檢查數(shù)據(jù)中解釋結(jié)果的原因。然后，新技術(shù)可以另外為用戶提供關(guān)于最佳健康方式的有針對性的建議，從過去的數(shù)據(jù)中識別大量復(fù)雜的體檢項(xiàng)目之間的相互作用，并顯示考慮到可行性和實(shí)施難度的具體改進(jìn)步驟。.

最終，這項(xiàng)新技術(shù)提供了提高人工智能決策的透明度和可靠性的潛力，讓未來更多的人能夠以信任和安心的方式與利用人工智能的技術(shù)進(jìn)行交互。更多細(xì)節(jié)將在AAAI-21，第三十五屆AAAI人工智能會議上公布，該會議將于2月2日星期二開幕。

發(fā)展背景

目前，深度學(xué)習(xí)技術(shù)廣泛應(yīng)用于需要人臉識別和自動駕駛等高級任務(wù)的人工智能系統(tǒng)中，使用一種黑匣子預(yù)測模型，根據(jù)大量數(shù)據(jù)自動做出各種決策。然而，未來，確保人工智能系統(tǒng)的透明度和可靠性將成為人工智能為社會做出重要決策和建議的重要問題。這種需求導(dǎo)致對“可解釋人工智能”技術(shù)的興趣和研究增加。

例如，在體檢中，人工智能可以根據(jù)體重和肌肉質(zhì)量等數(shù)據(jù)成功確定疾病風(fēng)險(xiǎn)水平(圖1(A))。除了對風(fēng)險(xiǎn)等級的判斷結(jié)果之外，人們越來越關(guān)注呈現(xiàn)作為判斷基礎(chǔ)的屬性(圖1(B))的“可解釋AI”。

由于人工智能根據(jù)輸入數(shù)據(jù)的屬性確定健康風(fēng)險(xiǎn)高，因此可以更改這些屬性的值以獲得低健康風(fēng)險(xiǎn)的預(yù)期結(jié)果。

圖1AI的判斷和解釋

問題

為了在AI自動化決策中達(dá)到預(yù)期的結(jié)果，不僅需要呈現(xiàn)需要更改的屬性，而且還需要盡可能少地呈現(xiàn)可以更改的屬性。

在體檢的情況下，如果想要將AI的決策結(jié)果從高風(fēng)險(xiǎn)狀態(tài)變?yōu)榈惋L(fēng)險(xiǎn)狀態(tài)，那么不費(fèi)吹灰之力似乎可以增加肌肉量(圖2變化1)——但這樣做是不現(xiàn)實(shí)的只增加一個(gè)人的肌肉質(zhì)量而不改變一個(gè)人的體重，所以實(shí)際上同時(shí)增加體重和肌肉質(zhì)量是一個(gè)更現(xiàn)實(shí)的解決方案(圖2變化2)。

此外，體重和肌肉質(zhì)量等屬性之間還有很多相互作用，比如體重隨著肌肉增長而增加的因果關(guān)系，做出改變所需的總努力取決于屬性改變的順序。因此，有必要呈現(xiàn)屬性更改的適當(dāng)順序。在圖2中，為了從當(dāng)前狀態(tài)達(dá)到變化2，是否應(yīng)該首先改變體重或肌肉質(zhì)量并不明顯，因此考慮到變化的可能性和順序，找到合適的變化方法仍然具有挑戰(zhàn)性。在眾多潛在候選人中。

圖2屬性變化

關(guān)于新開發(fā)的技術(shù)

通過機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘的聯(lián)合研究，富士通實(shí)驗(yàn)室和北海道大學(xué)信息科學(xué)與技術(shù)研究生院有村實(shí)驗(yàn)室開發(fā)了新的人工智能技術(shù)，可以向用戶解釋人工智能決策的原因，從而發(fā)現(xiàn)有用的、可操作的知識。

LIME和SHAP等AI技術(shù)已被開發(fā)為支持人類用戶決策的AI技術(shù)，是通過解釋AI做出此類決定的原因來使決策具有說服力的技術(shù)。聯(lián)合開發(fā)的新技術(shù)基于反事實(shí)解釋的概念，將屬性變化中的動作和執(zhí)行順序呈現(xiàn)為一個(gè)過程。在通過分析過去的案例避免不切實(shí)際的變化的同時(shí)，人工智能估計(jì)屬性值變化對其他屬性值的影響，例如因果關(guān)系，并據(jù)此計(jì)算用戶實(shí)際需要改變的量，從而實(shí)現(xiàn)動作的呈現(xiàn)。將以正確的順序以最少的努力獲得最佳結(jié)果。

例如，如果一個(gè)人必須增加1公斤肌肉質(zhì)量和7公斤體重以降低輸入屬性及其順序(圖1(C))中的風(fēng)險(xiǎn)，他們會改變以獲得所需的結(jié)果體檢時(shí)，可以通過預(yù)先分析肌肉質(zhì)量和體重之間的相互作用來估計(jì)這種關(guān)系。這意味著如果增加1公斤肌肉質(zhì)量，體重將增加6公斤。在這種情況下，在體重變化所需的額外7公斤中，肌肉質(zhì)量變化后所需的變化量僅為1公斤。換句話說，一個(gè)人實(shí)際需要做出的改變量是增加1公斤肌肉質(zhì)量和1公斤體重，因此與首先改變體重的順序相比，人們可以更輕松地獲得所需的結(jié)果。

Fig.3屬性間的交互和變化

效果

利用聯(lián)合開發(fā)的反事實(shí)解釋人工智能技術(shù)，富士通和北海道大學(xué)驗(yàn)證了三種類型的數(shù)據(jù)集，用于以下用例：糖尿病、貸款信用篩選和葡萄酒評估。通過將機(jī)器學(xué)習(xí)的三個(gè)關(guān)鍵算法——邏輯回歸、隨機(jī)森林和多層感知器——與新開發(fā)的技術(shù)相結(jié)合，我們已經(jīng)證實(shí)可以識別適當(dāng)?shù)膭幼骱托蛄幸詫㈩A(yù)測更改為所需的結(jié)果比在所有數(shù)據(jù)集和機(jī)器學(xué)習(xí)算法組合中由現(xiàn)有技術(shù)派生的動作所付出的努力要少。事實(shí)證明，這對于貸款信用篩選用例特別有效，可以以不到一半的努力將預(yù)測更改為首選結(jié)果。

使用這項(xiàng)技術(shù)，當(dāng)人工智能自動判斷預(yù)期出現(xiàn)不良結(jié)果時(shí)，可以提出將結(jié)果更改為更理想結(jié)果所需的操作。這將使人工智能的應(yīng)用不僅可以擴(kuò)展到判斷，還可以支持人類行為的改進(jìn)。

未來的計(jì)劃

展望未來，富士通實(shí)驗(yàn)室將繼續(xù)將該技術(shù)與單獨(dú)的因果發(fā)現(xiàn)技術(shù)相結(jié)合，以提供更合適的行動。富士通還將利用該技術(shù)擴(kuò)展基于其專有“FUJITSUAITechnologyWideLearning”的動作提取技術(shù)，目標(biāo)是在2021財(cái)年實(shí)現(xiàn)商業(yè)化。

北海道大學(xué)旨在建立人工智能技術(shù)，從各種現(xiàn)場數(shù)據(jù)中提取對人類決策有用的知識和信息，而不僅限于行動的呈現(xiàn)。

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場無關(guān)。財(cái)經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。 如有侵權(quán)請聯(lián)系刪除！