宣布了一項基于“可解釋AI”原則的新技術，該技術可根據(jù)AI數(shù)據(jù)結果自動向用戶呈現(xiàn)實現(xiàn)預期結果所需的步驟。富士通實驗室有限公司和北海道大學今天宣布開發(fā)一項基于“可解釋人工智能”原則的新技術，該技術可根據(jù)人工智能結果(例如，來自體檢的數(shù)據(jù))自動向用戶展示實現(xiàn)預期結果所需的步驟。

“可解釋的人工智能”代表了人工智能和機器學習領域越來越感興趣的領域。雖然人工智能技術可以根據(jù)數(shù)據(jù)自動做出決策，但“可解釋的人工智能”也為這些決策提供了個人原因——這有助于避免所謂的“黑匣子”現(xiàn)象，即人工智能通過不明確且可能存在問題的手段得出結論。

雖然某些技術也可以提供當個別項目出現(xiàn)不良結果時可以采取的假設改進，但這些技術并沒有提供任何具體的改進步驟。

例如，如果對受試者健康狀況進行判斷的人工智能確定一個人不健康，則可以應用新技術首先從身高、體重和血壓等健康檢查數(shù)據(jù)中解釋結果的原因。然后，新技術可以另外為用戶提供關于最佳健康方式的有針對性的建議，從過去的數(shù)據(jù)中識別大量復雜的體檢項目之間的相互作用，并顯示考慮到可行性和實施難度的具體改進步驟。.

最終，這項新技術提供了提高人工智能決策的透明度和可靠性的潛力，讓未來更多的人能夠以信任和安心的方式與利用人工智能的技術進行交互。更多細節(jié)將在AAAI-21，第三十五屆AAAI人工智能會議上公布，該會議將于2月2日星期二開幕。

發(fā)展背景

目前，深度學習技術廣泛應用于需要人臉識別和自動駕駛等高級任務的人工智能系統(tǒng)中，使用一種黑匣子預測模型，根據(jù)大量數(shù)據(jù)自動做出各種決策。然而，未來，確保人工智能系統(tǒng)的透明度和可靠性將成為人工智能為社會做出重要決策和建議的重要問題。這種需求導致對“可解釋人工智能”技術的興趣和研究增加。

例如，在體檢中，人工智能可以根據(jù)體重和肌肉質量等數(shù)據(jù)成功確定疾病風險水平(圖1(A))。除了對風險等級的判斷結果之外，人們越來越關注呈現(xiàn)作為判斷基礎的屬性(圖1(B))的“可解釋AI”。

由于人工智能根據(jù)輸入數(shù)據(jù)的屬性確定健康風險高，因此可以更改這些屬性的值以獲得低健康風險的預期結果。

圖1AI的判斷和解釋

問題

為了在AI自動化決策中達到預期的結果，不僅需要呈現(xiàn)需要更改的屬性，而且還需要盡可能少地呈現(xiàn)可以更改的屬性。

在體檢的情況下，如果想要將AI的決策結果從高風險狀態(tài)變?yōu)榈惋L險狀態(tài)，那么不費吹灰之力似乎可以增加肌肉量(圖2變化1)——但這樣做是不現(xiàn)實的只增加一個人的肌肉質量而不改變一個人的體重，所以實際上同時增加體重和肌肉質量是一個更現(xiàn)實的解決方案(圖2變化2)。

此外，體重和肌肉質量等屬性之間還有很多相互作用，比如體重隨著肌肉增長而增加的因果關系，做出改變所需的總努力取決于屬性改變的順序。因此，有必要呈現(xiàn)屬性更改的適當順序。在圖2中，為了從當前狀態(tài)達到變化2，是否應該首先改變體重或肌肉質量并不明顯，因此考慮到變化的可能性和順序，找到合適的變化方法仍然具有挑戰(zhàn)性。在眾多潛在候選人中。

圖2屬性變化

關于新開發(fā)的技術

通過機器學習和數(shù)據(jù)挖掘的聯(lián)合研究，富士通實驗室和北海道大學信息科學與技術研究生院有村實驗室開發(fā)了新的人工智能技術，可以向用戶解釋人工智能決策的原因，從而發(fā)現(xiàn)有用的、可操作的知識。

LIME和SHAP等AI技術已被開發(fā)為支持人類用戶決策的AI技術，是通過解釋AI做出此類決定的原因來使決策具有說服力的技術。聯(lián)合開發(fā)的新技術基于反事實解釋的概念，將屬性變化中的動作和執(zhí)行順序呈現(xiàn)為一個過程。在通過分析過去的案例避免不切實際的變化的同時，人工智能估計屬性值變化對其他屬性值的影響，例如因果關系，并據(jù)此計算用戶實際需要改變的量，從而實現(xiàn)動作的呈現(xiàn)。將以正確的順序以最少的努力獲得最佳結果。

例如，如果一個人必須增加1公斤肌肉質量和7公斤體重以降低輸入屬性及其順序(圖1(C))中的風險，他們會改變以獲得所需的結果體檢時，可以通過預先分析肌肉質量和體重之間的相互作用來估計這種關系。這意味著如果增加1公斤肌肉質量，體重將增加6公斤。在這種情況下，在體重變化所需的額外7公斤中，肌肉質量變化后所需的變化量僅為1公斤。換句話說，一個人實際需要做出的改變量是增加1公斤肌肉質量和1公斤體重，因此與首先改變體重的順序相比，人們可以更輕松地獲得所需的結果。

Fig.3屬性間的交互和變化

效果

利用聯(lián)合開發(fā)的反事實解釋人工智能技術，富士通和北海道大學驗證了三種類型的數(shù)據(jù)集，用于以下用例：糖尿病、貸款信用篩選和葡萄酒評估。通過將機器學習的三個關鍵算法——邏輯回歸、隨機森林和多層感知器——與新開發(fā)的技術相結合，我們已經(jīng)證實可以識別適當?shù)膭幼骱托蛄幸詫㈩A測更改為所需的結果比在所有數(shù)據(jù)集和機器學習算法組合中由現(xiàn)有技術派生的動作所付出的努力要少。事實證明，這對于貸款信用篩選用例特別有效，可以以不到一半的努力將預測更改為首選結果。

使用這項技術，當人工智能自動判斷預期出現(xiàn)不良結果時，可以提出將結果更改為更理想結果所需的操作。這將使人工智能的應用不僅可以擴展到判斷，還可以支持人類行為的改進。

未來的計劃

展望未來，富士通實驗室將繼續(xù)將該技術與單獨的因果發(fā)現(xiàn)技術相結合，以提供更合適的行動。富士通還將利用該技術擴展基于其專有“FUJITSUAITechnologyWideLearning”的動作提取技術，目標是在2021財年實現(xiàn)商業(yè)化。

北海道大學旨在建立人工智能技術，從各種現(xiàn)場數(shù)據(jù)中提取對人類決策有用的知識和信息，而不僅限于行動的呈現(xiàn)。

標簽：