人工智能(AI)領(lǐng)域已經(jīng)創(chuàng)造出可以駕駛汽車，合成化合物，折疊蛋白質(zhì)并以超人水平檢測高能粒子的計算機。但是，這些AI算法無法解釋其決策背后的思維過程。一臺掌握蛋白質(zhì)折疊功能并告訴研究人員更多生物學規(guī)則的計算機比一臺無需解釋即可折疊蛋白質(zhì)的計算機有用得多。

因此，像我這樣的AI研究人員現(xiàn)在正在將精力轉(zhuǎn)向開發(fā)可以以人類能夠理解的方式進行自我解釋的AI算法。如果我們能夠做到這一點，我相信人工智能將能夠發(fā)現(xiàn)并向人們傳授尚未發(fā)現(xiàn)的關(guān)于世界的新事實，從而帶來新的創(chuàng)新。

從經(jīng)驗中學習

AI的一個領(lǐng)域稱為強化學習，研究計算機如何從自己的經(jīng)驗中學習。在強化學習中，人工智能可以探索世界，并根據(jù)其行為獲得正面或負面的反饋。

這種方法導致算法可以獨立學習超人水平的國際象棋并在沒有任何人工指導的情況下證明數(shù)學定理。在我作為AI研究人員的工作中，我使用強化學習來創(chuàng)建AI算法，以學習如何解決諸如Rubik's Cube之類的難題。

通過強化學習，AI可以獨立學習解決甚至人類都難以解決的問題。這使我和其他許多研究人員對AI可以學習的內(nèi)容的思考減少了，對人類可以從AI中學習的知識的思考減少了。能夠解決魔方的計算機也應(yīng)該能夠教人們?nèi)绾谓鉀Q它。

窺視黑匣子

不幸的是，超人類AI的思想目前對我們?nèi)祟悂碚f是遙不可及的。人工智能造就了可怕的老師，這就是我們在計算機科學界所說的“黑匣子”。

逐步完善的方法可以使人類更容易理解為什么AI會做他們所做的事情。圖片來源：Forest Agostinelli，CC BY-ND

黑盒子的AI只會吐出解決方案，而沒有給出解決方案的理由。計算機科學家數(shù)十年來一直在嘗試打開這個黑匣子，而最近的研究表明，許多AI算法實際上以與人類相似的方式思考。例如，訓練有素的識別動物的計算機將了解不同類型的眼睛和耳朵，并將這些信息放在一起以正確識別動物。

打開黑匣子的工作稱為可解釋的AI。我在南卡羅來納大學AI研究所的研究小組對開發(fā)可解釋的AI感興趣。為了實現(xiàn)這一目標，我們與Rubik's Cube緊密合作。

魔方魔方本質(zhì)上是一個尋路問題：找到一條從點A(一個混亂的魔方)到點B的路徑-一個已解決的魔方。其他尋路問題包括導航，定理證明和化學合成。

我的實驗室建立了一個網(wǎng)站，任何人都可以看到我們的AI算法如何解決Rubik's Cube;但是，一個人很難從該網(wǎng)站上學習如何求解多維數(shù)據(jù)集。這是因為計算機無法告訴您其解決方案背后的邏輯。

Rubik's Cube的解決方案可以分解為幾個通用步驟-例如，第一步可以是形成十字形，而第二步可以是將拐角零件放置到位。雖然魔方本身具有超過10到19的可能冪組合，但通用的分步指南非常容易記住，并且適用于許多不同的情況。

通過將問題分解為多個步驟來解決問題通常是人們相互解釋事物的默認方式。Rubik的多維數(shù)據(jù)集自然適合此分步框架，這使我們有機會更輕松地打開算法的黑匣子。創(chuàng)建具有這種能力的AI算法可以使人們與AI合作，并將各種復雜的問題分解為易于理解的步驟。

協(xié)作帶來創(chuàng)新

我們的過程始于使用自己的直覺來定義逐步解決方案，以解決潛在的復雜問題。然后，算法查看每個單獨的步驟，并給出關(guān)于哪些步驟可行，哪些不可能，以及如何改進計劃的反饋。然后，人員使用AI的建議來完善初始計劃，然后重復該過程，直到問題解決為止。希望人與AI最終會融合成一種相互理解的方式。

目前，我們的算法能夠考慮解決盧比克魔方的人工計劃，提出對計劃的改進，識別無效的計劃并找到可行的替代方案。這樣，它會提供反饋，從而導致逐步解決人可以理解的魔方的計劃。我們團隊的下一步是建立一個直觀的界面，該界面將使我們的算法可以教人們?nèi)绾谓鉀Q魔方。我們希望將這種方法推廣到廣泛的尋路問題。

人們以任何AI都無法比擬的方式直觀，但是機器的計算能力和算法嚴格性要好得多。人與機器之間的這種來回結(jié)合利用了兩者的優(yōu)勢。我相信，這種合作將揭示從化學到數(shù)學各個領(lǐng)域以前未解決的問題，從而帶來可能無法實現(xiàn)的新解決方案，直覺和創(chuàng)新。

標簽： 人工智能