人工智能(AI)領(lǐng)域已經(jīng)創(chuàng)造出可以駕駛汽車，合成化合物，折疊蛋白質(zhì)并以超人水平檢測高能粒子的計算機(jī)。但是，這些AI算法無法解釋其決策背后的思維過程。一臺掌握蛋白質(zhì)折疊功能并告訴研究人員更多生物學(xué)規(guī)則的計算機(jī)比一臺無需解釋即可折疊蛋白質(zhì)的計算機(jī)有用得多。

因此，像我這樣的AI研究人員現(xiàn)在正在將精力轉(zhuǎn)向開發(fā)可以以人類能夠理解的方式進(jìn)行自我解釋的AI算法。如果我們能夠做到這一點，我相信人工智能將能夠發(fā)現(xiàn)并向人們傳授尚未發(fā)現(xiàn)的關(guān)于世界的新事實，從而帶來新的創(chuàng)新。

從經(jīng)驗中學(xué)習(xí)

AI的一個領(lǐng)域稱為強(qiáng)化學(xué)習(xí)，研究計算機(jī)如何從自己的經(jīng)驗中學(xué)習(xí)。在強(qiáng)化學(xué)習(xí)中，人工智能可以探索世界，并根據(jù)其行為獲得正面或負(fù)面的反饋。

這種方法導(dǎo)致算法可以獨立學(xué)習(xí)超人水平的國際象棋并在沒有任何人工指導(dǎo)的情況下證明數(shù)學(xué)定理。在我作為AI研究人員的工作中，我使用強(qiáng)化學(xué)習(xí)來創(chuàng)建AI算法，以學(xué)習(xí)如何解決諸如Rubik's Cube之類的難題。

通過強(qiáng)化學(xué)習(xí)，AI可以獨立學(xué)習(xí)解決甚至人類都難以解決的問題。這使我和其他許多研究人員對AI可以學(xué)習(xí)的內(nèi)容的思考減少了，對人類可以從AI中學(xué)習(xí)的知識的思考減少了。能夠解決魔方的計算機(jī)也應(yīng)該能夠教人們?nèi)绾谓鉀Q它。

窺視黑匣子

不幸的是，超人類AI的思想目前對我們?nèi)祟悂碚f是遙不可及的。人工智能造就了可怕的老師，這就是我們在計算機(jī)科學(xué)界所說的“黑匣子”。

逐步完善的方法可以使人類更容易理解為什么AI會做他們所做的事情。圖片來源：Forest Agostinelli，CC BY-ND

黑盒子的AI只會吐出解決方案，而沒有給出解決方案的理由。計算機(jī)科學(xué)家數(shù)十年來一直在嘗試打開這個黑匣子，而最近的研究表明，許多AI算法實際上以與人類相似的方式思考。例如，訓(xùn)練有素的識別動物的計算機(jī)將了解不同類型的眼睛和耳朵，并將這些信息放在一起以正確識別動物。

打開黑匣子的工作稱為可解釋的AI。我在南卡羅來納大學(xué)AI研究所的研究小組對開發(fā)可解釋的AI感興趣。為了實現(xiàn)這一目標(biāo)，我們與Rubik's Cube緊密合作。

魔方魔方本質(zhì)上是一個尋路問題：找到一條從點A(一個混亂的魔方)到點B的路徑-一個已解決的魔方。其他尋路問題包括導(dǎo)航，定理證明和化學(xué)合成。

我的實驗室建立了一個網(wǎng)站，任何人都可以看到我們的AI算法如何解決Rubik's Cube;但是，一個人很難從該網(wǎng)站上學(xué)習(xí)如何求解多維數(shù)據(jù)集。這是因為計算機(jī)無法告訴您其解決方案背后的邏輯。

Rubik's Cube的解決方案可以分解為幾個通用步驟-例如，第一步可以是形成十字形，而第二步可以是將拐角零件放置到位。雖然魔方本身具有超過10到19的可能冪組合，但通用的分步指南非常容易記住，并且適用于許多不同的情況。

通過將問題分解為多個步驟來解決問題通常是人們相互解釋事物的默認(rèn)方式。Rubik的多維數(shù)據(jù)集自然適合此分步框架，這使我們有機(jī)會更輕松地打開算法的黑匣子。創(chuàng)建具有這種能力的AI算法可以使人們與AI合作，并將各種復(fù)雜的問題分解為易于理解的步驟。

協(xié)作帶來創(chuàng)新

我們的過程始于使用自己的直覺來定義逐步解決方案，以解決潛在的復(fù)雜問題。然后，算法查看每個單獨的步驟，并給出關(guān)于哪些步驟可行，哪些不可能，以及如何改進(jìn)計劃的反饋。然后，人員使用AI的建議來完善初始計劃，然后重復(fù)該過程，直到問題解決為止。希望人與AI最終會融合成一種相互理解的方式。

目前，我們的算法能夠考慮解決盧比克魔方的人工計劃，提出對計劃的改進(jìn)，識別無效的計劃并找到可行的替代方案。這樣，它會提供反饋，從而導(dǎo)致逐步解決人可以理解的魔方的計劃。我們團(tuán)隊的下一步是建立一個直觀的界面，該界面將使我們的算法可以教人們?nèi)绾谓鉀Q魔方。我們希望將這種方法推廣到廣泛的尋路問題。

人們以任何AI都無法比擬的方式直觀，但是機(jī)器的計算能力和算法嚴(yán)格性要好得多。人與機(jī)器之間的這種來回結(jié)合利用了兩者的優(yōu)勢。我相信，這種合作將揭示從化學(xué)到數(shù)學(xué)各個領(lǐng)域以前未解決的問題，從而帶來可能無法實現(xiàn)的新解決方案，直覺和創(chuàng)新。

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場無關(guān)。財經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險自擔(dān)。 如有侵權(quán)請聯(lián)系刪除！