新型的神經(jīng)網(wǎng)絡(luò)可以幫助自動(dòng)駕駛和醫(yī)療診斷方面的決策。麻省理工學(xué)院的研究人員開發(fā)了一種神經(jīng)網(wǎng)絡(luò)，可以在工作中學(xué)習(xí)，而不僅僅是在培訓(xùn)階段。這些靈活的算法被稱為“液體”網(wǎng)絡(luò)，可以更改其基本公式，以不斷適應(yīng)新的數(shù)據(jù)輸入。這一進(jìn)步可以幫助根據(jù)隨時(shí)間變化的數(shù)據(jù)流做出決策，包括與醫(yī)學(xué)診斷和自動(dòng)駕駛有關(guān)的數(shù)據(jù)流。

麻省理工學(xué)院的研究人員開發(fā)了一種神經(jīng)“液體”網(wǎng)絡(luò)，該網(wǎng)絡(luò)可以改變方程式的參數(shù)，從而增強(qiáng)其分析時(shí)間序列數(shù)據(jù)的能力。圖片來源：麻省理工學(xué)院Jose-Luis Olivares

該研究的 主要作者拉米·哈薩尼說：“這是未來機(jī)器人控制，自然語言處理，視頻處理-任何形式的時(shí)間序列數(shù)據(jù)處理的前進(jìn)方向 。” “潛力確實(shí)很大。”

這項(xiàng)研究將在2月的AAAI人工智能會(huì)議上進(jìn)行。除了Hasani，麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室(CSAIL)的博士后，麻省理工學(xué)院的合著者還包括CSAIL主任Daniela Rus，電氣工程與計(jì)算機(jī)科學(xué)系的Andrew and Erna Viterbi教授以及博士生Alexander Amini。其他合著者包括奧地利科學(xué)技術(shù)學(xué)院的Mathias Lechner和維也納工業(yè)大學(xué)的Radu Grosu。

哈薩尼說，時(shí)間序列數(shù)據(jù)對(duì)于我們對(duì)世界的理解來說無處不在且至關(guān)重要。“現(xiàn)實(shí)世界全都與序列有關(guān)。甚至我們的感知-您不是在感知圖像，而是在感知圖像序列，”他說。“因此，時(shí)序數(shù)據(jù)實(shí)際上創(chuàng)造了我們的現(xiàn)實(shí)。”

他指出視頻處理，財(cái)務(wù)數(shù)據(jù)和醫(yī)療診斷應(yīng)用程序是對(duì)社會(huì)至關(guān)重要的時(shí)間序列示例。這些不斷變化的數(shù)據(jù)流的變遷是不可預(yù)測(cè)的。然而，實(shí)時(shí)分析這些數(shù)據(jù)，并使用它們預(yù)測(cè)未來的行為，可以促進(jìn)自動(dòng)駕駛汽車等新興技術(shù)的發(fā)展。因此，哈薩尼(Hasani)建立了適合該任務(wù)的算法。

Hasani設(shè)計(jì)了一種神經(jīng)網(wǎng)絡(luò)，可以適應(yīng)現(xiàn)實(shí)世界系統(tǒng)的可變性。神經(jīng)網(wǎng)絡(luò)是通過分析一組“訓(xùn)練”示例來識(shí)別模式的算法。人們常說它們模仿了大腦的加工路徑-Hasani直接從細(xì)線蟲C. elegans身上汲取了靈感 。他說：“它的神經(jīng)系統(tǒng)只有302個(gè)神經(jīng)元，但它卻可以產(chǎn)生意想不到的復(fù)雜動(dòng)力。”

Hasani對(duì)他的神經(jīng)網(wǎng)絡(luò)進(jìn)行了編碼，并特別注意秀麗隱桿線蟲 神經(jīng)元如何 通過電脈沖激活和相互交流。在他用來構(gòu)造神經(jīng)網(wǎng)絡(luò)的方程式中，他基于一組嵌套的微分??方程的結(jié)果，允許參數(shù)隨時(shí)間變化。

這種靈活性是關(guān)鍵。大多數(shù)神經(jīng)網(wǎng)絡(luò)的行為在訓(xùn)練階段之后是固定的，這意味著它們很難適應(yīng)傳入數(shù)據(jù)流中的變化。哈薩尼說，他的“液體”網(wǎng)絡(luò)的流動(dòng)性使其對(duì)意外或嘈雜的數(shù)據(jù)更具彈性，就像大雨遮擋了自動(dòng)駕駛汽車上攝像機(jī)的視線一樣。他說：“因此，它更強(qiáng)大。”

他補(bǔ)充說，網(wǎng)絡(luò)靈活性的另一個(gè)優(yōu)勢(shì)是：“它更具解釋性。”

哈薩尼說，他的液體網(wǎng)絡(luò)避開了 其他神經(jīng)網(wǎng)絡(luò)所 共有的難解性。Hasani對(duì)微分方程所做的“僅改變神經(jīng)元的表示，就可以真正探索出某種程度的復(fù)雜性，而這些復(fù)雜性是您無法探索的。” 由于Hasani的高表達(dá)神經(jīng)元數(shù)量很少，因此更容易窺視網(wǎng)絡(luò)決策的“黑匣子”并診斷網(wǎng)絡(luò)為何具有特定特征。

哈薩尼說：“模型本身在表達(dá)能力方面更豐富。” 這可以幫助工程師了解并改善流動(dòng)網(wǎng)絡(luò)的性能。

Hasani的網(wǎng)絡(luò)在一系列測(cè)試中表現(xiàn)出色。在準(zhǔn)確預(yù)測(cè)數(shù)據(jù)集的未來值(從大氣化學(xué)到交通模式)方面，它使其他最新的時(shí)間序列算法的優(yōu)勢(shì)降低了幾個(gè)百分點(diǎn)。他說：“在許多應(yīng)用中，我們看到性能確實(shí)很高。” 另外，該網(wǎng)絡(luò)的體積小，意味著它無需花費(fèi)高昂的計(jì)算成本即可完成測(cè)試。“所有人都在談?wù)摂U(kuò)大其網(wǎng)絡(luò)，”哈薩尼說。“我們希望縮減規(guī)模，以減少節(jié)點(diǎn)數(shù)量，但增加節(jié)點(diǎn)數(shù)量。”

Hasani計(jì)劃繼續(xù)改進(jìn)該系統(tǒng)，并將其投入工業(yè)應(yīng)用。“我們擁有一個(gè)受自然啟發(fā)的更具表現(xiàn)力的神經(jīng)網(wǎng)絡(luò)。但這只是該過程的開始。”他說。“顯而易見的問題是您如何擴(kuò)展此范圍?我們認(rèn)為這種網(wǎng)絡(luò)可能是未來情報(bào)系統(tǒng)的關(guān)鍵要素。”

標(biāo)簽：