計算卡在車轍中。在過去的50年的技術(shù)革命中，為集成電路供電的集成電路已達(dá)到其物理極限。桑迪亞國家實驗室的研究人員正在從大腦中的神經(jīng)元中汲取靈感，例如鼠標(biāo)新皮質(zhì)中這些綠色熒光蛋白標(biāo)記的神經(jīng)元，目的是開發(fā)受神經(jīng)啟發(fā)的計算系統(tǒng)以重新啟動計算。

這種困境使計算機(jī)科學(xué)家們爭相提出新的想法：使用新穎物理學(xué)構(gòu)造的新設(shè)備，計算機(jī)內(nèi)部單元組織的新方式，甚至是更有效地使用新系統(tǒng)或現(xiàn)有系統(tǒng)的算法。為了幫助協(xié)調(diào)新想法，桑迪亞國家實驗室(Sandia National Laboratories)協(xié)助組織了10月17日至19日舉行的電氣與電子工程師協(xié)會(IEEE)重新啟動計算國際會議。

桑迪亞數(shù)據(jù)驅(qū)動和神經(jīng)計算系的研究人員將在會議上發(fā)表三篇論文，重點(diǎn)介紹了潛在的非傳統(tǒng)神經(jīng)計算應(yīng)用的廣度。

“我們正在努力探索神經(jīng)算法的作用范圍。我們不是試圖詳盡無遺，而是試圖強(qiáng)調(diào)算法可能在其上產(chǎn)生影響的應(yīng)用程序類型。”計算神經(jīng)科學(xué)家布拉德·艾蒙(Brad Aimone)說，他是一篇論文的合著者。他補(bǔ)充說，從歷史上看，神經(jīng)計算被視為近似和模糊的。但是，桑迪亞(Sandia)研究人員在論文中旨在擴(kuò)展神經(jīng)算法，使其具有嚴(yán)格性和可預(yù)測性，這表明它們可能在高性能科學(xué)計算中發(fā)揮作用。

這三篇論文的標(biāo)題分別為Craig Vineyard和Steve Verzi的“克服靜態(tài)學(xué)習(xí)瓶頸-自適應(yīng)神經(jīng)學(xué)習(xí)的需求”。Fred Rothganger的“利用動力系統(tǒng)進(jìn)行計算”;William Severa，Ojas Parekh，Kris Carlson，Conrad James和Aimone撰寫的“科學(xué)計算的加標(biāo)網(wǎng)絡(luò)算法”。

不斷學(xué)習(xí)的麻煩和好處

大腦在不斷學(xué)習(xí)。“雖然我們確實在學(xué)校學(xué)習(xí)，但是當(dāng)學(xué)校結(jié)束時，我們的學(xué)習(xí)不會停止。相反，我們的大腦通過突觸修飾等過程不斷適應(yīng)。但是，大多數(shù)機(jī)器學(xué)習(xí)算法只能學(xué)習(xí)一次并完成。”計算機(jī)科學(xué)家Vineyard說。

大多數(shù)所謂的機(jī)器學(xué)習(xí)算法都有一個學(xué)習(xí)階段以及一個單獨(dú)的測試和操作階段。這確實很耗時。Vineyard說，雄心勃勃且具有挑戰(zhàn)性的嘗試來開發(fā)不斷學(xué)習(xí)的算法，也冒著該算法“學(xué)習(xí)”錯誤的風(fēng)險。

他的論文主張繼續(xù)學(xué)習(xí)，并建議使用博弈論(邏輯決策的數(shù)學(xué)方法，例如何時清除垃圾以及何時希望室友為您做這件事)，以提高算法何時決策的準(zhǔn)確性。應(yīng)該學(xué)習(xí)。

反正什么是動力系統(tǒng)?

動力系統(tǒng)是描述事物如何隨時間變化的方程式。一個簡單的動力系統(tǒng)是描述祖父鐘擺運(yùn)動的功能。“使用動態(tài)系統(tǒng)進(jìn)行計算的想法是制造一臺機(jī)器，使其動力學(xué)(與機(jī)器的結(jié)構(gòu)或數(shù)學(xué)的結(jié)構(gòu)有關(guān))將根據(jù)問題的產(chǎn)生將其引導(dǎo)至答案，”計算機(jī)科學(xué)家Rothganger說。

Rothganger說，我們的大腦以及某種程度上的傳統(tǒng)計算機(jī)都是動態(tài)系統(tǒng)：它們僅基于問題以及計算機(jī)的構(gòu)造方式找到答案。他的論文提出，如果研究人員將傳統(tǒng)的科學(xué)計算問題(矩陣分解)視為動力系統(tǒng)，則可以在神經(jīng)系統(tǒng)上嚴(yán)格解決它們。

Rothganger說：“我正在研究的想法有很多潛力，也有很多風(fēng)險。” 如果他的想法可行，“它將在神經(jīng)算法和傳統(tǒng)數(shù)值算法之間提供一個統(tǒng)一點(diǎn)。”

工匠數(shù)學(xué)家制作尖峰網(wǎng)絡(luò)算法

第三篇論文確定了三種手工制作的算法，這些算法使用精心布置的尖刺狀神經(jīng)元節(jié)點(diǎn)來執(zhí)行精確的計算。在大腦中，每個神經(jīng)元都與許多其他神經(jīng)元相連，并利用電的尖峰進(jìn)行交流。數(shù)學(xué)家Severa及其合作者從大腦的這些方面獲得了啟發(fā)。

這些創(chuàng)新算法的一個示例是一種稱為粒子圖像測速的流量估算。通過拍攝兩張塵埃在空中移動的照片，并弄清它們在兩次照片之間的間隔時間，研究人員可以確定空氣的速度和任何局部渦流。他說，這可以在使用花式數(shù)學(xué)的傳統(tǒng)計算機(jī)上完成，但是Severa的方法利用了神經(jīng)元的大規(guī)模并行特性來有效地計算所有可能的移位。

“通過仔細(xì)設(shè)計您的網(wǎng)絡(luò)和神經(jīng)元的屬性，您可以做精確的事情，” Severa說。“您可以超越神經(jīng)網(wǎng)絡(luò)的預(yù)期范圍。”

未來是否會在您的手機(jī)中安裝受神經(jīng)啟發(fā)的計算機(jī)，這些計算機(jī)能夠理解“給我看一張蓬松的可愛照片”和“訂購我最喜歡的菜”之類的短語，或者神經(jīng)計算機(jī)是否還可以與未來的量子計算機(jī)一起快速解決難題? Aimone說，計算需要重新設(shè)計，很快。他說，通過召集許多不同學(xué)科的專家，國際重新啟動計算大會旨在培育新思想并推動這場革命。

標(biāo)簽： 神經(jīng)元