研究人員發(fā)現(xiàn)，腦細(xì)胞之間的差異可能會(huì)加速學(xué)習(xí)并提高大腦和未來(lái)人工智能的性能。新研究發(fā)現(xiàn)，通過(guò)在大腦網(wǎng)絡(luò)模擬中調(diào)整單個(gè)細(xì)胞的電學(xué)特性，網(wǎng)絡(luò)比使用相同細(xì)胞的模擬學(xué)習(xí)得更快。

他們還發(fā)現(xiàn)，網(wǎng)絡(luò)需要更少的調(diào)整單元來(lái)獲得相同的結(jié)果，并且該方法比具有相同單元的模型能耗更低。

作者說(shuō)，他們的發(fā)現(xiàn)可以告訴我們?yōu)槭裁次覀兊拇竽X如此擅長(zhǎng)學(xué)習(xí)，也可能幫助我們構(gòu)建更好的人工智能系統(tǒng)，例如可以識(shí)別語(yǔ)音和面部的數(shù)字助理，或自動(dòng)駕駛汽車技術(shù)。

第一作者 Nicolas Perez，博士。倫敦帝國(guó)理工學(xué)院電氣與電子工程系的學(xué)生說(shuō)：“大腦需要節(jié)能，同時(shí)仍然能夠擅長(zhǎng)解決復(fù)雜的任務(wù)。我們的工作表明，大腦和人工智能中的神經(jīng)元多樣性可以同時(shí)滿足這些要求。要求，并可以促進(jìn)學(xué)習(xí)。”

該研究發(fā)表在《自然通訊》上。

研究人員讓 AI 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)和識(shí)別手勢(shì)。圖片來(lái)源：倫敦帝國(guó)理工學(xué)院

為什么神經(jīng)元像雪花?

大腦由數(shù)十億個(gè)稱為神經(jīng)元的細(xì)胞組成，這些細(xì)胞通過(guò)巨大的“神經(jīng)網(wǎng)絡(luò)”連接起來(lái)，使我們能夠了解世界。神經(jīng)元就像雪花：從遠(yuǎn)處看它們是一樣的，但進(jìn)一步觀察很明顯，沒(méi)有兩個(gè)是完全相同的。

相比之下，人工神經(jīng)網(wǎng)絡(luò)(人工智能所基于的技術(shù))中的每個(gè)細(xì)胞都是相同的，只是它們的連接性不同。盡管 AI 技術(shù)的發(fā)展速度很快，但它們的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的準(zhǔn)確度或速度不如人腦——研究人員想知道它們?nèi)狈?xì)胞變異性是否可能是罪魁禍?zhǔn)住?/p>

他們著手研究通過(guò)改變神經(jīng)網(wǎng)絡(luò)細(xì)胞特性來(lái)模擬大腦是否可以促進(jìn)人工智能的學(xué)習(xí)。他們發(fā)現(xiàn)細(xì)胞的變異性提高了他們的學(xué)習(xí)能力并降低了能量消耗。

第一作者、帝國(guó)理工學(xué)院電氣和電子工程系的 Dan Goodman 博士說(shuō)：“進(jìn)化賦予了我們難以置信的大腦功能——其中大部分我們才剛剛開(kāi)始理解。我們的研究表明，我們可以從我們的大腦中吸取重要的教訓(xùn)。自己的生物學(xué)，讓人工智能更好地為我們工作。”

調(diào)整時(shí)間

為了進(jìn)行這項(xiàng)研究，研究人員專注于調(diào)整“時(shí)間常數(shù)”——也就是說(shuō)，每個(gè)細(xì)胞根據(jù)與其相連的細(xì)胞正在做什么來(lái)決定它想要做什么的速度。有些細(xì)胞會(huì)很快做出決定，只看連接的細(xì)胞剛剛做了什么。其他細(xì)胞的反應(yīng)會(huì)較慢，它們的決定基于其他細(xì)胞一段時(shí)間以來(lái)一直在做什么。

在改變細(xì)胞的時(shí)間常數(shù)后，他們讓網(wǎng)絡(luò)執(zhí)行一些基準(zhǔn)機(jī)器學(xué)習(xí)任務(wù)：對(duì)衣服和手寫(xiě)數(shù)字的圖像進(jìn)行分類;識(shí)別人類手勢(shì);并識(shí)別口語(yǔ)數(shù)字和命令。

結(jié)果表明，通過(guò)允許網(wǎng)絡(luò)結(jié)合慢速和快速信息，它能夠更好地解決更復(fù)雜的現(xiàn)實(shí)世界中的任務(wù)。

當(dāng)他們改變模擬網(wǎng)絡(luò)中的變異量時(shí)，他們發(fā)現(xiàn)表現(xiàn)最好的網(wǎng)絡(luò)與大腦中看到的變異量相匹配，這表明大腦可能已經(jīng)進(jìn)化為具有恰到好處的變異量以實(shí)現(xiàn)最佳學(xué)習(xí)。

Nicolas 補(bǔ)充說(shuō)，他們“證明了人工智能可以通過(guò)模擬某些大腦特性來(lái)更接近我們大腦的工作方式。然而，目前的人工智能系統(tǒng)遠(yuǎn)未達(dá)到我們?cè)谏锵到y(tǒng)中發(fā)現(xiàn)的能源效率水平。

“接下來(lái)，我們將研究如何降低這些網(wǎng)絡(luò)的能耗，讓 AI 網(wǎng)絡(luò)更接近于像大腦一樣高效地運(yùn)行。”

Nicolas Perez-Nieves、Vincent CH Leung、Pier Luigi Dragotti 和 Dan FM Goodman 于 2021 年 10 月 4 日在Nature Communications 上發(fā)表的“神經(jīng)異質(zhì)性促進(jìn)了穩(wěn)健學(xué)習(xí)” 。

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場(chǎng)無(wú)關(guān)。財(cái)經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。 如有侵權(quán)請(qǐng)聯(lián)系刪除！