正如圖像處理、智能醫(yī)療、自動駕駛汽車和智慧城市等人工智能(AI)各個領域的突破所證明的那樣，這無疑是深度學習的黃金時期。在接下來的十年左右，人工智能和計算系統(tǒng)最終將具備像人類一樣學習和思考的能力——處理持續(xù)的信息流并與現(xiàn)實世界互動。

然而，當前的AI模型在連續(xù)接受新信息訓練時會遭受性能損失。這是因為每次生成新數(shù)據(jù)時，都會將其寫入現(xiàn)有數(shù)據(jù)之上，從而擦除以前的信息。這種效應被稱為“災難性遺忘”。穩(wěn)定性-可塑性問題帶來了一個困難，即AI模型需要更新其記憶以不斷適應新信息，同時保持其當前知識的穩(wěn)定性。這個問題阻止了最先進的人工智能不斷地從現(xiàn)實世界的信息中學習。

邊緣計算系統(tǒng)允許將計算從云存儲和數(shù)據(jù)中心轉移到原始源附近，例如連接到物聯(lián)網(wǎng)(IoT)的設備。在資源有限的邊緣計算系統(tǒng)上有效地應用持續(xù)學習仍然是一個挑戰(zhàn)，盡管已經提出了許多持續(xù)學習模型來解決這個問題。傳統(tǒng)模型需要高計算能力和大內存容量。

新加坡科技設計大學(SUTD)的一組研究人員最近設計了一種用于實現(xiàn)節(jié)能持續(xù)學習系統(tǒng)的新型代碼，這些研究人員包括Shao-XiangGo、WangWang、BoWang、YuJiang和娜塔莎·巴哈洛維奇。該團隊由首席研究員、來自SUTD的助理教授DesmondLoke領導。這些研究人員的研究“電阻開關存儲器材料中的持續(xù)學習電導”發(fā)表在《高級理論與模擬》雜志上。

該團隊提出了Brain-InspiredReplay(BIR)，這是一種受大腦啟發(fā)的模型，可以自然地進行持續(xù)學習。BIR模型基于人工神經網(wǎng)絡和變分自編碼器的使用，模仿人腦的功能，在不存儲數(shù)據(jù)的情況下可以在類增量學習情況下表現(xiàn)良好。研究人員還使用BIR模型來表示在數(shù)字存儲系統(tǒng)中使用電流的導電細絲生長。

“在這個模型中，知識被保存在經過訓練的模型中，以便在引入額外任務時最大限度地減少性能損失，而無需參考以前工作的數(shù)據(jù)，”助理教授Loke解釋說。“所以，這為我們節(jié)省了大量的能源。”

“此外，在不存儲數(shù)據(jù)的情況下，在挑戰(zhàn)當前學習任務的合規(guī)性方面實現(xiàn)了89%的最新準確率，這比傳統(tǒng)的持續(xù)學習模型高出約兩倍，并且能源效率高，”“他加了。

為了讓模型能夠獨立處理現(xiàn)實世界中的現(xiàn)場信息，團隊計劃在下一階段的研究中擴展模型的可調能力。

“基于小規(guī)模示范，這項研究仍處于早期階段，”助理教授洛克說。“采用這種方法有望讓邊緣人工智能系統(tǒng)在沒有人為控制的情況下獨立發(fā)展。”

　　免責聲明：本文由用戶上傳，與本網(wǎng)站立場無關。財經信息僅供讀者參考，并不構成投資建議。投資者據(jù)此操作，風險自擔。 如有侵權請聯(lián)系刪除！