與疾病預防疫苗相同的編程技術可以保護機器學習系統(tǒng)免受惡意網(wǎng)絡攻擊。這項技術是由澳大利亞國家科學機構CSIRO的數(shù)字專家組開發(fā)的，最近在美國加州長灘舉行的國際機器學習大會上進行了展示。

機器學習系統(tǒng)或神經(jīng)網(wǎng)絡在現(xiàn)代社會中變得越來越流行，并被廣泛應用于交通管理、醫(yī)療診斷和農(nóng)業(yè)中。它們也是自動駕駛汽車的關鍵部件。

它們在初始訓練階段運行，在此期間，它們被喂以給定任務的數(shù)萬次可能的迭代。然后，產(chǎn)生的算法具有學習的能力——增加其自身的可能性并相應地采取行動，而無需進一步的人工輸入。

然而，盡管它們是高效的，機器傾斜系統(tǒng)——像任何計算機驅動的機制一樣——仍然容易受到黑客的攻擊。這樣做的主要方式是引入“噪聲”——干擾和扭曲輸入信號的額外數(shù)據(jù)點——從而使外部元素被錯誤分類。

這種方法在商業(yè)術語中被稱為將“對立的例子”引入系統(tǒng)。通過添加噪聲(通常不是很大的噪聲)，機器學習算法可以被誤導，將熊貓圖像歸類為長臂猿。

更具體地說，鑒于自動駕駛汽車的興起，它們可能會受到黑客的攻擊，并被說服將停車標志歸類為綠色交通燈。

使機器學習系統(tǒng)具有反破壞性是一個生動的研究領域。最近的研究發(fā)現(xiàn)，現(xiàn)實世界的例子很容易使用，而不是使用比智能手機攝像頭更復雜的東西。

理查德諾克領導的研究人員采用的最新方法受到了公共衛(wèi)生的啟發(fā)。

在醫(yī)學上，疫苗接種依賴于將身體免疫系統(tǒng)暴露于病原體(如導致流感或脊髓灰質炎的病毒)的虛弱或死亡版本的理性想法，這促進了特定抗體的發(fā)展。然后免疫系統(tǒng)“記住”病原體，這樣下次它遇到它時——完全地、真實地——它會識別它并立即消滅它。

諾克和他的同事以同樣的方式處理他們的任務。

他解釋說：“我們的新技術使用類似于疫苗接種的過程來防止對抗性攻擊。

“我們實現(xiàn)對手的弱版本，例如對圖像集進行微小的修改或扭曲，以創(chuàng)建更“困難”的訓練數(shù)據(jù)集。當算法針對暴露于小劑量失真的數(shù)據(jù)進行訓練時，所獲得的模型更強大，并且沒有對抗攻擊?！?

這種方法還處于早期階段，還沒有針對真實情況下的真實惡意入侵嘗試進行測試，但結果是有希望的。它們在這里提供的預打印紙中有詳細描述。

雖然顯然需要更多的測試，但現(xiàn)階段沒有證據(jù)表明接種疫苗可能導致計算機自閉癥。

鄭重聲明：本文版權歸原作者所有。轉載文章只是為了傳播更多的信息。如果作者信息標注有誤，請第一時間聯(lián)系我們修改或刪除。謝謝你。

　　免責聲明：本文由用戶上傳，與本網(wǎng)站立場無關。財經(jīng)信息僅供讀者參考，并不構成投資建議。投資者據(jù)此操作，風險自擔。 如有侵權請聯(lián)系刪除！