洛斯阿拉莫斯國家實(shí)驗(yàn)室的一個(gè)團(tuán)隊(duì)開發(fā)了一種比較神經(jīng)網(wǎng)絡(luò)的新方法，該方法看起來在人工智能的“黑匣子”內(nèi)，以幫助研究人員了解神經(jīng)網(wǎng)絡(luò)行為。神經(jīng)網(wǎng)絡(luò)識別數(shù)據(jù)集中的模式;它們在社會(huì)中無處不在，例如虛擬助手、面部識別系統(tǒng)和自動(dòng)駕駛汽車等應(yīng)用。

“人工智能研究界不一定完全了解神經(jīng)網(wǎng)絡(luò)在做什么;它們給了我們很好的結(jié)果，但我們不知道如何或?yàn)槭裁矗?rdquo;高級網(wǎng)絡(luò)研究的研究員海頓·瓊斯說洛斯阿拉莫斯的系統(tǒng)組。“我們的新方法在比較神經(jīng)網(wǎng)絡(luò)方面做得更好，這是更好地理解人工智能背后的數(shù)學(xué)的關(guān)鍵一步。”

瓊斯是最近在人工智能不確定性會(huì)議上發(fā)表的論文“如果你訓(xùn)練了一個(gè)人，你已經(jīng)訓(xùn)練了所有人：架構(gòu)間的相似性隨著魯棒性而增加”的主要作者。除了研究網(wǎng)絡(luò)相似性之外，這篇論文是表征魯棒神經(jīng)網(wǎng)絡(luò)行為的關(guān)鍵一步。

神經(jīng)網(wǎng)絡(luò)是高性能的，但很脆弱。例如，自動(dòng)駕駛汽車使用神經(jīng)網(wǎng)絡(luò)來檢測標(biāo)志。當(dāng)條件理想時(shí)，他們做得很好。然而，最小的異常——例如停車標(biāo)志上的貼紙——可能會(huì)導(dǎo)致神經(jīng)網(wǎng)絡(luò)錯(cuò)誤地識別標(biāo)志并且永遠(yuǎn)不會(huì)停止。

為了改進(jìn)神經(jīng)網(wǎng)絡(luò)，研究人員正在尋找提高網(wǎng)絡(luò)魯棒性的方法。一種最先進(jìn)的方法涉及在訓(xùn)練過程中“攻擊”網(wǎng)絡(luò)。研究人員故意引入畸變并訓(xùn)練人工智能忽略它們。這個(gè)過程被稱為對抗性訓(xùn)練，本質(zhì)上使欺騙網(wǎng)絡(luò)變得更加困難。

Jones、LosAlamos的合作者JacobSpringer和GarrettKenyon以及Jones的導(dǎo)師JustonMoore將他們新的網(wǎng)絡(luò)相似性度量應(yīng)用于對抗性訓(xùn)練的神經(jīng)網(wǎng)絡(luò)，并令人驚訝地發(fā)現(xiàn)對抗性訓(xùn)練導(dǎo)致計(jì)算機(jī)視覺領(lǐng)域的神經(jīng)網(wǎng)絡(luò)收斂到隨著攻擊幅度的增加，非常相似的數(shù)據(jù)表示，無論網(wǎng)絡(luò)架構(gòu)如何。

“我們發(fā)現(xiàn)，當(dāng)我們訓(xùn)練神經(jīng)網(wǎng)絡(luò)對對抗性攻擊具有魯棒性時(shí)，它們開始做同樣的事情，”瓊斯說。

工業(yè)界和學(xué)術(shù)界已經(jīng)為尋找神經(jīng)網(wǎng)絡(luò)的“正確架構(gòu)”做出了廣泛的努力，但洛斯阿拉莫斯團(tuán)隊(duì)的研究結(jié)果表明，對抗性訓(xùn)練的引入大大縮小了這個(gè)搜索空間。因此，人工智能研究社區(qū)可能不需要花太多時(shí)間探索新架構(gòu)，因?yàn)樗麄冎缹剐杂?xùn)練會(huì)導(dǎo)致不同的架構(gòu)收斂到類似的解決方案。

“通過發(fā)現(xiàn)健壯的神經(jīng)網(wǎng)絡(luò)彼此相似，我們更容易理解健壯的人工智能可能如何真正起作用。我們甚至可能會(huì)發(fā)現(xiàn)關(guān)于人類和其他動(dòng)物如何感知的線索，”瓊斯說。

標(biāo)簽：