Skoltech 研究人員能夠證明，可能導(dǎo)致神經(jīng)網(wǎng)絡(luò)在識(shí)別圖像時(shí)出錯(cuò)的模式實(shí)際上類似于在自然界中發(fā)現(xiàn)的圖靈模式。將來，該結(jié)果可用于設(shè)計(jì)當(dāng)前易受攻擊的模式識(shí)別系統(tǒng)的防御。該論文作為 arXiv預(yù)印本，在第 35屆AAAI 人工智能會(huì)議 (AAAI-21) 上發(fā)表。

深度神經(jīng)網(wǎng)絡(luò)在圖像識(shí)別和分類方面既聰明又擅長(zhǎng)，但仍然容易受到所謂的對(duì)抗性擾動(dòng)的影響：圖像中的小而奇特的細(xì)節(jié)會(huì)導(dǎo)致神經(jīng)網(wǎng)絡(luò)輸出錯(cuò)誤。其中一些是通用的：也就是說，當(dāng)放置在任何輸入上時(shí)，它們都會(huì)干擾神經(jīng)網(wǎng)絡(luò)。

這些擾動(dòng)可能代表重大的安全風(fēng)險(xiǎn)：例如，在 2018 年，一個(gè)團(tuán)隊(duì)發(fā)表了一篇預(yù)印本，描述了一種誘使自動(dòng)駕駛汽車“看到”良性廣告和標(biāo)志作為道路標(biāo)志的方法。網(wǎng)絡(luò)針對(duì)此類攻擊的大多數(shù)已知防御都可以輕松繞過，這一事實(shí)加劇了這個(gè)問題。

計(jì)算和數(shù)據(jù)密集型科學(xué)與工程中心 (CDISE) Skoltech 計(jì)算智能實(shí)驗(yàn)室的負(fù)責(zé)人 Ivan Oseledets 教授和他的同事們進(jìn)一步探索了一種將這些通用對(duì)抗性擾動(dòng) (UAP) 和經(jīng)典圖靈模式聯(lián)系起來的理論，首先描述了由杰出的英國數(shù)學(xué)家艾倫圖靈作為自然界中許多圖案背后的驅(qū)動(dòng)機(jī)制，例如動(dòng)物身上的條紋和斑點(diǎn)

當(dāng) Oseledets 和 Valentin Khrulkov 在 2018 年的計(jì)算機(jī)視覺和模式識(shí)別會(huì)議上發(fā)表了一篇關(guān)于生成 UAP 的論文時(shí)，這項(xiàng)研究偶然開始。“一個(gè)陌生人走過來告訴我們，這種模式看起來像圖靈模式。這種相似性多年來一直是個(gè)謎，直到 Skoltech 碩士生 Nurislam Tursynbek、Maria Sindeeva 和博士生 Ilya Vilkoviskiy 組成了一個(gè)能夠解決這個(gè)難題的團(tuán)隊(duì)。這也是 Skoltech 高級(jí)研究中心和數(shù)據(jù)密集型科學(xué)與工程中心之間內(nèi)部合作的完美例子，”Oseledets 說。

對(duì)抗性擾動(dòng)的本質(zhì)和根源對(duì)研究人員來說仍然是個(gè)謎。“這個(gè)引人入勝的財(cái)產(chǎn)在攻防之間有著悠久的貓捉老鼠游戲歷史。對(duì)抗性攻擊難以防御的原因之一是缺乏理論。我們的工作朝著通過圖靈模式解釋 UAP 的迷人特性邁出了一步，圖靈模式背后有堅(jiān)實(shí)的理論。這將有助于在未來構(gòu)建對(duì)抗樣本理論，”Oseledets 指出。

先前的研究表明，自然圖靈模式——比如魚身上的條紋——可以欺騙神經(jīng)網(wǎng)絡(luò)，該團(tuán)隊(duì)能夠以一種直接的方式展示這種聯(lián)系，并提供產(chǎn)生新攻擊的方法。研究人員補(bǔ)充說：“使基于此類模式的模型具有魯棒性的最簡(jiǎn)單設(shè)置就是將它們添加到圖像中并在擾動(dòng)圖像上訓(xùn)練網(wǎng)絡(luò)。”

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場(chǎng)無關(guān)。財(cái)經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。 如有侵權(quán)請(qǐng)聯(lián)系刪除！