雷鋒網(wǎng) AI科技評(píng)論按：眾所周知，在圖像識(shí)別領(lǐng)域，對(duì)抗樣本是一個(gè)非常棘手的問(wèn)題，研究如何克服它們可以幫助避免潛在的危險(xiǎn)。但是，當(dāng)圖像識(shí)別算法應(yīng)用于實(shí)際生活場(chǎng)景下時(shí)，我們真的需要那么擔(dān)心對(duì)抗樣本問(wèn)題嗎？近日，來(lái)自UIUC的一篇論文《不用那么擔(dān)心自動(dòng)駕駛中物體識(shí)別的對(duì)抗樣本問(wèn)題》給了我們解答。

論文首先提出如下觀(guān)點(diǎn)：大多數(shù)機(jī)器學(xué)習(xí)算法對(duì)于對(duì)抗干擾很敏感，只要從圖像空間中精心選取的方向增加輕微的干擾，就可能會(huì)導(dǎo)致這個(gè)圖像被訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型誤分類(lèi)。此外，打印出增加過(guò)干擾的圖像，然后把它們拍下來(lái)，這些拍下的圖像仍然會(huì)被誤分類(lèi)，這也證實(shí)了現(xiàn)實(shí)世界中對(duì)抗樣本的存在。這些失誤讓人們意識(shí)到將機(jī)器學(xué)習(xí)應(yīng)用于現(xiàn)實(shí)場(chǎng)景下時(shí)，安全是否有保障。

不過(guò)前面那些實(shí)驗(yàn)忽略了現(xiàn)實(shí)世界中物體的關(guān)鍵性質(zhì)：相比虛擬場(chǎng)景下對(duì)圖片單一的識(shí)別，在現(xiàn)實(shí)世界中，相機(jī)可以從不同的距離和角度拍下物體來(lái)進(jìn)行識(shí)別。從移動(dòng)觀(guān)察者的角度來(lái)看，目前現(xiàn)實(shí)世界中的對(duì)抗樣本不會(huì)對(duì)物體檢測(cè)造成干擾。

他們做的一系列實(shí)驗(yàn)表明，實(shí)際環(huán)境下，在特定的距離和角度下拍攝的帶有對(duì)抗干擾的停車(chē)標(biāo)志可能會(huì)導(dǎo)致深度神經(jīng)網(wǎng)絡(luò)物體識(shí)別器誤識(shí)別，但對(duì)于大量從不同的距離和角度拍下的停車(chē)標(biāo)志的照片，對(duì)抗干擾就無(wú)法保證總能愚弄物體檢測(cè)器了。

圖：為了模擬真實(shí)場(chǎng)景，實(shí)驗(yàn)中把圖像打印了出來(lái)。如圖場(chǎng)景中的停車(chē)標(biāo)志都能被正確識(shí)別。

他們收集了一系列停車(chē)標(biāo)志的圖像，然后用三種不同的對(duì)抗攻擊方法產(chǎn)生干擾樣本，同時(shí)攻擊圖像分類(lèi)器和物體識(shí)別器。然后，打印出受到干擾的圖像，從不同的距離拍成照片，并檢查了不再具有對(duì)抗性的圖片中原來(lái)增加的干擾的受損程度。在大多數(shù)情況下，損壞率很高，并且隨著距離的增加而增加。最后，通過(guò)一個(gè)小實(shí)驗(yàn)表明，照片拍攝的角度也可以改變對(duì)抗干擾的影響。

為什么能正確識(shí)別大多數(shù)圖片呢，他們認(rèn)為原因是干擾的對(duì)抗特征對(duì)受到干擾的圖片的大小比較敏感。如果只從很近的距離來(lái)進(jìn)行識(shí)別，自動(dòng)駕駛汽車(chē)就不能得出正確結(jié)論。另外，論文中提出了一個(gè)關(guān)鍵問(wèn)題：是否有可能構(gòu)建出這樣的對(duì)抗性樣本，使得它在大多數(shù)不同的觀(guān)察條件下都能讓機(jī)器誤判斷？如果可能，這種對(duì)抗特征能夠?qū)θ祟?lèi)理解深度學(xué)習(xí)網(wǎng)絡(luò)的內(nèi)部表征模式起到巨大的幫助。如果不能，也可以預(yù)期對(duì)抗性樣本的研究會(huì)止步于好奇心而已，對(duì)現(xiàn)實(shí)世界的危害很小。

從實(shí)驗(yàn)結(jié)論來(lái)看，現(xiàn)有的對(duì)抗性干擾方法用于停車(chē)標(biāo)志的識(shí)別時(shí)（在他們的數(shù)據(jù)集和控制試驗(yàn)之下）只在特定場(chǎng)景下適用。這也表明，我們可能不需要擔(dān)心多數(shù)現(xiàn)實(shí)場(chǎng)景下的對(duì)抗樣本問(wèn)題，尤其是在自動(dòng)駕駛領(lǐng)域。

論文地址：https://arxiv.org/abs/1707.03501

雷鋒網(wǎng) AI科技評(píng)論編譯。想要了解更多相關(guān)信息，請(qǐng)關(guān)注雷鋒網(wǎng) AI科技評(píng)論。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。