視頻解讀 | 對(duì)抗攻擊：騙過神經(jīng)網(wǎng)絡(luò)，改變一個(gè)像素就夠了

本文作者： AI研習(xí)社-譯站

2018-01-29 11:10

導(dǎo)語：碰到人為偽造圖片時(shí)，神經(jīng)網(wǎng)絡(luò)基本識(shí)別無能

喜歡機(jī)器學(xué)習(xí)和人工智能，卻發(fā)現(xiàn)埋頭苦練枯燥乏味還殺時(shí)間？這里是，雷鋒字幕組編譯的Arxiv Insights專欄，從技術(shù)角度出發(fā)，帶你輕松深度學(xué)習(xí)。

原標(biāo)題 'How neural networks learn' - Part II: Adversarial Attacks

翻譯 | 劉寧校對(duì) | 凡江整理 | 吳璇

?每周一條油管頻道 Arxiv Insights 視頻

當(dāng)下的圖像識(shí)別技術(shù)看似愈發(fā)成熟了，但神經(jīng)網(wǎng)絡(luò)還是會(huì)犯錯(cuò)，特別是碰到人為偽造圖片時(shí)，神經(jīng)網(wǎng)絡(luò)基本識(shí)別無能：

比如你只要帶上這幅特制3D眼睛，在神經(jīng)網(wǎng)絡(luò)的眼里，你就算已經(jīng)化成灰了，他根本識(shí)別不出來你是誰。

視頻解讀 | 對(duì)抗攻擊：騙過神經(jīng)網(wǎng)絡(luò)，改變一個(gè)像素就夠了

再比如你偽造個(gè)車牌，神經(jīng)網(wǎng)絡(luò)直接就懵了，基本上全世界的交通攝像頭都識(shí)別不出來你是真是假。

視頻解讀 | 對(duì)抗攻擊：騙過神經(jīng)網(wǎng)絡(luò)，改變一個(gè)像素就夠了

想要騙過神經(jīng)網(wǎng)絡(luò)，也不要什么超高伎倆，隨便動(dòng)動(dòng)手腳，在原圖上增加一點(diǎn)噪音，或是更改一些像素點(diǎn)就成了。但是想騙過人類就難了，我們通常都能知道某張圖是偽造的或是人為制作出來的。

假如我們輸入一張熊貓的圖片，通過卷積神經(jīng)網(wǎng)絡(luò)的計(jì)算，它被歸類為是熊貓。神經(jīng)網(wǎng)絡(luò)的運(yùn)作過程是：在神經(jīng)網(wǎng)絡(luò)輸出層中隨機(jī)選擇輸出神經(jīng)元（并非代表熊貓的神經(jīng)元）→將梯度下降法運(yùn)用于輸入熊貓圖片的像素點(diǎn)→最大限度地激活目標(biāo)神經(jīng)元。但是，如果我們采用調(diào)整輸入圖片像素值，就能騙過神經(jīng)網(wǎng)絡(luò)，從而得到錯(cuò)誤的分類。

對(duì)抗樣本不僅可以用于計(jì)算機(jī)視覺領(lǐng)域，還可以用于自然語言處理領(lǐng)域。像在Amazon，booking，TripAdvisor等網(wǎng)站的信息，大多源于用戶在網(wǎng)站上反饋的評(píng)價(jià)，評(píng)價(jià)通常會(huì)用感情分析來處理和匯總。僅僅修改評(píng)價(jià)中的幾個(gè)字，就能完全反轉(zhuǎn)模型對(duì)情感的判斷。

本視頻將介紹對(duì)抗攻擊及其防御的相關(guān)知識(shí)，并從以下幾個(gè)方面介紹：