丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號安全和更好的產(chǎn)品體驗,強烈建議使用更快更安全的瀏覽器
此為臨時鏈接,僅用于文章預(yù)覽,將在時失效
人工智能 正文
發(fā)私信給AI研習社-譯站
發(fā)送

0

神經(jīng)網(wǎng)絡(luò)這么弱?改一個像素就懵圈了

本文作者: AI研習社-譯站 2018-06-22 17:38
導(dǎo)語: 攻擊大多數(shù)神經(jīng)網(wǎng)絡(luò)只需要修改一個像素就行

雷鋒網(wǎng)按:這里是,雷鋒字幕組編譯的Two minutes paper專欄,每周帶大家用碎片時間閱覽前沿技術(shù),了解AI領(lǐng)域的最新研究成果。

原標題 One Pixel Attack Defeats Neural Networks | Two Minute Papers #240

翻譯 | 于澤平  字幕 | 凡江    整理 | 李逸凡  吳璇


?每周一篇2分鐘論文視頻解讀

騙過神經(jīng)網(wǎng)絡(luò),我們最少需要改變多少像素(pixel)呢?猜猜是多少,可能你會覺得,怎么著都要100才夠,但論文證明了,攻擊大多數(shù)神經(jīng)網(wǎng)絡(luò)只需要修改一個像素就行。

在這篇《One pixel attack for fooling deep neural networks》論文中,研究人員分析了一種在極端限制情形下(只修改一個像素)的攻擊。他們提出了一種基于差分進化(differential evolution)的單像素對抗干擾新方法。

結(jié)果表明,70.97%的自然圖像至少有一個分類目標會被干擾,而造成干擾只需要修改置信均值為97.47%的一個像素。因此,在極端限制情形下,攻擊探索出了不同的對抗機器學(xué)習方法。這也表明當前的深度神經(jīng)網(wǎng)絡(luò)也容易受到這類低維攻擊。

神經(jīng)網(wǎng)絡(luò)通常不直接判斷一個類別,而是通過一些置信值來判別。置信值代表神經(jīng)網(wǎng)絡(luò)它有多確信看到的是只拉布拉多犬還是一只老虎貓。我們通常對比所有的置信值,并選出最高的,查看它們使神經(jīng)網(wǎng)絡(luò)對正確類別的置信值下降了多少,接著我們拋棄效果不好的像素,并繼續(xù)搜索最有希望的像素,我們將這個過程稱為差異進化。

如果這個過程實現(xiàn)的很好,最終正確類別的置信值將會變的很低,因為神經(jīng)網(wǎng)路將能預(yù)測另一個類別,一旦發(fā)生這種情況,代表神經(jīng)網(wǎng)絡(luò)成功被欺騙了,這也意味我們需要查看神經(jīng)網(wǎng)路,并獲得其置信值。

當然,也有大量關(guān)于訓(xùn)練魯棒性的神經(jīng)網(wǎng)絡(luò)的研究,使這些神經(jīng)網(wǎng)絡(luò)可以承受更多對抗攻擊,對抗攻擊有著許多地方值得我們?nèi)ネ诰蛞约疤剿鳌?/p>

論文:https://arxiv.org/abs/1710.08864

Github:https://github.com/Hyperparticle/one-pixel-attack-keras

雷鋒字幕組正在招募中,掃描下方二維碼,備注“雷鋒字幕組+姓名”加入我們。

神經(jīng)網(wǎng)絡(luò)這么弱?改一個像素就懵圈了

神經(jīng)網(wǎng)絡(luò)這么弱?改一個像素就懵圈了

雷鋒網(wǎng)雷鋒網(wǎng)


雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。

神經(jīng)網(wǎng)絡(luò)這么弱?改一個像素就懵圈了

分享:
相關(guān)文章

知情人士

AI研習社(yanxishe.com)譯站頻道,傳播前沿人工智能知識,讓語言不再成為學(xué)習知識的門檻。(原雷鋒字幕組)
當月熱門文章
最新文章
請?zhí)顚懮暾埲速Y料
姓名
電話
郵箱
微信號
作品鏈接
個人簡介
為了您的賬戶安全,請驗證郵箱
您的郵箱還未驗證,完成可獲20積分喲!
請驗證您的郵箱
立即驗證
完善賬號信息
您的賬號已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
立即設(shè)置 以后再說