作為世界上第一個(gè)自我覺(jué)醒的機(jī)器人，電影《超能查派》中人工智能 “查派”卻被教壞，逐漸成長(zhǎng)為一個(gè)“殺人機(jī)器”。人工智能在未來(lái)真的會(huì)威脅到人類嗎？人工智能可能蘊(yùn)藏著什么危險(xiǎn)？ 5月4日，碁震KEEN公司創(chuàng)始人兼CEO，國(guó)際安全極客大賽GeekPwn創(chuàng)辦人王琦在“造就”TALK上發(fā)表了關(guān)于《人“攻”智能》的演講，從白帽黑客的視角帶來(lái)了對(duì)未來(lái)人工智能安全的獨(dú)到見(jiàn)解和預(yù)測(cè)。

（國(guó)際安全極客大賽GeekPwn活動(dòng)創(chuàng)辦人王琦）

 

AI看到了世界 黑客卻看到了危險(xiǎn)

幾十年間，人工智能經(jīng)歷了一波三折的曲折發(fā)展，例如計(jì)算機(jī)視覺(jué)領(lǐng)域的圖像識(shí)別，它的識(shí)別正確率一直難以取得大的突破，但是近年來(lái)取得了很多了不起的成果。2012年， Google X 實(shí)驗(yàn)室發(fā)出了一套具備自主學(xué)習(xí)能力的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，不借助任何外界信息幫助，它就能從一千萬(wàn)張圖片中找出那些有小貓的圖片。如今，人工智能已經(jīng)廣泛應(yīng)用于生活的諸多場(chǎng)景中，包括實(shí)時(shí)語(yǔ)音翻譯、目標(biāo)識(shí)別、自動(dòng)駕駛、人臉識(shí)別、人機(jī)對(duì)話等等。王琦在感受到興奮的同時(shí)，也表達(dá)了他的擔(dān)憂：我們要關(guān)注到人工智能可能暴露出的諸多潛藏風(fēng)險(xiǎn)。

“如果能夠讓自動(dòng)駕駛的圖像識(shí)別產(chǎn)生錯(cuò)誤判斷，分不清楚前方遇到的是人還是樹(shù)，我認(rèn)為這就是黑掉了它，這可能要比黑掉傳統(tǒng)的控制系統(tǒng)更酷。” 王琦說(shuō)。GeekPwn實(shí)驗(yàn)室在2015年底開(kāi)始了AI對(duì)抗的研究，并廣泛接觸和招募AI領(lǐng)域的頂尖人才，很快，在2016年的GeekPwn美國(guó)站上，生成對(duì)抗網(wǎng)絡(luò)（GANs）之父Ian Goodfellow就展示了“對(duì)抗性圖像”在現(xiàn)實(shí)物理世界欺騙機(jī)器學(xué)習(xí)的效果。原始圖像以60%的置信度判斷為“熊貓”，但是加入了微小的干擾，在人眼完全看不出差別的情況下卻以99%的執(zhí)行度歸為了長(zhǎng)臂猿。

加入干擾元素的圖像引起AI的誤判

 

AI學(xué)習(xí)和決策模型與黑客領(lǐng)域的漏洞挖掘和利用過(guò)程何其相似

AI在圖像領(lǐng)域存在被欺騙的可能性，讓王琦預(yù)見(jiàn)到這種可能性在其他語(yǔ)音和行為智能等領(lǐng)域也會(huì)存在。AI被欺騙，看似人工智能的錯(cuò)誤和不完善，但其實(shí)在黑客眼里就有可能變成可以被利用的漏洞?！艾F(xiàn)代信息安全領(lǐng)域里的高級(jí)攻擊利用的漏洞，在很多年以前都僅僅被看作是計(jì)算機(jī)錯(cuò)誤。需要警惕的是，凡是錯(cuò)誤，可能到了黑客那里就變成了安全漏洞。”王琦說(shuō)。人工智能依賴對(duì)大量樣本進(jìn)行深度學(xué)習(xí)，最后產(chǎn)生決策的過(guò)程，和安全領(lǐng)域里通過(guò)產(chǎn)生大量模糊測(cè)試樣本引發(fā)計(jì)算機(jī)異常從而發(fā)掘出漏洞，最終執(zhí)行流程可以被改變導(dǎo)致安全危害的過(guò)程非常相似，如果說(shuō)正確樣本能夠產(chǎn)生正確的決策，那么黑客通過(guò)離線模擬產(chǎn)生的AI攻擊樣本，則可能給人工智能帶來(lái)錯(cuò)誤的決策和行為。

微軟聊天機(jī)器人Tay上線不到一天，就向網(wǎng)友“成功學(xué)習(xí)”了新的聊天方式，從彬彬有禮的美國(guó)“姑娘”變得臟話不斷，言語(yǔ)中還充斥了種族主義、色情等“情感偏見(jiàn)”。王琦大膽預(yù)言：深度依賴學(xué)習(xí)樣本的人工智能，未來(lái)對(duì)它的攻擊可能甚至不需要編寫代碼，人人都可能成為“黑客”。

 

目前AI只有0.1歲  黑客能夠幫助AI安全成長(zhǎng)

白帽黑客從對(duì)抗的思路出發(fā)，尋找AI潛藏的風(fēng)險(xiǎn)并不斷幫助其完善，其棒幫助人工智能安全健康成長(zhǎng)?！皩?duì)于人工智能的看法目前分為兩派，悲觀主義者認(rèn)為人類研發(fā)人工智能可能是在自取滅亡，如果真的有那一天的話，白帽黑客可以做的是保護(hù)AI安全發(fā)展”王琦說(shuō)。

當(dāng)無(wú)人駕駛的“眼睛”被欺騙，它還能在馬路上安全行駛嗎？作為全球首個(gè)探討人工智能和專業(yè)安全的前沿賽事平臺(tái)，GeekPwn鼓勵(lì)更多的白帽子黑客可以協(xié)助AI進(jìn)行安全性的預(yù)演分析。將于5月12日在香港星夢(mèng)郵輪“云頂夢(mèng)號(hào)”上舉辦的極棒年中賽，就將針對(duì)人工智能的安全課題向全球黑客發(fā)出英雄帖。

 

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。