7月10日， 2018中國互聯(lián)網(wǎng)大會在北京國家會議中心開幕。來自互聯(lián)網(wǎng)領(lǐng)軍企業(yè)、獨角獸、新銳企業(yè)、傳統(tǒng)企業(yè)等在內(nèi)的300家國內(nèi)外公司企業(yè)家和代表、多位院士及專家學者亮相，圍繞人工智能安全、互聯(lián)網(wǎng)獨角獸、區(qū)塊鏈等2018中國互聯(lián)網(wǎng)的熱點和焦點話題，進行思想碰撞、尖峰論道。

（KEEN公司CEO、GeekPwn大賽發(fā)起和創(chuàng)辦人王琦）

作為以黑客技術(shù)探索AI安全，并發(fā)起專業(yè)比賽的業(yè)內(nèi)先行者，KEEN公司CEO、GeekPwn大賽發(fā)起創(chuàng)辦人王琦出席會議并發(fā)表了主題為“AI與黑客 亦敵亦友”的演講。整個演講圍繞人工智能與安全的關(guān)系展開，以在GeekPwn賽場上的真實案例闡述了AI安全目前面臨的威脅與挑戰(zhàn)。

聚焦AI安全，GeekPwn助力人工智能生態(tài)健康發(fā)展

隨著技術(shù)不斷進步，人工智能技術(shù)已經(jīng)逐步應用到人們?nèi)粘Ｉ畹姆椒矫婷?。但王琦卻在會上表示了他的擔憂。王琦表示，人工智能還存在很多缺陷。在智能時代，我們黑掉一個掃地機器人和一個手機，可以看做是黑掉智能產(chǎn)品的肉體，而在人工智能時代，我們黑的是意識、是感知、是眼睛，這往往會帶來很多新的安全問題。

以GeekPwn2017上海站出現(xiàn)的人臉識別破解為例，攻擊者通過入侵并控制該系統(tǒng)管理端，利用其操作系統(tǒng)漏洞和應用層邏輯漏洞，就可以實現(xiàn)以任意人臉通過人臉識別門禁。除了人臉識別外，聲紋識別也備受挑戰(zhàn)。攻擊者通過模擬聲紋特征，合成一段“攻擊”語音，就可以成功欺騙并通過具有聲紋識別功能的聲紋鎖的驗證。自動駕駛是目前 AI 的重要應用領(lǐng)域，但是機器視覺并沒有人們想象中的那么可靠，去年GeekPwn2017硅谷站現(xiàn)場，選手分享了一個僅僅通過貼紙就能讓機器視覺分辨不出“停車標志”。

王琦表示，站在黑客的角度，黑客所利用的所有漏洞，在過去都僅僅被認為是錯誤，在黑客的眼里，是可以利用這個錯誤去做一些事情的。GeekPwn一直在為推動人工智能安全發(fā)展不斷努力。早在2015年，GeekPwn實驗室就開始研究AI安全；2016年GeekPwn率先提出關(guān)于AI安全方面的挑戰(zhàn)議題，來自谷歌大腦團隊的Ian Goodfellow、Alexey Kurakin等AI領(lǐng)域的頂尖專家出現(xiàn)在極棒的舞臺，分享了在物理環(huán)境下生成對抗性樣本的最新研究；2017年，AI仿聲驗聲攻防賽、AI PWN、PWN AI等AI挑戰(zhàn)項目正式亮相，吸引了來自全球的選手參加，帶了了諸多項目演示。

“無論機器學習、深度學習是不是人工智能的未來，但是如果我們現(xiàn)在能夠聚焦對抗攻擊這一塊，我覺得一定會對未來人工智能發(fā)展有所幫助。用AI方法來對抗AI，針對AI本身運行環(huán)境的攻擊，還有算法的攻擊，還有利用AI去做一些生物特征的攻擊，還有AI和AI之間的對抗攻擊，都是我們鼓勵的類型。”王琦在會上說到。

先壞人一步，黑客是網(wǎng)絡安全的守護神

“在每年的GeekPwn項目設(shè)置上，我們都做了大量的引導工作， GeekPwn的比賽重點都是針對當下最大的安全風險，目的是讓大眾看到那些潛在的安全隱患，提高他們的安全意識?！?王琦也在會上表示，今年GeekPwn有兩大“重頭戲”，我們設(shè)置了兩個AI專項，一個是聚焦AI算法安全的CAAD對抗樣本攻防賽，另一個是聚焦AI與大數(shù)據(jù)安全的數(shù)據(jù)追蹤挑戰(zhàn)賽。CAAD分為三個層面，一個是防御，還有一個非定向攻擊和定向攻擊，整個比賽條件是黑盒無探測，我們對整個攻擊的目標是泛化的。而數(shù)據(jù)追蹤則是聚焦大數(shù)據(jù)的脫敏問題，如果有人能夠通過AI的技術(shù)把脫敏之后的數(shù)據(jù)還還原出來，完成對一個人物的畫像，并且推測出他的行為，就可以應用在抓捕犯罪分子的過程中。

如今，GeekPwn已經(jīng)走過了5個年頭，先后在北京、上海、澳門、香港、硅谷等地舉辦過8場比賽，超過百位選手登上極棒比賽的舞臺?！澳菚r候不像現(xiàn)在，越來越多人接受了黑客的說法，那時候我們不敢明目張膽，只敢叫安全極客大賽。這就如同貓和老鼠的游戲，安全漏洞從來不是因為黑客才存在，恰恰是因為黑客發(fā)現(xiàn)才被消滅。如果黑客能夠利用自己的特長，未雨綢繆提前做一些事情，這將非常有意義。”

GeekPwn一直在為推動安全生態(tài)健康發(fā)展創(chuàng)造更新的競賽形式，打造更為豐富的對抗場景，為全球白帽黑客技術(shù)交流提供更大的舞臺。談及Geekwn在推動安全領(lǐng)域做出的積極作用，王琦也表示，第一，GeekPwn推動了安全人才的發(fā)展，讓更多白帽黑客得到社會的認可；第二，GeekPwn推動了從PC領(lǐng)域到移動領(lǐng)域的轉(zhuǎn)化；第三，GeekPwn正在推動移動領(lǐng)域向人工智能領(lǐng)域的轉(zhuǎn)化。截止到目前為止，GeekPwn已經(jīng)幫助安全廠商修復了幾百個安全漏洞，這已經(jīng)證明了我們在研究領(lǐng)域轉(zhuǎn)換的價值和安全研究員的價值。

值得一提的是，GeekPwn2018除了CAAD對抗樣本攻防賽和數(shù)據(jù)追蹤挑戰(zhàn)賽外，黑客屋挑戰(zhàn)賽、機器特工挑戰(zhàn)賽以及全新的非命題挑戰(zhàn)賽——基于漏洞攻破挑戰(zhàn)賽和非基于漏洞攻破挑戰(zhàn)賽也同樣值得期待。“歡迎大家關(guān)注2018年8月10日的極棒拉斯維加斯站與2018年10月24日的極棒上海站，和我們一起見證人“攻”智能！”王琦如是說。

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。