編者按：《紐約時(shí)報(bào)》高級(jí)記者、普利策獎(jiǎng)得主、《與機(jī)器人共舞》作者 John Markoff  近日在紐約時(shí)報(bào)上撰文，表達(dá)了他對(duì)不法分子利用人工智能犯罪的擔(dān)憂。文章原標(biāo)題為《As Artificial Intelligence Evolves, So Does Its Criminal Potential》，以下為雷鋒網(wǎng)獨(dú)家編譯，未經(jīng)許可不得轉(zhuǎn)載。

隨著人工智能的不斷進(jìn)化，犯罪技術(shù)也跟著變得高級(jí)起來。

想象這么一個(gè)場(chǎng)景：有一天你突然接到了年邁母親的求助電話，說自己不小心忘記了銀行密碼。但事實(shí)上她并不是你的母親，電話那頭也只不過是由計(jì)算機(jī)合成，聽起來很像她的聲音而已。

用人工智能電話中偽裝身份，雖然目前還只是科幻想象，但未來這種犯罪方法可能真的會(huì)成為現(xiàn)實(shí)。

如今，能促進(jìn)偽裝技術(shù)廣泛使用的軟件正在急速發(fā)展。最近，打敗了世界上頂尖圍棋大師的 Alphabet 旗下子公司 DeepMind 就宣布，他們已設(shè)計(jì)出一種新的程序，該程序能“模仿人類的所有語音，并且聽起來比現(xiàn)有任何文本語音系統(tǒng)生成的語音都要自然。它把自然語言技術(shù)與人類語音之間的差距縮小 50% 還要多。”

但諷刺的是，每年 750 億美元規(guī)模的計(jì)算機(jī)安全行業(yè)今年還在談?wù)?，機(jī)器學(xué)習(xí)和模式識(shí)別技術(shù)未來將會(huì)如何扭轉(zhuǎn)目前這糟糕的計(jì)算機(jī)安全狀況。他們忽略了一個(gè)對(duì)大眾不利的因素。

“人們不知道，現(xiàn)在網(wǎng)絡(luò)攻擊正越來越不需要依賴人力，而且其擴(kuò)張也是呈指數(shù)級(jí)的，”執(zhí)法機(jī)構(gòu)顧問、《 Future Crimes 》一書作者 Marc Goodman 說道，“現(xiàn)在已經(jīng)不是 Matthew Broderick 躲在地下室黑別人計(jì)算機(jī)那個(gè)時(shí)代了?！彼傅氖?1983 年上映的電影 War Games 。

今年年初，美國(guó)情報(bào)局局長(zhǎng) James R. Clapper 就曾發(fā)出防止先進(jìn)人工智能技術(shù)被惡意使用的警告。在年度安全審查中，Clapper 強(qiáng)調(diào)，人工智能確實(shí)能給予人們方便，但同時(shí)也能使網(wǎng)絡(luò)世界變得更易受攻擊。

Goodman 表示，計(jì)算機(jī)犯罪的復(fù)雜性可從不斷升級(jí)的攻擊工具中窺見，廣泛使用的惡意程序 Blackshades （該程序設(shè)計(jì)者是瑞典人，已于去年在美國(guó)定罪）就是其中之一。

該程序在計(jì)算機(jī)地下市場(chǎng)賣的很是火爆?！捌涔δ鼙环Q作‘匣子里的刑事特權(quán)’，” Goodman 說道。用戶無需任何專業(yè)技能就能輕松部署勒索程序，點(diǎn)一下鼠標(biāo)就能進(jìn)行視頻或音頻竊聽。

如今，人工智能研究人員正在努力用機(jī)器學(xué)習(xí)改善計(jì)算機(jī)視覺，語音理解，語音合成和自然語言理解等技術(shù)。但同時(shí)，黑客們也在學(xué)習(xí)使用機(jī)器學(xué)習(xí)這種先進(jìn)的技術(shù)進(jìn)行更高級(jí)的犯罪。一些計(jì)算機(jī)安全研究員們認(rèn)為，早在 5 年前，不法分子就已經(jīng)開始使用人工智能技術(shù)進(jìn)行數(shù)字犯罪了。

顛覆了互聯(lián)網(wǎng)領(lǐng)域，無所不在的驗(yàn)證碼就能證明這一點(diǎn)。2003  年卡耐基梅隆大學(xué)發(fā)明了 challenge-and-response puzzle，這是一種能全自動(dòng)區(qū)分計(jì)算機(jī)和人類的圖靈測(cè)試，用來阻止自動(dòng)程序盜取在線賬戶。

加州計(jì)算機(jī)安全研究員 Stefan Savage 表示，五年來，人工智能領(lǐng)域的研究者和犯罪者都在部署計(jì)算機(jī)視覺軟件以顛覆驗(yàn)證碼技術(shù)，“如果你已經(jīng)兩年沒改驗(yàn)證碼，它就會(huì)被機(jī)器視覺算法給控制住?！?/p>

但令人驚訝的是，低成本和免費(fèi)勞動(dòng)力正在使惡意人工智能的發(fā)展得更迅速。比如，網(wǎng)絡(luò)罪犯已將驗(yàn)證碼破解工作外包給電子工廠，而這只需要花費(fèi)很少的人力費(fèi)用就能辦到。

甚至，有些更具創(chuàng)造性的計(jì)算機(jī)騙子已經(jīng)開始用網(wǎng)絡(luò)色情獎(jiǎng)勵(lì)那些能破解驗(yàn)證碼的人，Goodman 說。人工智能軟件永遠(yuǎn)也比不上免費(fèi)勞動(dòng)力這種商品。

所以，接下來會(huì)如何呢？

對(duì)初入網(wǎng)絡(luò)犯罪這一行的人來說，他們可是搭上高科技的順風(fēng)車了。語音識(shí)別系統(tǒng)，比如蘋果的 Siri 和微軟的小娜，如今正廣泛應(yīng)用于人機(jī)交互中。亞馬遜的 Echo 語音控制揚(yáng)聲器和 Facebook 的 Messenger 聊天機(jī)器人平臺(tái)也正在迅速成為網(wǎng)絡(luò)商務(wù)以及消費(fèi)者常用的在線通道。而一般情況下，一旦像語音識(shí)別這樣的交流技術(shù)開始流行，那么罪犯也很快會(huì)利用上它們。

“我在想，用聊天機(jī)器人提供客戶支持的公司是不是正在默默承擔(dān)著一項(xiàng)社會(huì)工程，”krebsonsecurity的一名調(diào)查記者 Brain Krebs 說道。

社會(huì)工程通常是計(jì)算機(jī)安全鏈中最薄弱的一個(gè)環(huán)節(jié)。網(wǎng)絡(luò)犯罪分子會(huì)利用人們的信任或樂于助人的品質(zhì)進(jìn)行盜竊或偷窺，而創(chuàng)造出能騙人的高級(jí)人工智能只會(huì)使計(jì)算機(jī)等設(shè)備變得更不安全。

在州政府和政治運(yùn)動(dòng)的政治宣傳中，我們可以看出廣泛使用的聊天機(jī)器人技術(shù)帶來的負(fù)面影響。

研究人員甚至還發(fā)明詞語“計(jì)算機(jī)宣傳活動(dòng)（computational propaganda）”來形容在 Facebook 和推特等社交媒體上爆發(fā)的欺騙行為。

在最近發(fā)布的一篇研究論文中，牛津互聯(lián)網(wǎng)學(xué)院的社會(huì)學(xué)家 Philip N. Howard 和布達(dá)佩斯考文紐斯大學(xué)（Corvinus University of Budapest）研究員 Bence Kollanyi  描述了在英國(guó)退歐公投時(shí)，政治聊天機(jī)器人是如何通過這樣一個(gè)小角色表現(xiàn)出其塑造線上對(duì)話的策略的。

而罪犯也遲早會(huì)用上這些軟件。

獨(dú)立計(jì)算機(jī)安全專家 Mark Seiden 說道：“攻擊社會(huì)工程的設(shè)計(jì)中有很多小伎倆，但就我所知，還沒人開始用機(jī)器學(xué)習(xí)來找什么人最容易上當(dāng)受騙?！?/p>

也許，Seiden 專家不該說這句話。

via：nytimes

延伸閱讀：

GeekPwn 2016 |“屠宰場(chǎng)”里的黑客盛會(huì)：攻破機(jī)器人、智能插座、電子輪椅……

淺析：那些能和計(jì)算機(jī)說話的小東西們，搞癱了半個(gè)美國(guó)的網(wǎng)

網(wǎng)絡(luò)安全人才缺口50萬 360校企合作打造網(wǎng)絡(luò)人才庫

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。