五角大樓認(rèn)為，人工智能是一種戰(zhàn)勝和支配未來(lái)對(duì)手的方式。人工智能的脆弱本質(zhì)意味著，如果沒(méi)有足夠的重視，這項(xiàng)技術(shù)可能會(huì)為敵人提供一種新的攻擊方式。

 

由五角大樓創(chuàng)建的聯(lián)合人工智能中心(Joint Artificial Intelligence Center)，旨在幫助美國(guó)軍方利用人工智能。該中心最近成立了一個(gè)部門，負(fù)責(zé)收集、審查和向國(guó)防部各部門分發(fā)開(kāi)源和工業(yè)機(jī)器學(xué)習(xí)模型。這種努力一部分指向了將人工智能用于軍事目的的一個(gè)關(guān)鍵挑戰(zhàn)。

一個(gè)被稱為“測(cè)試和評(píng)估小組”(Test and Evaluation Group)的機(jī)器學(xué)習(xí)“紅隊(duì)”將調(diào)查預(yù)先訓(xùn)練過(guò)的模型的弱點(diǎn)，另一個(gè)網(wǎng)絡(luò)安全團(tuán)隊(duì)則檢查人工智能代碼和數(shù)據(jù)中隱藏的漏洞。

機(jī)器學(xué)習(xí)是現(xiàn)代人工智能背后的技術(shù)，它代表了一種根本不同的、通常更強(qiáng)大的編寫(xiě)計(jì)算機(jī)代碼的方式。機(jī)器學(xué)習(xí)通過(guò)從數(shù)據(jù)中學(xué)習(xí)生成自己的規(guī)則，而不是編寫(xiě)讓機(jī)器遵循的規(guī)則。問(wèn)題是，這種學(xué)習(xí)過(guò)程，以及訓(xùn)練數(shù)據(jù)中的人工制品或錯(cuò)誤，可能會(huì)導(dǎo)致AI模型以奇怪或不可預(yù)測(cè)的方式行為。 

JAIC戰(zhàn)略和政策主管格雷戈里?艾倫(Gregory Allen)表示:“對(duì)于某些應(yīng)用來(lái)說(shuō)，機(jī)器學(xué)習(xí)軟件比傳統(tǒng)軟件要好上萬(wàn)億倍。”但是，他補(bǔ)充說(shuō)，機(jī)器學(xué)習(xí)“也以不同于傳統(tǒng)軟件的方式進(jìn)行突破?！?nbsp;

例如，訓(xùn)練用來(lái)識(shí)別衛(wèi)星圖像中特定車輛的機(jī)器學(xué)習(xí)算法，也可能學(xué)會(huì)將車輛與周圍某一顏色的風(fēng)景聯(lián)系起來(lái)。對(duì)手可以通過(guò)改變車輛周圍的場(chǎng)景來(lái)欺騙AI。在獲取訓(xùn)練數(shù)據(jù)時(shí)，對(duì)手也可以植入圖像，比如特定的符號(hào)，這會(huì)使算法混亂。

艾倫說(shuō)，五角大樓對(duì)其使用的軟件的可靠性和安全性有嚴(yán)格的規(guī)定，這種方法可以擴(kuò)展到人工智能和機(jī)器學(xué)習(xí)，并指出JAIC正在更新國(guó)防部的軟件標(biāo)準(zhǔn)，包括機(jī)器學(xué)習(xí)方面的問(wèn)題。 

人工智能正在改變一些企業(yè)的運(yùn)營(yíng)方式，因?yàn)樗赡苁且环N高效而強(qiáng)大的方式來(lái)實(shí)現(xiàn)任務(wù)和流程的自動(dòng)化。

例如，一家公司可以使用一個(gè)人工智能算法，查看數(shù)千或數(shù)百萬(wàn)以前的銷售情況，并設(shè)計(jì)自己的模型，預(yù)測(cè)誰(shuí)將購(gòu)買什么產(chǎn)品。 

美國(guó)和其他國(guó)家的軍隊(duì)也看到了類似的優(yōu)勢(shì)，正急于利用人工智能來(lái)改善后勤、情報(bào)收集、任務(wù)規(guī)劃和武器技術(shù)。

中國(guó)不斷增長(zhǎng)的技術(shù)能力在五角大樓內(nèi)激起了采用人工智能的緊迫感。艾倫表示，國(guó)防部正在“以負(fù)責(zé)任的方式，優(yōu)先考慮安全性和可靠性”。 

研究人員正在開(kāi)發(fā)更有創(chuàng)造性的方法來(lái)破解、顛覆或破壞人工智能系統(tǒng)。

2020年10月，以色列的研究人員展示了經(jīng)過(guò)精心調(diào)整的圖像會(huì)如何混淆讓特斯拉解讀前方道路的人工智能算法。這類“對(duì)抗性攻擊”涉及對(duì)機(jī)器學(xué)習(xí)算法的輸入進(jìn)行調(diào)整，以找到導(dǎo)致重大錯(cuò)誤的小變化。 

加州大學(xué)伯克利分校教授Dawn Song在特斯拉的傳感器和其他人工智能系統(tǒng)上進(jìn)行了類似的實(shí)驗(yàn)。他表示，在欺詐檢測(cè)等領(lǐng)域，對(duì)機(jī)器學(xué)習(xí)算法的攻擊已經(jīng)成為一個(gè)問(wèn)題。一些公司提供工具來(lái)測(cè)試用于金融領(lǐng)域的人工智能系統(tǒng)?！白匀粫?huì)有攻擊者想要逃避系統(tǒng)，”她說(shuō)?！拔艺J(rèn)為我們將看到更多這類問(wèn)題?！?/p>

一個(gè)簡(jiǎn)單的機(jī)器學(xué)習(xí)攻擊的例子，涉及到2016年首次亮相的微軟聊天機(jī)器人Tay，其使用了一種算法，通過(guò)檢查之前的對(duì)話來(lái)學(xué)習(xí)如何回應(yīng)新的詢問(wèn)，reddit用戶很快意識(shí)到他們可以利用這一點(diǎn)，讓Tay發(fā)布仇恨信息。 

馬里蘭大學(xué)研究機(jī)器學(xué)習(xí)算法脆弱性的副教授Tom Goldstein表示，攻擊人工智能系統(tǒng)的方法有很多種，包括修改輸入算法的數(shù)據(jù)，使其以特定方式行動(dòng)。機(jī)器學(xué)習(xí)模型與傳統(tǒng)軟件的不同之處在于，獲得一個(gè)模型可以讓對(duì)手設(shè)計(jì)一種無(wú)法抵御的攻擊，比如誤導(dǎo)性輸入。

戈?duì)柎奶拐f(shuō):“我們真的不知道如何解決人工智能的所有弱點(diǎn)，我們不知道如何讓系統(tǒng)完全抵御對(duì)抗性攻擊?！?/p>

在軍事方面，如果有一個(gè)資源豐富、技術(shù)先進(jìn)的對(duì)手，防范各種新的進(jìn)攻路線非常重要。

喬治敦大學(xué)安全與新興技術(shù)中心的最近一份報(bào)告警告稱，人工智能中的“數(shù)據(jù)中毒”可能對(duì)國(guó)家安全構(gòu)成嚴(yán)重威脅。這將涉及滲透用于訓(xùn)練人工智能模型的過(guò)程，可能是通過(guò)讓一個(gè)代理志愿者給輸入算法的圖像貼上標(biāo)簽，或者在網(wǎng)絡(luò)上植入圖像，然后提取圖像并輸入人工智能模型。（雷鋒網(wǎng) 雷鋒網(wǎng)）雷鋒網(wǎng)

編譯來(lái)源：https://www.wired.com/story/pentagon-bolstering-ai-systems-hacking-itself/

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。