4
| 本文作者： 史中 | 2016-08-08 14:25 |
“催眠”特斯拉，這樣瘋狂的事情，也許只有在世界頂級(jí)黑客會(huì)議 DEF CON 上才能看到。而且，沒錯(cuò)，又是中國黑客干的。
先來說說特斯拉輔助駕駛（AutoPilot）。這個(gè)讓埃隆·馬斯克引以為傲的系統(tǒng)，已經(jīng)在全世界的特斯拉汽車上大規(guī)模應(yīng)用。這個(gè)系統(tǒng)可以實(shí)現(xiàn)自動(dòng)跟車，自動(dòng)轉(zhuǎn)向，甚至在堵車的時(shí)候，也可以自動(dòng)跟著前車反復(fù)啟停。
講真，輔助駕駛系統(tǒng)的可用性非常高。諸多特斯拉車主已經(jīng)嘗試過在早高峰把車開上北京的二環(huán)，打開輔助駕駛，閉目養(yǎng)身半小時(shí)之后再切換成手動(dòng)模式駛離主路。
然而，可用性和可靠性在某些特殊的時(shí)刻，并不那么協(xié)調(diào)。
【因?yàn)檩o助駕駛導(dǎo)致嚴(yán)重事故的特斯拉】
這輛特斯拉生前的最后一刻，正是開啟了輔助駕駛模式，據(jù)說，系統(tǒng)把橫在前方的純白色卡車識(shí)別為了遠(yuǎn)方的大樓或廣告牌。
【特斯拉事故示意圖】
而就在前兩天，中國特斯拉自動(dòng)駕駛的“首撞”也發(fā)生在北京北五環(huán)上。
頻發(fā)的撞車事故至少說明一點(diǎn)，那就是輔助駕駛系統(tǒng)還有諸多設(shè)計(jì)缺陷。而來自中國的黑客們，用實(shí)際的攻擊測試，證明了輔助駕駛系統(tǒng)遠(yuǎn)不是“偶爾失靈”這么簡單。稍不留意，它就可能被人利用，有計(jì)劃地發(fā)起各種“慘烈”的攻擊。
【閆?。ó嬜螅?amp;劉健皓（畫右）】
劉健皓，360汽車信息安全團(tuán)隊(duì)負(fù)責(zé)人，中國特斯拉破解第一人；
閆琛，浙江大學(xué)博士，智能系統(tǒng)安全實(shí)驗(yàn)室成員，著名的汽車黑客。
正是他們帶領(lǐng)團(tuán)隊(duì)全球首次用實(shí)車實(shí)現(xiàn)攻擊特斯拉自動(dòng)駕駛系統(tǒng)。
劉健皓為雷鋒網(wǎng)詳細(xì)介紹了特斯拉輔助駕駛系統(tǒng)的工作原理。
【汽車自動(dòng)駕駛系統(tǒng)所用到的所有傳感器，包括遠(yuǎn)距離雷達(dá)、超聲波傳感器、可見光傳感器、激光雷達(dá)。其測量范圍，精準(zhǔn)度和有效距離各有優(yōu)劣，一般組合使用?！?/span>
輔助駕駛實(shí)現(xiàn)的首要一點(diǎn)就是：認(rèn)清周圍的環(huán)境。
為了實(shí)現(xiàn)這一點(diǎn)，特斯拉選用了三種不同的“眼睛”：
【毫米波雷達(dá)】
特斯拉裝配的雷達(dá)，頻率高達(dá)77GHz，這個(gè)超高頻段的技術(shù)，曾經(jīng)作為美國軍方的保密技術(shù)，禁止對(duì)華出售。雷達(dá)被安裝在特斯拉的前部，用以探測遠(yuǎn)距離的障礙物，可以識(shí)別最遠(yuǎn)達(dá)到150米的障礙物。
【超聲波傳感器和在車上的位置】
特斯拉周身布滿12玫超聲波傳感器，用以感知車身周圍大概五米范圍的障礙物。
【高清攝像頭在特斯拉上的位置和顯示效果】
這是特斯拉的諸多“眼睛”中唯一可以識(shí)別可見光的。攝像頭被放置在汽車前面，用以識(shí)別車道線和限速、禁行一類的道路標(biāo)志。
劉健皓說，輔助駕駛系統(tǒng)就是根據(jù)這些傳感器采集的數(shù)據(jù)，通過自動(dòng)駕駛的算法，實(shí)現(xiàn)規(guī)劃路徑和自動(dòng)巡航等所有功能。
他和閆琛的攻擊思路非常清晰：只要黑掉這些傳感器，讓數(shù)據(jù)的錯(cuò)誤進(jìn)入系統(tǒng)，就一定會(huì)產(chǎn)生嚴(yán)重攻擊效果。
通俗來說，他們要做的就是“催眠”特斯拉。讓這部世界上最先進(jìn)的自動(dòng)駕駛汽車
看到不存在的東西；
或者看不到存在的東西。
由此進(jìn)入可怕的“夢魘”狀態(tài)。
【特斯拉 Model S車身上所有傳感器的位置（藍(lán)色為毫米波雷達(dá)，灰色為攝像頭，紅色為超聲波傳感器）】
由于超聲波傳感器主要分布在車身周圍，而且主要用來判斷近距離物體的信息。所以在實(shí)際應(yīng)用中，它們的主要作用是感知附近有沒有障礙物向自己靠攏，從而向相反方向進(jìn)行規(guī)避。
閆琛告訴雷鋒網(wǎng)：
經(jīng)過逆向研究，我們發(fā)現(xiàn)特斯拉使用的超聲波傳感器發(fā)射的波長為 40Khz，而這種波長的超聲波在現(xiàn)實(shí)世界里并不常見。例如搖動(dòng)鑰匙串或者大卡車制動(dòng)的時(shí)候，都會(huì)發(fā)出這樣的超聲波。
但是由于現(xiàn)實(shí)世界中的 40Khz 超聲波不會(huì)長時(shí)間持續(xù)，強(qiáng)度也沒有那么大，所以看樣子特斯拉并沒有認(rèn)真研究人造超聲波對(duì)輔助駕駛系統(tǒng)的影響。
他們于是嘗試對(duì)特斯拉的超聲波傳感器實(shí)行一種噪音攻擊（Jamming）。簡單來說就是用更大的強(qiáng)度播放同樣波長的噪音，這樣就會(huì)使得超聲波感應(yīng)器無法回收自己發(fā)出的信號(hào)，從而沒有辦法測量周圍物體的舉例。
讓人驚奇的是，在這種情況下，特斯拉并沒有選擇提示用戶切換回手動(dòng)模式，反而繼續(xù)按照原速運(yùn)動(dòng)。此時(shí)如果有物體靠近特斯拉，即使發(fā)生碰撞，它都不會(huì)有任何反應(yīng)動(dòng)作。
【噪音攻擊超聲波傳感器的實(shí)驗(yàn)現(xiàn)場】
通過信號(hào)分析儀進(jìn)一步破解超聲波信號(hào)，劉健皓和閆琛完全掌握了超聲波的結(jié)構(gòu)，于是他們嘗試用信號(hào)發(fā)射裝置欺騙傳感器。
“實(shí)誠”的特斯拉果然上當(dāng)，會(huì)向決策系統(tǒng)傳遞虛假的信號(hào)。于是在空無一車的地下車庫，居然啟動(dòng)了自動(dòng)跟車模式；
而當(dāng)劉健皓向特斯拉發(fā)出了前方近距離有障礙物的虛擬信號(hào)后，特斯拉猛然來了一個(gè)剎車。
【傳感器的數(shù)據(jù)最終會(huì)導(dǎo)致對(duì)汽車的剎車、方向盤、油門行為的控制】
黑客們找來了超聲波吸附材料。超聲波信號(hào)碰到這種海綿狀材料，可謂肉包子打狗——有去無回。在試驗(yàn)中，無論什么兇險(xiǎn)的障礙物，只要籠罩超聲波吸附材料，在特斯拉眼中一律是一馬平川，不撞南墻死不回頭。
當(dāng)然，劉健皓也覺得目前的吸波材料過于厚重，在現(xiàn)實(shí)中用來攻擊有點(diǎn)搞笑。不過他說：“在未來如果實(shí)現(xiàn)材料的輕薄甚至透明，這種攻擊就會(huì)變得非常危險(xiǎn)了?！?/strong>
【在演示視頻中，閆琛躲在吸波材料里，傳感器并未感知】
毫米波雷達(dá)是諸多特斯拉傳感器中，最為精密的一個(gè)了。77GHz 的超高頻率已經(jīng)超出一般儀器可以解析的范圍。
閆琛告訴雷鋒網(wǎng)，單單是借來研究毫米波雷達(dá)的設(shè)備，就可以買三輛特斯拉。劉健皓甚至開玩笑說，借這臺(tái)設(shè)備是整個(gè)研究中的一個(gè)最大難點(diǎn)。
【毫米波攻擊設(shè)備BCDE和特斯拉毫米波雷達(dá)的位置A】
然而，有了分析設(shè)備，只是萬里長征的第一步。對(duì) 77GHz 的超高頻信號(hào)進(jìn)行降頻之后的分析，也是一個(gè)非常艱難的過程。
對(duì)于毫米波雷達(dá)，同樣可以實(shí)現(xiàn)噪音攻擊和欺騙攻擊。也就是說，可以讓特斯拉在高速行駛中，完全忽略前面的障礙物，也可以憑空讓特斯拉緊急制動(dòng)。
理論上來說，這樣的攻擊可以在幾十米開外進(jìn)行。就像用手槍射擊標(biāo)靶。不過毫米波發(fā)射器的波束比較集中，在實(shí)際攻擊中，要完美擊中汽車的雷達(dá)，這需要非常好的精確度?！安贿^只要有足夠的資金購買高級(jí)的設(shè)備，這些限制都不是問題?！遍Z琛說。
【毫米波雷達(dá)被攻擊后，前車從儀表盤上瞬間消失，如果處于自動(dòng)駕駛狀態(tài)，后果不堪設(shè)想】
也許對(duì)于攝像頭的攻擊是唯一一種普通人都可以玩轉(zhuǎn)的攻擊。你只需要一個(gè)大功率手電，猛烈照射攝像頭，就會(huì)造成它的短暫致盲，這個(gè)特性和所有的攝像頭，以及人眼的原理都是一致的。
文章開頭提到的特斯拉撞擊卡車的案例，就是因?yàn)榭ㄜ囓噹椎靡粔m不染，導(dǎo)致攝像頭犯了“雪盲癥”，既無法找到前方的車道線和標(biāo)志，也無法判斷這個(gè)物體的真實(shí)屬性。所以才釀成車禍（你可能要問先進(jìn)的毫米波雷達(dá)當(dāng)時(shí)在做神馬。沒錯(cuò)，卡車太高了以至于雷達(dá)信號(hào)從車底完美躲過）。
當(dāng)然，特斯拉的攝像頭也支持紅外夜視，所以用紅外線手電照射攝像頭，同樣會(huì)導(dǎo)致它“失明”。
【使用 LED 燈或激光筆，對(duì)特斯拉的攻擊成本都在10美元左右】
在此次 DEF CON 演講之前大約一個(gè)月，劉健皓和閆琛已經(jīng)把這組缺陷打包提交給了特斯拉。而特斯拉在兩周前專門和這個(gè)黑客團(tuán)隊(duì)進(jìn)行了一個(gè)小時(shí)的電話會(huì)議。
雖然最后的結(jié)論并不很振奮人心：特斯拉表示還要再花時(shí)間評(píng)估一下這些缺陷在實(shí)際情況中對(duì)于安全的威脅程度。
不過，劉健皓認(rèn)為這些缺陷非常值得引起注意：
從前的汽車傳感器只是作為人類駕駛的一個(gè)參考，并不直接影響駕駛的決策。而特斯拉的輔助駕駛系統(tǒng)讓傳感器直接接通了汽車的 CAN 總線，這意味著對(duì)于汽車的攻擊面從原來的總線攻擊和車聯(lián)網(wǎng)攻擊又?jǐn)U大到了傳感器攻擊。
而從現(xiàn)在的趨勢上來看，機(jī)器人的一個(gè)重要分支就是帶有圖像識(shí)別和人工智能的“汽車人”，對(duì)于能力越來越大的“汽車人”來說，這種攻擊所能造成的傷害會(huì)越來越大。
【劉健皓和閆琛在 DEF CON 24 演講臺(tái)上】
閆琛說：“面對(duì)可能性越來越高的攻擊，輔助駕駛系統(tǒng)并沒有對(duì)信號(hào)的異常檢測機(jī)制，這是一個(gè)巨大的隱患。例如如果洗頭膏檢測到信號(hào)異常，首要的行動(dòng)應(yīng)該是保證汽車安全，而不是什么都不做?！?/p>
有一點(diǎn)事實(shí)不容置疑，那就是輔助駕駛已經(jīng)改變了人們的駕駛風(fēng)格。人們對(duì)于機(jī)器的依賴只能加深，從不后退。而這種被人類信賴以至于托付生命安全的技術(shù)，是難以承受諸多的缺陷的。
當(dāng)人躺在車?yán)锼笥X的時(shí)候，他的特斯拉也同樣進(jìn)入了“夢鄉(xiāng)”。
這恐怕是對(duì)人類智慧最大的嘲諷。
劉健皓和閆琛對(duì)于特斯拉的破解，其實(shí)更像一次警示。我們把自己的感官托付給機(jī)器的那一瞬間，就要開始奮力阻止《黑客帝國》中所描繪的可怕結(jié)局。
兩位研究員通過雷鋒網(wǎng)特別鳴謝：
1、浙江大學(xué)智能系統(tǒng)安全實(shí)驗(yàn)室領(lǐng)導(dǎo)人，美女黑客徐文淵教授。她為研究提供了巨大的幫助。
2、是德科技開放實(shí)驗(yàn)室，為研究提供了所需設(shè)備。
360汽車信息安全實(shí)驗(yàn)室（天行者團(tuán)隊(duì)），主要研究方向?yàn)槠囆畔踩?014年發(fā)現(xiàn)Tesla汽車遠(yuǎn)程控制、無鑰匙啟動(dòng)功能漏洞；2015 年發(fā)現(xiàn)BYD汽車云服務(wù)、遙控駕駛功能漏洞； 2015 年發(fā)現(xiàn)輔助駕駛毫米波雷達(dá)、超聲波雷達(dá)傳感器漏洞。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
