雷鋒網(wǎng)按：本文內(nèi)容來自 360 智能網(wǎng)聯(lián)汽車安全實驗室負(fù)責(zé)人劉健皓在硬創(chuàng)公開課的分享，由雷鋒網(wǎng)旗下欄目“新智駕”整理。

本次公開課包含以下內(nèi)容：

• 自動駕駛與輔助駕駛的區(qū)別；

• 自動駕駛功能安全隱患；

• 事故分析；
  

• 安全建議。

自動駕駛與輔助駕駛的區(qū)別

雷鋒網(wǎng)：現(xiàn)在大眾對于自動駕駛的預(yù)期過高，用戶或車主在使用這樣功能的時候，會存在哪些常見誤區(qū)？在你看來，自動駕駛和輔助駕駛的區(qū)別是什么？

劉健皓：自動駕駛在宣傳的過程中和標(biāo)準(zhǔn)的定義中給人已完全放心的安全行駛功能進(jìn)行灌輸，這導(dǎo)致了大多數(shù)用戶在駕駛控制上完全依賴于自動駕駛系統(tǒng)。

自動駕駛和輔助駕駛的主要區(qū)別就是在于監(jiān)視和控制的權(quán)限。自動駕駛的監(jiān)視和控制主要在于強大的自動駕駛系統(tǒng)，輔助駕駛的監(jiān)視主要在于人，需要用戶去監(jiān)視路面上的情況。而控制在于車，幫助人來根據(jù)路面上的情況來進(jìn)行行駛。

雷鋒網(wǎng)：在什么樣的前提下（包括路況、軟件硬件、自然環(huán)境），我們可以放心安全使用自動駕駛或輔助駕駛功能？

劉健皓：我個人觀點，自己是不會放心安全使用自動駕駛的。我總結(jié)有三點：

1. 標(biāo)準(zhǔn)的封閉式的道路下，而且在道路標(biāo)識，車道線等公路基礎(chǔ)交通設(shè)施都清晰的情況下。

2. 軟件硬件都正常運行且長時間不會存在故障的情況下。

3. 非惡劣的自然條件下。

自動駕駛功能安全隱患

雷鋒網(wǎng)：自動駕駛或輔助駕駛系統(tǒng)并不是萬能的。從你們實驗室的研究來看，影響自動駕駛功能的不安全因素有哪些？市面上的輔助駕駛系統(tǒng)存在哪些不可靠的地方？

劉健皓：如上圖，自動駕駛不安全因素主要在于傳感器的感知出現(xiàn)錯誤，導(dǎo)致的決策出現(xiàn)錯誤，最終導(dǎo)致控制上的偏差。

我們在今年的 DEFCON 24 世界黑客大會上面發(fā)布了 針對 Autopilot 系統(tǒng)傳感器的測試。并驗證了超聲波傳感器、毫米波雷達(dá)、和攝像頭都存在的被攻擊的風(fēng)險。

雷鋒網(wǎng)：能不能介紹一下輔助駕駛系統(tǒng)的傳感器分別存在哪些潛在的風(fēng)險？

劉健皓：如上圖，不同的傳感器攻擊方法不一樣，總結(jié)下來傳感器攻擊大致有致盲、拒絕服務(wù)、信息篡改、干擾等風(fēng)險。

目前我們發(fā)的傳感器攻擊，可以影響到車身控制。干擾自動駕駛路徑規(guī)劃。由于是硬件方面的漏洞，廠家也沒有辦法完全修復(fù)。所以攻擊方法我們不能具體演講。

有興趣的可以去看一下我們在 defcon 24 的演講視頻。

雷鋒網(wǎng)：我們知道自動駕駛/輔助駕駛系統(tǒng)一般由毫米波雷達(dá)、超聲波雷達(dá)和攝像頭等傳感器組成。從你們團(tuán)隊的研究來看，這些傳感器會通過哪些方式受到干擾，讓輔助駕駛功能失效？常見的風(fēng)險是什么？

劉健皓：我們目前研究的超聲波傳感器主要是利用測距的漏洞來影響距離的標(biāo)定。

影響聲學(xué)測距的方法有很多種，一種是回波。一種是吸波。這兩種干擾方法造成的后果是不一樣的。一個是無效距離，一個是零距離。

毫米波雷達(dá)我們可以通過欺騙的方式干擾識別，降低自動駕駛的可靠性。還有一種方法叫 Jamming。

攝像頭還有一種攻擊方法叫致盲。激光雷達(dá)也有一些方法，可以干擾。這就是目前信息安全領(lǐng)域?qū)鞲衅鞴舻姆椒▍R總。

雷鋒網(wǎng)：剛剛你提到的這些傳感器都存在這樣或那樣潛在的風(fēng)險，對于自動駕駛或者輔助駕駛的使用者而言，有沒有什么防御方法或者配套改善的措施來避免使用者在用一功能的時候出現(xiàn)不會出現(xiàn)事故？

劉健皓：現(xiàn)在業(yè)界大多數(shù)的做法都是在講數(shù)據(jù)融合，通過多維數(shù)據(jù)融合，和冗余技術(shù)降低傳感器誤報造成的錯誤執(zhí)行。

同時要采用一些人工智能技術(shù)，來降低數(shù)據(jù)融合造成的時間成本。在傳感器自身層面上需要，進(jìn)行安全設(shè)計，對于光學(xué)和聲學(xué)方面的攻擊都要進(jìn)行過濾和防護(hù)。

雷鋒網(wǎng)：鑒于提到的傳感器存在一些風(fēng)險。目前自動駕駛使用的傳感器該如何選擇？

劉健皓：這些風(fēng)險不影響傳感器的選擇。傳感器的選擇主要原則要根據(jù)各自車廠的技術(shù)路線和供應(yīng)商的技術(shù)水平。

雷鋒網(wǎng)：根據(jù)你們的研究，什么樣的架構(gòu)或方案比較安全或可靠？或者提高安全的等級有什么建議？除了感知層的問題，決策、執(zhí)行層面是否也存在安全的問題？

劉健皓：目前每個 OEM 廠家的技術(shù)路線都不一樣。沒有說哪個架構(gòu)是否安全可靠。這里的關(guān)鍵技術(shù)就是對數(shù)據(jù)的應(yīng)用。

提高安全的等級的建議，我已經(jīng)說過：從數(shù)據(jù)融合、傳感器可靠性、人工智能三個方面。目前我們在研究決策和執(zhí)行層面的漏洞。

事故分析

雷鋒網(wǎng)：有一個視頻：前一段時間，一位車主在城市正常道路行駛，使用 Autopilot 的時候，直接撞上了前方白色柵欄，還好沒有造成人員傷亡，而是車體受損。能不能給我們從自動駕駛原理上來解析一下，為什么在這一種不算太復(fù)雜的城市路況下，這套駕駛系統(tǒng)還是會出現(xiàn)這樣的事故？

劉健皓：我當(dāng)時看到這樣的視頻，我一點都不驚訝。因為毫米波雷達(dá)沒有識別出靜止的并且有縫隙的柵欄，所以會一直直行。

使用 Autopilot 的用戶都應(yīng)該會有感受，從原理上來分析是毫米波雷達(dá)測距不能夠判斷出前方物體是什么？因為采集到的數(shù)據(jù)要跟模型匹配，判斷，但是特斯拉應(yīng)該沒有中國這樣的柵欄的模型。國外有見過柵欄嗎？同時攝像頭也沒有標(biāo)定出柵欄為障礙物，所以會一直直行。

雷鋒網(wǎng)：特斯拉后來通過 OTA 更新了 Autoplilot 8.0 版本，在硬件上也做了新的布局，以你們的研究來看，你們這么看這兩次更新？

劉健皓：特斯拉出現(xiàn)自動駕駛傷亡事故以后，對自動駕駛功能已經(jīng)進(jìn)行更進(jìn)一步的設(shè)計。我們在今年 1 月份就提交了通過超聲波影響他自動駕駛傳感器的漏洞，他們也接受了我們的建議。

所以在 8.0 系統(tǒng)，對于自動駕駛功能的更新和改進(jìn)。主要強調(diào)的還是用戶的監(jiān)控。長時間不握方向盤是有提示的。這個頻率要比 7.0 系統(tǒng)進(jìn)行時要高。

在硬件方面。特斯拉的技術(shù)路線走的是感知和算法。使用了全車 8 個攝像頭代替了激光雷達(dá)方案。同時配備高性能的處理器進(jìn)行計算。這是一條自動駕駛落地量產(chǎn)的技術(shù)路線，實際上特斯拉已經(jīng)做到了。

雷鋒網(wǎng)：像這套方案，有沒有可能還會出現(xiàn)像你前面提到的「存在盲區(qū)，或者有漏檢」現(xiàn)象？

劉健皓：目前來講，之前的盲區(qū)和漏檢是不存在了。但是也需要研究現(xiàn)在的方案。介于國內(nèi)沒有硬件更新的自動駕駛汽車，所以這個也不好說。

安全建議

雷鋒網(wǎng)：從你們的研究看，在高速跟車、車輛變道、出入主輔路等場景下，在使用自動駕駛或輔助駕駛的時候，我們應(yīng)該注意些什么？有哪些安全禁忌是絕對不能犯的？

劉健皓：我之前總結(jié)了 10 條輔助駕駛安全注意事項：

1. 啟用輔助駕駛時，實現(xiàn)一定要注意在路面上的情況。

2. 在強光、逆光行駛下要注意控制方向盤和車速。

3. 輔助駕駛自動轉(zhuǎn)彎時，轉(zhuǎn)角大于 45°角時需要控制方向盤。

4. 高速行駛進(jìn)行車道保持功能要控制與前車車距，腳要放在剎車上。

5. 跟車轉(zhuǎn)彎時雙手放在方向盤上，防止汽車竄出。

6. 進(jìn)出主輔路時，需要控制方向盤，輔助駕駛可能無法判斷障礙物。

7. 高速自動駕駛時必須進(jìn)入正式車道。

8. 高速變道時，注意前后方車輛車距。

9. 要在道路條件良好的情況下啟用自動駕駛系統(tǒng)。

10. 選擇合適的車輛鎖定開啟功能，不要跟公交車，大卡車。

PS：如果你對此話題有興趣，歡迎關(guān)注“新智駕”加入討論。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。