編者按：本文作者為深圳極視角科技有限公司聯(lián)合創(chuàng)始人，雷鋒網(wǎng)專欄作家，游走在計(jì)算機(jī)視覺(jué)業(yè)界與人工智能學(xué)術(shù)界的雙重深淵。

本文作者認(rèn)為影響自動(dòng)駕駛的安全問(wèn)題其實(shí)可以歸結(jié)到兩大問(wèn)題：網(wǎng)絡(luò)安全問(wèn)題以及智能化水平是否足夠的問(wèn)題。

今年5月，特斯拉自動(dòng)駕駛汽車發(fā)生了一起致命意外，一時(shí)間無(wú)人駕駛的安全性被推到了風(fēng)口浪尖。

一直以來(lái)，雖然各個(gè)自動(dòng)駕駛開(kāi)發(fā)企業(yè)都都在不斷的公開(kāi)自動(dòng)汽車的路測(cè)數(shù)據(jù)，但是自動(dòng)駕駛的安全性問(wèn)題一直是業(yè)內(nèi)外認(rèn)識(shí)爭(zhēng)論的關(guān)鍵點(diǎn)，也是自動(dòng)駕駛汽車能否順利上路和順利獲得乘客、用戶使用的關(guān)鍵。

Uber Autonomous Car（圖來(lái)自yifan,攝于2016.8.25,美國(guó)）

自動(dòng)駕駛的安全問(wèn)題其實(shí)可以歸結(jié)到兩大問(wèn)題：

一是網(wǎng)絡(luò)安全問(wèn)題，和所有智能設(shè)備一樣，智能汽車也必然會(huì)存在被入侵，然后被操控的風(fēng)險(xiǎn)，并且一旦被入侵控制了，后果遠(yuǎn)比任何一個(gè)目前的智能設(shè)備被入侵了要嚴(yán)重。

二是智能化水平是否足夠的問(wèn)題，對(duì)道路的規(guī)劃、定位、目標(biāo)的識(shí)別、判斷等等智能化水平是否足夠，一旦智能化水平不夠，該識(shí)別的行人識(shí)別錯(cuò)了，該前進(jìn)的路線規(guī)劃錯(cuò)了等等，后果也是無(wú)法設(shè)想。

網(wǎng)絡(luò)安全問(wèn)題

無(wú)人駕駛或者說(shuō)自動(dòng)駕駛汽車在網(wǎng)絡(luò)安全方便的問(wèn)題可以說(shuō)無(wú)可避免，就像所有的智能設(shè)備，只要設(shè)備擁有IP地址，通過(guò)IP可以入侵到汽車，從而控制汽車的引擎和剎車系統(tǒng)。

以這輛吉普（Jeep Cherokee）為例，車輛通過(guò)IP連接到克萊斯勒的網(wǎng)絡(luò)中心?？巳R斯勒在被黑客發(fā)現(xiàn)漏洞入侵之前發(fā)布了軟件補(bǔ)丁修補(bǔ)了系統(tǒng)的漏洞。主要的問(wèn)題是，開(kāi)發(fā)系統(tǒng)的軟件工程師大多沒(méi)有考慮安全性的問(wèn)題。

還有另外一個(gè)真實(shí)的例子，克萊斯勒花了巨額把自動(dòng)汽車返廠修復(fù)漏洞。因?yàn)橐坏┢渲幸惠v汽車被入侵了，同樣的方法幾乎可以入侵所有的汽車，所以，相比起這樣的安全危機(jī)，花費(fèi)的巨額也是必須的。

如果是一個(gè)智能電冰箱，那么冰箱被入侵了可能只是食物變質(zhì)了，冰塊融化了，但是如果是汽車被入侵了，就會(huì)產(chǎn)生致命的交通事故。

在最新一次的國(guó)際黑客大會(huì)上，有黑客揚(yáng)言，已具備足夠能力遠(yuǎn)程控制裝置自動(dòng)駕駛系統(tǒng)的熱門電動(dòng)車型，讓車輛根據(jù)黑客自己的意愿進(jìn)行操作（如轉(zhuǎn)向），以及改變雷達(dá)探測(cè)距離數(shù)值（等探測(cè)到都已撞上了）。

不想遇到網(wǎng)絡(luò)安全問(wèn)題，最先想到的當(dāng)然是隔離網(wǎng)絡(luò)，所以出于安全考慮，汽車的關(guān)鍵系統(tǒng)如引擎和剎車系統(tǒng)都最好與網(wǎng)絡(luò)隔絕，但是，實(shí)際情況中，因?yàn)榭紤]到成本問(wèn)題，所以一些聯(lián)網(wǎng)的娛樂(lè)系統(tǒng)會(huì)和汽車的關(guān)鍵系統(tǒng)會(huì)連在同一臺(tái)分析電腦上，從而導(dǎo)致所有系統(tǒng)都是聯(lián)網(wǎng)的。

如果實(shí)在是要聯(lián)網(wǎng)的話，為了防止被惡意入侵控制，所以會(huì)限制必須通過(guò)有線連接才可以對(duì)系統(tǒng)做控制修改。

除此之外，為了確保系統(tǒng)的安全性，在網(wǎng)絡(luò)授權(quán)，代碼保護(hù)和使用第三方技術(shù)供應(yīng)商的審核上都是需要嚴(yán)格把關(guān)的。舉個(gè)例子，一般第三方的技術(shù)提供方都會(huì)提供對(duì)應(yīng)的測(cè)試代碼（Sample Code），而這些代碼都是沒(méi)有考慮任何安全問(wèn)題的情況下使用的，所以，出于安全考慮，盡量不要直接使用測(cè)試代碼。再比如，不同的系統(tǒng)之間采用不同的網(wǎng)絡(luò)授權(quán)，也是目前常用的提高安全性的做法。

智能化的錯(cuò)誤判斷問(wèn)題

除了網(wǎng)絡(luò)安全的問(wèn)題外，最引人注目的無(wú)人駕駛的安全性問(wèn)題莫過(guò)于智能化判斷的準(zhǔn)確度的問(wèn)題，今年5月特斯拉自動(dòng)駕駛汽車發(fā)生的致命意外，經(jīng)過(guò)調(diào)查后發(fā)現(xiàn)其中一個(gè)原因是汽車把前面一個(gè)白色的車廂判斷為了是天空，如圖，這個(gè)在人工智能領(lǐng)域備受關(guān)注的“人工智能安全性”的問(wèn)題，如何才能得出安全的人工智能，從而避免像類似的事故不在發(fā)生。

Tesla Car Accident

從軟件算法層面，目前全球范圍內(nèi)，致力于實(shí)現(xiàn)安全的人工高智能（Safe AI）的組織中，最出名的莫過(guò)于OpenAI，他們致力于讓人工智能不要犯致命的錯(cuò)誤。

在人類的眼里，可能圖像中一些細(xì)微的變化不糊影響我們?nèi)ヅ袛嘁粋€(gè)事物，但是在機(jī)器的眼里，可能就會(huì)完全看作是兩個(gè)事物（fooling samples），從而做出不同的應(yīng)對(duì)行為，這種情況特別容易出現(xiàn)在通過(guò)深度學(xué)習(xí)訓(xùn)練目標(biāo)以及在單目攝像頭下的視頻數(shù)據(jù)。

特斯拉的事故不僅暴露了自動(dòng)駕駛技術(shù)目前在軟件算法上的短板，同時(shí)也暴露了在硬件技術(shù)的短板。

從硬件設(shè)備層面，像Model S采用的單目攝像頭對(duì)于立體及大面積平面物體的識(shí)別存在硬傷、毫米波雷達(dá)存在識(shí)別區(qū)間限制、以及在極端情況下對(duì)于綜合情景的取舍及冗余判斷等問(wèn)題。

所以，事故對(duì)自動(dòng)駕駛領(lǐng)域的硬件及算法產(chǎn)生促進(jìn)，對(duì)于雙目/廣角攝像頭、毫米波雷達(dá)、激光雷達(dá)的綜合采用將可望迎來(lái)破冰。特別是對(duì)于之前成本較高的激光雷達(dá)+多攝像頭方案會(huì)帶來(lái)推動(dòng)作用。另外，特斯拉的事故如果采取的是多探測(cè)器冗余判斷模式，完全可以避免。

所以，出于安全性考慮，NHTSA（美國(guó)高速公路安全管理局）也有可能會(huì)在硬件配置及系統(tǒng)要求上，敦促相關(guān)部門出臺(tái)較高門檻及規(guī)定，這對(duì)于行業(yè)而言，意味著單車附加值的提升。

雖然，自動(dòng)駕駛安全隱患仍然存在著，也不可避免的存在的風(fēng)險(xiǎn)問(wèn)題，但是，有一點(diǎn)可以確定的是，對(duì)比起目前94%的交通事故是人為原因造成的，自動(dòng)駕駛的持續(xù)研究和發(fā)展必然是對(duì)人類的人身安全有著重要的意義。

相關(guān)閱讀：又一起悲劇，中國(guó)發(fā)生特斯拉自動(dòng)駕駛致死事故

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。