雷鋒網(wǎng)按：2020 年 8 月 7 日，全球人工智能和機(jī)器人峰會(huì)（CCF-GAIR 2020）正式開幕。CCF-GAIR 2020 峰會(huì)由中國計(jì)算機(jī)學(xué)會(huì)（CCF）主辦，香港中文大學(xué)（深圳）、雷鋒網(wǎng)(公眾號：雷鋒網(wǎng))聯(lián)合承辦，鵬城實(shí)驗(yàn)室、深圳市人工智能與機(jī)器人研究院協(xié)辦。

8月8日，本次峰會(huì)智能駕駛專場上，是騰訊產(chǎn)業(yè)安全運(yùn)營部總經(jīng)理呂一平為與線上線下的會(huì)者們帶來了一場“安全左移，智能網(wǎng)聯(lián)安全從研發(fā)做起”的精彩報(bào)告。

呂一平強(qiáng)調(diào)，信息安全應(yīng)該成為智能網(wǎng)聯(lián)汽車安全管理非常重要的一個(gè)部分。

呂一平提到，汽車信息安全領(lǐng)域現(xiàn)在還沒有很好的測評體系，對車的安全來講，一個(gè)維度是設(shè)計(jì)安全，整個(gè)選型的時(shí)候需有必要的安全考量。如果設(shè)計(jì)階段就可以考慮更多安全因素的話，就可以規(guī)避很多安全問題，而且解決安全問題的成本會(huì)比較低。

以下是呂一平的演講全文，雷鋒網(wǎng)新智駕進(jìn)行了不改變原意的編輯：

大家如果對我們了解不是很深入的話，電影《速度與激情8》可以給大家更直觀的感受，其中很多車輛可以被黑客控制，這就是未來的信息安全。當(dāng)我們把汽車的控制權(quán)交給系統(tǒng)以后，信息安全就給車輛帶來了挑戰(zhàn)。

過去我們分享了很多信息安全對車輛的重要性的觀點(diǎn)，今天就不重復(fù)了。首先我要明確一個(gè)觀點(diǎn)：汽車是對質(zhì)量、品質(zhì)等把控非常嚴(yán)謹(jǐn)?shù)男袠I(yè)，新技術(shù)在汽車上的應(yīng)用情況一定是技術(shù)先行，然后國家相關(guān)的規(guī)范、標(biāo)準(zhǔn)才緊隨其后，最后才是合規(guī)性的認(rèn)證等流程。

簡言之，技術(shù)應(yīng)用一定是比規(guī)范、標(biāo)準(zhǔn)和認(rèn)證更超前。

對信息安全、或者對網(wǎng)絡(luò)安全來講，在汽車領(lǐng)域又是一個(gè)新領(lǐng)域，因此其技術(shù)也會(huì)比規(guī)范更超前。

那么，我們?nèi)绾伟研畔踩鳛橘|(zhì)量控制的一部分納入質(zhì)量管理體系里面？

我認(rèn)為信息安全是整車、甚至是智能駕駛的一個(gè)體系。剛剛滴滴也提到，在滴滴整個(gè)自動(dòng)駕駛框架里面，信息安全也是很重要的一部分。

高度智能化與網(wǎng)聯(lián)化的高安全需求

我今天的演講主題為什么是 “安全左移”？

很多汽車專家都在問同樣的問題—如何用更小的代價(jià)、更可控的成本和投入來解決信息安全問題、從而確保車聯(lián)網(wǎng)引入自動(dòng)駕駛之后是安全的。

所以，我今天帶來了我們自己的一些觀點(diǎn)和大家分享。

目前在汽車信息安全領(lǐng)域還沒有很好的測評體系，我們再做了大量研究和實(shí)踐以后總結(jié)出了自己的體會(huì)和心得：對于汽車的安全來講，一個(gè)維度是設(shè)計(jì)安全，整個(gè)選型的時(shí)候要有安全的考量。另一個(gè)維度是汽車研發(fā)。

值得一提的是，現(xiàn)在汽車研發(fā)分兩個(gè)部分，越來越多OEM團(tuán)隊(duì)做自己軟件的代碼，以及目前很火的軟件定義汽車。

無論是國際車廠和國內(nèi)車廠，他們都成立了軟件公司或者軟件開發(fā)子公司，目前已經(jīng)形成了這樣的趨勢，就是Tir1的研發(fā)工作逐漸轉(zhuǎn)移到OEM身上。

那么，我們在和他們合作的過程中發(fā)現(xiàn)，很多問題和設(shè)計(jì)相關(guān)，也與工程實(shí)踐相關(guān)。

如何提升智能網(wǎng)聯(lián)的設(shè)計(jì)和工程實(shí)踐呢？

從上圖可以看出，如果在設(shè)計(jì)層面、實(shí)踐層面做的好的話，車輛的信息安全方面就會(huì)更安全一些。

更重要的是，安全領(lǐng)域有一個(gè)理念，如果設(shè)計(jì)階段就可以考慮更多安全因素的話，就可以規(guī)避很多安全問題，同時(shí)解決安全問題的成本會(huì)比較低。

對于一輛汽車而言，不管是車端、云端還是移動(dòng)端，都存在大量入口。以前汽車沒有這些問題，因?yàn)槠囎铋_始跟互聯(lián)網(wǎng)沒有任何聯(lián)系，也沒有接口可以跟世界做交互。

為什么汽車現(xiàn)在成為了我們的關(guān)注點(diǎn)呢？

因?yàn)楝F(xiàn)在一輛車上有太多的接口，不管是遠(yuǎn)距的接口，還是物理的接口，都會(huì)跟世界產(chǎn)生聯(lián)系。

比如說從WIFI到藍(lán)牙、很多遠(yuǎn)距的接口和物理的接口，以及通過充電樁進(jìn)行交互，甚至包括L2、L2+自動(dòng)駕駛系統(tǒng)，以及現(xiàn)場專家提到的車路協(xié)同，目前都跟車有了很多交互。

入侵特斯拉引發(fā)的幾點(diǎn)思考

其實(shí)，上述這些“點(diǎn)”也成為攻擊車輛、讓車輛產(chǎn)生信息安全問題的入口。騰訊安全科恩實(shí)驗(yàn)室在過去幾年通過大量接口，比如在3G、4G網(wǎng)絡(luò)上和ADAS上，都證明了這些對外交互的接口可以對車輛信息安全造成影響。

例如，2016年我們第一次研究了特斯拉并公布了成果，這也是一系列安全問題造成的結(jié)果。

因?yàn)樘厮估潜容^早引入了軟件定義汽車架構(gòu)的OEM，其絕大部分代碼都是自研，但特斯拉在2016年出現(xiàn)的設(shè)計(jì)問題偏多。

具體包括，在未經(jīng)通過授權(quán)的遠(yuǎn)程控制當(dāng)中可以看到瀏覽器的版本很低，以及系統(tǒng)內(nèi)核也存在了很多系統(tǒng)漏洞等問題。

值得一提的是，OTA對固件完整性和安全性的校驗(yàn)是非常重要的，但是2016年特斯拉沒有加入這個(gè)強(qiáng)校驗(yàn)，導(dǎo)致最后我們可以替換特斯拉車聯(lián)網(wǎng)關(guān)的物件，最終我們可以向特斯拉總線發(fā)送各種控制命令，導(dǎo)致了特斯拉的問題。

這些問題如果在設(shè)計(jì)階段就考慮的話，其實(shí)是可以規(guī)避的。

當(dāng)然特斯拉有一個(gè)好處，他們比較早的考慮到了可以通過設(shè)計(jì)技術(shù)來升級軟件，同時(shí)他們都是自研大部分軟件。

2016年我們向特斯拉報(bào)告這些問題以后，他們快速的把這些缺陷都彌補(bǔ)了，比如把瀏覽器升級到了最新、內(nèi)核也進(jìn)行了升級，以及在網(wǎng)關(guān)OTA也進(jìn)行了代碼簽名，以此能夠保證在任何一個(gè)OTA的時(shí)候有一個(gè)強(qiáng)安全校驗(yàn)來保證安全性。

在我們安全領(lǐng)域有句俗語，“道高一尺、魔高一丈”。意思是安全圈子里面各有各的能力和手段。

因此，我們接下來繼續(xù)對特斯拉進(jìn)行深入分析以后，在其代碼實(shí)現(xiàn)層面上又發(fā)現(xiàn)了新的問題，并且發(fā)現(xiàn)了特斯拉自己都沒有發(fā)現(xiàn)的漏洞。

特斯拉在網(wǎng)關(guān)上雖然增加了簽名校驗(yàn)，但是在工程實(shí)踐上的邏輯是有問題的。

更有意思的是，特斯拉在2016年和2017年最大的區(qū)別就是，2016年沒有考慮到設(shè)計(jì)層面的問題，到了2017年，其在設(shè)計(jì)層面已經(jīng)做的非常好了，但是在工程實(shí)踐上又有小問題出現(xiàn)。

2020年，特斯拉的整體能力與2017年相比又有了很大的進(jìn)步?，F(xiàn)在他們是不僅在安全設(shè)計(jì)角度已經(jīng)做的很好，在工程實(shí)踐角度也做得很好，這是值得中國汽車從業(yè)人員參考的。

總結(jié)可以發(fā)現(xiàn)，一方面是軟件定義汽車的比重越來越高，另一方面是隨著自動(dòng)駕駛體系的引入，當(dāng)真正要把駕駛決策交給系統(tǒng)的時(shí)候，期待的是它要比人更安全。但如果信息安全沒有做好的話，不一定會(huì)比人的決策更安全。

2019年我們做了一個(gè)和自動(dòng)駕駛相關(guān)的研究，如果自動(dòng)駕駛系統(tǒng)出現(xiàn)問題的話，會(huì)有什么危害？

看了視頻之后大家就有比較直觀的感覺，里面涉及兩類問題，一類是自動(dòng)駕駛與人工智能算法對抗，另一類是車道識(shí)別。

當(dāng)然特斯拉也有炫技部分，其中前置攝像頭可以感知車道線，此外特斯拉全視覺的高級輔助駕駛方案沒有涉及到毫米波雷達(dá)、激光雷達(dá)等傳感器。

不過，我們研究了他們的算法和神經(jīng)網(wǎng)絡(luò)以后，在地面上布置了幾個(gè)干擾點(diǎn)，就可以引領(lǐng)他們進(jìn)入錯(cuò)誤的車道。這也涉及到人工智能算法決策的對抗技術(shù)。

日前，一輛特斯拉Model 3在臺(tái)灣高速公路上直接撞向了一輛側(cè)翻在地的廂式貨車。事故發(fā)生當(dāng)時(shí)前方的白色卡車是橫向插入特斯拉所在車道。事故發(fā)生前，這輛特斯拉Model 3開啟了自動(dòng)輔助駕駛，但駕駛員沒有專注前方道路，因此造成事故發(fā)生。也就是說，特斯拉自動(dòng)駕駛的傳感器并沒有發(fā)現(xiàn)前方有一輛側(cè)翻的貨車。

通過對特斯拉的研究發(fā)現(xiàn)，在安全領(lǐng)域又有一個(gè)新的攻擊角度，就是特斯拉上面的APE模塊，這本身是跟互聯(lián)網(wǎng)發(fā)生交互的。因?yàn)檐囕v是聯(lián)網(wǎng)的，如果我們把自動(dòng)駕駛的角色搞定之后，通過一個(gè)游戲機(jī)的手柄就可以控制車輛。

那么，我們在算法層面上如何更安全、又如何規(guī)避更多的樣本對抗問題？如何保證自動(dòng)駕駛系統(tǒng)安全可以做的更好？

當(dāng)我們把這些問題報(bào)給特斯拉以后，比如系統(tǒng)安全的問題，特斯拉很快給了回應(yīng)，稱很好解決。在我們報(bào)告問題一個(gè)月之后，特斯拉官網(wǎng)就做了調(diào)整，他們就自動(dòng)駕駛算法、樣本對抗修復(fù)的過程與我們進(jìn)行了溝通。

與此同時(shí)，特斯拉也給了一種說法，啟動(dòng)L2級自動(dòng)駕駛時(shí)，駕駛員的手不能脫離方向盤，要高度保持關(guān)注度。當(dāng)然，這是他們看到我們報(bào)告的問題之后進(jìn)行的策略調(diào)整。

智能網(wǎng)聯(lián)汽車的安全問題

當(dāng)自動(dòng)駕駛引入以后，特別是算法層面的問題，其修復(fù)成本和代價(jià)會(huì)變高。因?yàn)?，調(diào)整算法意味著要重新采集數(shù)據(jù)、重新做數(shù)據(jù)訓(xùn)練、重新做仿真、路測，最后再做驗(yàn)證算法。

剛才滴滴也提到了安全問題，但是他們關(guān)注的是行駛安全，我們把駕駛交給系統(tǒng)以后，對算法進(jìn)行任何的調(diào)整，都要進(jìn)行大量的實(shí)踐。

所以，在自動(dòng)駕駛系統(tǒng)設(shè)計(jì)階段，安全性的考量會(huì)變的更加重要，如果在設(shè)計(jì)階段我們不去考慮這些問題，應(yīng)用之后再做修復(fù)和調(diào)整的話，代價(jià)會(huì)比系統(tǒng)級帶來的安全問題更高。

對于智能網(wǎng)聯(lián)汽車而言，常見的問題有：

 

如上圖所示，越往左邊，整個(gè)設(shè)計(jì)架構(gòu)能夠解決的問題，大家在設(shè)計(jì)的時(shí)候就盡量要考慮這些問題、并且解決掉。右邊的是比較困難的，可以選擇在工程實(shí)踐階段解決這些問題。

簡言之，在設(shè)計(jì)方面解決的問題越多，成本就會(huì)越低。

如果在設(shè)計(jì)層面把安全做好，對于自動(dòng)駕駛而言就是原生安全。 

對于汽車而言，是一個(gè)碎片化非常嚴(yán)重的行業(yè)。面對價(jià)格體系千差萬別的汽車行業(yè)，要把重點(diǎn)要放在人身安全上。

那么，如何保證人身安全？

目前的自動(dòng)駕駛汽車操作系統(tǒng)不統(tǒng)一，硬件也不統(tǒng)一，整個(gè)供應(yīng)鏈也處于非常碎片化、甚至非常復(fù)雜的階段。此外，它不可能像PC和移動(dòng)一樣有通用的操作系統(tǒng)。

在我們看來，如果在設(shè)計(jì)階段，自動(dòng)駕駛系統(tǒng)本身安全性做的很好的話，就可以解決該問題。

針對上述問題，如何應(yīng)對和實(shí)踐就變得非常重要。

自動(dòng)駕駛信息安全問題要如何解決

首先，在研發(fā)階段引入更多的工具來解決這個(gè)問題，該措施在互聯(lián)網(wǎng)領(lǐng)域已經(jīng)使用很多了，比如可以通過監(jiān)控來解決這個(gè)問題。

未來，自動(dòng)駕駛算法的研發(fā)和迭代的速度與原來都會(huì)不同，包括OTA功能引入以后，很多軟件迭代的速度也會(huì)越來越快。

所以從安全角度來講，需要考慮當(dāng)原來傳統(tǒng)的V  Model逐步轉(zhuǎn)向快速迭代的軟件定義汽車的時(shí)候，如何在研發(fā)過程當(dāng)中考慮到安全實(shí)踐是非常重要的。

其實(shí)，我們也有一些實(shí)踐方法來保證軟件快速迭代當(dāng)中的安全。但是汽車行業(yè)有自己的特殊性，很多方法需要在汽車行業(yè)里面做深入的實(shí)踐，同時(shí)要契合汽車行業(yè)的實(shí)際情況。

騰訊作為汽車快速數(shù)字化轉(zhuǎn)型的助手，有以下建議：

• 人的層面：先做到“有專門團(tuán)隊(duì)負(fù)責(zé)信息安全”，再考慮“信息安全是每個(gè)人的責(zé)任”；找專業(yè)的人做專業(yè)的事情；

• 技術(shù)層面：將PC、、移動(dòng)端已經(jīng)成熟的完全技術(shù)、結(jié)合具體業(yè)務(wù)場景定制、按優(yōu)先級順序應(yīng)用到自能網(wǎng)聯(lián)中；選擇合適的自動(dòng)化工具，應(yīng)用到安全開發(fā)流程中。

• 流程層面：安全左移，大多數(shù)安全隱患可以在需求設(shè)計(jì)階段層面解決，低成本高回報(bào)；通過測試驗(yàn)證需求是否滿足，發(fā)現(xiàn)實(shí)現(xiàn)安全問題。

總之，強(qiáng)調(diào)一個(gè)觀點(diǎn)就是信息安全應(yīng)該成為智能網(wǎng)聯(lián)汽車安全管理非常重要的一個(gè)部分。

雷鋒網(wǎng)  雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。