雷鋒網(wǎng)按：本文作者霍炬，來(lái)自公號(hào)“歪理邪說(shuō)”，雷鋒網(wǎng)已獲得授權(quán)。

（via：tutorvoice.com）

5月份特斯拉的“自動(dòng)駕駛“系統(tǒng)導(dǎo)致的車主死亡事件，因?yàn)?月30日美國(guó)國(guó)家公路交通安全管理局（NHTSA）調(diào)查而不得不被披露出來(lái)，這起事故終于成了全球新聞熱點(diǎn)。我相信大家都在各處看到了事故介紹和一些技術(shù)問(wèn)題，這里不重復(fù)各種媒體已經(jīng)報(bào)道過(guò)的事情。只想說(shuō)說(shuō)我對(duì)這件事的看法，這個(gè)事故并不是只涉及一家公司和一項(xiàng)技術(shù)，它還涉及了科技和人的關(guān)系，以及企業(yè)和社會(huì)責(zé)任。

我要先聲明一下，做為一個(gè)懶得開(kāi)車的人，我對(duì)于自動(dòng)駕駛技術(shù)并沒(méi)什么偏見(jiàn)，甚至還挺期待的。但從技術(shù)和邏輯上，我不認(rèn)為短期能出現(xiàn)應(yīng)用到家庭車輛上的自動(dòng)駕駛系統(tǒng)。另外提醒對(duì)于部分狂熱的特斯拉以及Elon musk粉絲，本文會(huì)引起你一定程度的不適，可以考慮現(xiàn)在直接關(guān)閉頁(yè)面，然后退訂本帳號(hào)。

特斯拉采用了幾種技術(shù)，攝像頭部分來(lái)自以色列公司Mobileye，它們研制的技術(shù)確切的說(shuō)法是“輔助駕駛”，而不是“自動(dòng)駕駛”。Mobileye的公司介紹是這樣的：“Mobileye是視覺(jué)信息處理領(lǐng)域的算法和芯片系統(tǒng)領(lǐng)先者，面向駕駛員輔助系統(tǒng)（DAS）市場(chǎng)?！保约啊癕obileye技術(shù)讓路上的旅客更安全，減少交通事故，挽救生命，同時(shí)具有通過(guò)自主駕駛重塑駕駛體驗(yàn)的潛力?！边@說(shuō)明了什么？說(shuō)明了Mobileye對(duì)于自己技術(shù)水平是有確切認(rèn)知的，即，它是人類駕駛員的輔助，不是自動(dòng)駕駛。他們雖然表示了未來(lái)有全自動(dòng)駕駛的可能性，但也明確表示了現(xiàn)在不是這樣。

Mobileye提供的技術(shù)是特斯拉使用的“自動(dòng)駕駛”相關(guān)技術(shù)中最先進(jìn)的一部分。其他毫米波雷達(dá)，傳感器，都不是什么新鮮東西，最近5年買過(guò)中等價(jià)格車的話，如果選了比較好的配置包，利用雷達(dá)來(lái)這些防止碰撞，防止追尾，甚至自動(dòng)趴車之類的功能都應(yīng)該是標(biāo)配了。

把這幾種東西放在一起能產(chǎn)生革命性技術(shù)革新嗎？它們確實(shí)能提供一些方便，但是距離產(chǎn)生真正的革新還差得太遠(yuǎn)了。Mobileye的系統(tǒng)幾乎和各大汽車廠商都在合作，從寶馬豐田到通用，都有比較成熟的系統(tǒng)。按照Mobileye自己介紹的數(shù)據(jù)，他們的芯片EyeQ從2007年開(kāi)始商用第一代產(chǎn)品，到2014年3月份已經(jīng)安裝在了330萬(wàn)輛汽車上，涉及160個(gè)車型和18個(gè)汽車制造商。這完全不是一個(gè)新東西，只是其他廠商不敢把這種東西叫做Autopilot罷了。

如果我們不算1920年出現(xiàn)的無(wú)線電導(dǎo)航自動(dòng)行駛汽車，就從80年代，卡內(nèi)基梅隆大學(xué)（CMU）和國(guó)防部一起開(kāi)發(fā)基于計(jì)算機(jī)視覺(jué)的自動(dòng)駕駛技術(shù)開(kāi)始算起，這也有30年歷史了。下面是兩段歷史視頻（點(diǎn)擊回原文可看），分別是CMU的Navlab 1984-1994年的成果，以及1997年的實(shí)驗(yàn)。在1997年這段視頻里面，你可以看到他們的車輛已經(jīng)完全自主的在高速公路上行駛了，跟今天看起來(lái)沒(méi)什么區(qū)別。這些年的技術(shù)發(fā)展對(duì)于這類技術(shù)發(fā)展是有幫助的，大致就是訓(xùn)練數(shù)據(jù)的增加，以及高性能芯片和GPU的小型化。這些變化確實(shí)可以讓技術(shù)普及和提升效果，像Mobileye這些年的成績(jī)主要是小型化和廉價(jià)化這些系統(tǒng)，這都是很好的商業(yè)項(xiàng)目，但要非說(shuō)科學(xué)上有突破，還是太樂(lè)觀了。

特斯拉本身其實(shí)也多次強(qiáng)調(diào)這只是輔助駕駛系統(tǒng)，但是擋不住媒體和粉絲們熱烈追捧，儼然把這種技術(shù)的應(yīng)用看成了科技革命。幾年前馮大輝諷刺過(guò)圈內(nèi)對(duì)幾位名人的追捧和崇拜現(xiàn)象，發(fā)明了一個(gè)詞叫“喬凱穆貝”，其中穆指的就是“鋼鐵俠·穆斯克”?，F(xiàn)在這種奇怪的崇拜現(xiàn)象已經(jīng)蔓延到了普通用戶身上了，因?yàn)閷?duì)特斯拉和穆斯克的盲目崇拜，車主們似乎真的相信特斯拉掌握著目前最先進(jìn)的自動(dòng)駕駛技術(shù)，而且這種技術(shù)完全可用，比人駕駛錯(cuò)誤率更低，于是他們就真的開(kāi)始不管方向盤讓這套系統(tǒng)自己駕駛了。在Youtube上可以看到很多熱心車主的所謂“測(cè)試”視頻，他們雙手離開(kāi)方向盤，吃東西，刮胡子，甚至在手機(jī)上玩游戲。特斯拉明確知道這種狀況要出問(wèn)題，也曾經(jīng)試圖升級(jí)系統(tǒng)，讓給他們的自動(dòng)駕駛模式增加一系列限制，比如最高速度限制在45MPH之類，但最后在車主的抗議、甚至威脅去訴訟的強(qiáng)烈反對(duì)中作罷。很可能這又是一個(gè)企業(yè)被用戶綁架的例子。

如果對(duì)計(jì)算機(jī)視覺(jué)和機(jī)器學(xué)習(xí)有一點(diǎn)基本認(rèn)知，就會(huì)明白為什么這些系統(tǒng)只能是輔助作用。我們可以用前一段AlphaGO和李世石的圍棋大戰(zhàn)來(lái)做個(gè)例子幫助理解，這兩者有一些區(qū)別，不算特別準(zhǔn)確的對(duì)比，但大致可以說(shuō)明問(wèn)題。在那場(chǎng)大戰(zhàn)中，計(jì)算機(jī)的輸入和輸出仍然是人管理的，有人替AlphaGo落子，并且把結(jié)果輸入回系統(tǒng)。使得AlphaGo處在一個(gè)無(wú)干擾的環(huán)境中，有明確且準(zhǔn)確的數(shù)據(jù)輸入，系統(tǒng)穩(wěn)定性也就很高。但在汽車上，輸入是攝像頭、雷達(dá)和傳感器。我們先不討論人工智能系統(tǒng)的準(zhǔn)確度，僅談?dòng)?jì)算機(jī)視覺(jué)，即使在相對(duì)穩(wěn)定的測(cè)試環(huán)境下，有充足的計(jì)算資源和時(shí)間，準(zhǔn)確度仍然達(dá)不到100%。何況是在汽車上，計(jì)算能力受限、時(shí)間要求極高，并且路上的情況千變?nèi)f化，這樣的準(zhǔn)確度就下降更多了。無(wú)論毫米波還是激光雷達(dá)各有其工作限制，受到天氣、雨雪、落葉、塵土等等影響，也不可能總是正確。

再說(shuō)數(shù)據(jù)處理這部分，算法雖然各自一些區(qū)別，但歸根結(jié)底原理都是差不多的，這些年流行的基本是深度學(xué)習(xí)相關(guān)的技術(shù)。同樣的技術(shù)也被應(yīng)用于AlphaGo的對(duì)戰(zhàn)中，如果你還記得那場(chǎng)AlphaGo輸?shù)舻膶?duì)戰(zhàn)，應(yīng)該還記得那時(shí)候的感覺(jué)，當(dāng)時(shí)圍觀者直接的感受是“AlphaGo的水平突然下降，從超越九段的高手瞬間變成了圍棋愛(ài)好者水平，連出錯(cuò)誤“。是的，在這樣的系統(tǒng)里面，一定會(huì)在某些時(shí)候出現(xiàn)這種情況。從圖像輸入到計(jì)算出來(lái)結(jié)果，其中每一個(gè)環(huán)節(jié)都有可能導(dǎo)致這樣狀況。所以如果是對(duì)相關(guān)技術(shù)有比較清醒的認(rèn)知，應(yīng)該現(xiàn)在是不敢開(kāi)著所謂“自動(dòng)駕駛”的特斯拉，自己去刮胡子的。

程序不像人，一旦出問(wèn)題，它的錯(cuò)誤反映的會(huì)更加激烈和明確。在最終直觀的表現(xiàn)上，就是它在99.9%的時(shí)間可能工作很正常，但那0.1%不正常的時(shí)候，會(huì)突然變得連基本功能都完成不了，而且難以修正，并不是像人那樣水平下降比較平緩，一個(gè)正常人很難出現(xiàn)到瞬間從天才變成白癡這樣的異常情況。更糟糕的是，這種錯(cuò)誤會(huì)同時(shí)存在在所有同一版本的軟件上，完全能重現(xiàn)。100個(gè)人類司機(jī)不會(huì)犯一樣的錯(cuò)誤，但100臺(tái)裝了同樣版本系統(tǒng)的車輛，會(huì)在同樣的情況下出同樣的問(wèn)題，影響會(huì)非常大。

媒體們說(shuō)”人類司機(jī)和攝像頭都沒(méi)能識(shí)別白色的貨車”，這個(gè)形容對(duì)這起事故過(guò)于美化了。這個(gè)案例中，人類司機(jī)并沒(méi)認(rèn)真駕駛車輛，他當(dāng)然沒(méi)能識(shí)別到白色的貨車。但一個(gè)正常駕駛的司機(jī)能不能識(shí)別這種情況呢？事發(fā)時(shí)候正在白天，能見(jiàn)度很好，通常應(yīng)該是能的，就算確實(shí)沒(méi)能提前看到它，到附近的時(shí)候仍然有機(jī)會(huì)減速，或者通過(guò)改變方向撞向隔離帶之類不致命的地方，不至于和自動(dòng)駕駛系統(tǒng)漏檢之后一樣，完全不減速撞向貨車，穿過(guò)貨車之后司機(jī)已經(jīng)死亡，車輛還停不下來(lái)繼續(xù)往前開(kāi)了幾百米。

除了算法和技術(shù)本身的問(wèn)題，只要寫(xiě)過(guò)幾天程序的人，應(yīng)該都會(huì)理解“軟件一定存在Bug“。從算法到最終商品實(shí)現(xiàn)之間還有漫長(zhǎng)的距離，還需要大量的包裝和產(chǎn)品化工作，這些工作都會(huì)帶來(lái)Bug，而且這些系統(tǒng)最終基于的現(xiàn)有其他技術(shù)，比如操作系統(tǒng)和其他標(biāo)準(zhǔn)庫(kù)，也一樣會(huì)出現(xiàn)Bug。當(dāng)Bug出現(xiàn)的時(shí)候，軟件能正確處理好當(dāng)前的情況嗎？恐怕也很不樂(lè)觀。

目前的交通系統(tǒng)是以人類為中心建立的一種高容錯(cuò)度系統(tǒng)。一個(gè)新手，只需熟悉基本交通規(guī)則，通過(guò)考試就可以上路行駛，路上的其他人會(huì)根據(jù)他的駕駛情況適應(yīng)你的存在。對(duì)于新手人們可能會(huì)禮讓一些，對(duì)于其他地方車牌的車輛也會(huì)禮讓一些，這樣的規(guī)則是長(zhǎng)期車輛行駛中建立的文化，并不是硬性規(guī)則。還記得那個(gè)笑話嗎？“如果大晴天旁邊的車雨刷突然動(dòng)了一下，這應(yīng)該就是一個(gè)想打燈右轉(zhuǎn)的新手司機(jī)。”人類低水平的駕駛行為甚至?xí)簳r(shí)判斷失誤，通常是可以被道路上其他參與者預(yù)測(cè)和感知到的，不至于導(dǎo)致太糟糕結(jié)果。這樣的高容錯(cuò)系統(tǒng)中混入大量自動(dòng)駕駛車輛很可能是一種災(zāi)難，因?yàn)楹笳咭坏┏霈F(xiàn)錯(cuò)誤，行為就變得非常詭異，就算是有經(jīng)驗(yàn)的人類司機(jī)也難以預(yù)測(cè)它。盡管自動(dòng)駕駛車輛能99%準(zhǔn)確遵守交通規(guī)則，仍然會(huì)產(chǎn)生各種難以預(yù)料的情況。要解決這個(gè)問(wèn)題，大概只能把人類司機(jī)徹底排除在交通系統(tǒng)之外，100%靠自動(dòng)駕駛。但這在法律和政治上毫無(wú)疑問(wèn)是不可行的。

綜合這些情況，可以有一個(gè)比較確切的結(jié)論：在現(xiàn)在這個(gè)階段，人/機(jī)之間的關(guān)系仍然是互相補(bǔ)充，互相發(fā)現(xiàn)對(duì)方的Bug。更可靠的辦法是把輔助駕駛技術(shù)做為一種應(yīng)急備份，用來(lái)在人失敗的情況下的最后一次補(bǔ)救，而不應(yīng)該反過(guò)來(lái)，讓人去彌補(bǔ)機(jī)器的錯(cuò)誤。因?yàn)槿藦姆潘傻骄o張的狀態(tài)切換不那么容易，如果以機(jī)器為主導(dǎo)，人長(zhǎng)時(shí)間出于放松狀態(tài)，等到機(jī)器出問(wèn)題的瞬間，幾乎不可能指望人能有及時(shí)而正確的反映。

特斯拉在這方面的行為，無(wú)論是用“Autopilot（自動(dòng)駕駛）“替代”ADAS（高級(jí)駕駛輔助系統(tǒng)）”，還是長(zhǎng)期對(duì)社區(qū)以及Youtube上用戶瘋狂行為的縱容甚至暗示和鼓勵(lì)，都是非常不負(fù)責(zé)任的。出了事情很多人會(huì)把問(wèn)題推給用戶，說(shuō)廠商明確告知了風(fēng)險(xiǎn)，但沒(méi)出事的時(shí)候所有人都在推波助瀾，夸獎(jiǎng)這個(gè)技術(shù)多么酷炫。相信廠商也明白，這樣一套系統(tǒng)一旦到了對(duì)背景知識(shí)毫無(wú)了解的用戶手里，這些用戶是不會(huì)在乎這種風(fēng)險(xiǎn)提示的。Autopilot這個(gè)名字就影響了用戶的認(rèn)知，再加上社區(qū)和媒體的推波助瀾，真是擋也擋不住。如果陰謀論一點(diǎn)的話，廠商甚至是有意默許此事，以獲得更多的自動(dòng)駕駛里程數(shù)據(jù)，在此事之前，媒體都喜歡說(shuō)“特斯拉的自動(dòng)駕駛里程迅速上升，已經(jīng)超過(guò)了Google好幾年的成果”…這種行為就如同把機(jī)槍送給猴子，天知道他們會(huì)作出什么事情來(lái)。這起事件的最終影響還不知道，要等待美國(guó)國(guó)家公路交通安全管理局的調(diào)查結(jié)果，最糟糕的情況下，很可能影響整個(gè)行業(yè)的發(fā)展。

更荒唐的是發(fā)生了這種事情之后，特斯拉的粉絲把這起事故看作“對(duì)科學(xué)的獻(xiàn)身”。這種美化非常無(wú)趣，他是媒體渲染的狂熱氣氛以及粉絲社區(qū)互相暗示的犧牲者，和科學(xué)本身是沒(méi)關(guān)系的。這種雙手離開(kāi)方向盤干各種事情的“測(cè)試”視頻，對(duì)于科學(xué)毫無(wú)幫助，只是少部分人的個(gè)人炫耀而已。

道路交通是一個(gè)非常微妙的行為，它牽扯到了參與交通所有人共同的默契。目前這種技術(shù)條件下的技術(shù)駕駛大規(guī)模應(yīng)用到普通車輛上，不僅僅是對(duì)車主本人的風(fēng)險(xiǎn)，對(duì)于路上其他人并不公平。我按照交通規(guī)則開(kāi)車，認(rèn)為所有人都會(huì)遵守跟我差不多的規(guī)則，誰(shuí)會(huì)想到旁邊有個(gè)自動(dòng)駕駛的車輛出了bug？如果是專業(yè)人員測(cè)試，會(huì)加倍小心預(yù)防各種意外情況，這倒不太可怕。但普通用戶不會(huì)這樣，他們把道路上所有人都牽扯進(jìn)了這場(chǎng)危險(xiǎn)的游戲。這恰恰是其他傳統(tǒng)汽車廠商不敢干這件事的原因，無(wú)論豐田通用還是寶馬，都在駕駛輔助系統(tǒng)上投入巨大，也有成熟的產(chǎn)品，但以他們廣泛的車輛保有量，如果把這種系統(tǒng)送到用戶手里，風(fēng)險(xiǎn)就不是這級(jí)別了。

媒體還喜歡宣傳的一個(gè)口徑是“自動(dòng)駕駛比人類駕駛的事故率更低”。在駕駛這個(gè)問(wèn)題上，比較這種平均數(shù)意義并不大。人類駕駛事故導(dǎo)致的死亡，有相當(dāng)比例是酒駕、駕駛注意力不集中、超速和不系安全帶造成的。以我所在的安大略省為例，2014年全省十萬(wàn)人口機(jī)動(dòng)車事故死亡率3.52人，在北美算相當(dāng)?shù)退?，這里人們駕駛習(xí)慣很好很規(guī)范，但這幾個(gè)因素仍然占相當(dāng)比例，在2014年安省致死的機(jī)動(dòng)車事故數(shù)據(jù)中，酒駕占24.9%，駕駛注意力不集中17.9%，超速17.0%，不系安全帶12.5%，其他交通違章情況沒(méi)統(tǒng)計(jì)在內(nèi)。美國(guó)因?yàn)檫@些問(wèn)題影響的比例更大，所以如果不做這些違法事情的話，一個(gè)人類司機(jī)的事故率遠(yuǎn)沒(méi)有媒體渲染的那么高。

更何況，人類個(gè)體差異相當(dāng)大，有人20年一張罰單都沒(méi)有，有人經(jīng)常出各種事故，這兩者怎么能平均起來(lái)統(tǒng)計(jì)成人類的事故率去和自動(dòng)駕駛比較呢？在這種情況下，個(gè)體的意義大于整體統(tǒng)計(jì)數(shù)字，而一些輔助系統(tǒng)，比如安全帶警報(bào)系統(tǒng)、或者給有酗酒歷史的司機(jī)安裝的車內(nèi)酒精含量檢測(cè)系統(tǒng)都可以避免很多潛在事故，從而救了更多的人。甚至嚴(yán)格交通法律，增加執(zhí)法力度，給予更多培訓(xùn)都是非常有用的辦法。如果只從降低事故率考慮，它們遠(yuǎn)比試圖用自動(dòng)駕駛?cè)〈祟愃緳C(jī)有效。

考慮到無(wú)人駕駛的道德問(wèn)題，也就是在某些特定情況下，讓車上的人類受傷還是讓對(duì)面的司機(jī)受傷，或者讓周圍的行人死亡，形成的道德困境，那些純自動(dòng)，車上沒(méi)有人，用來(lái)運(yùn)算貨物或者特殊用途的無(wú)人駕駛系統(tǒng)似乎更可行一些。

這種車上沒(méi)有人，遇到危險(xiǎn)情況自己撞下懸?guī)r也只不過(guò)是損失了一輛車和貨物，不會(huì)讓其他人受傷或者死亡。人機(jī)混合在一起的，以機(jī)器為主導(dǎo)的自動(dòng)駕駛系統(tǒng)面對(duì)這個(gè)道德困境很難有好的解決方案。

在這起事件之后，各國(guó)應(yīng)該會(huì)逐步制訂規(guī)范無(wú)人駕駛的法規(guī)，比如至少這樣的車輛應(yīng)該有明確的標(biāo)記，讓其他人知道它存在無(wú)人駕駛的可能性，路上的其他人類司機(jī)有權(quán)利知道這件事，并且采用自己的防御或者規(guī)避策略?；蛘哕囕v之間的通訊系統(tǒng)會(huì)被制訂成規(guī)范，無(wú)論是自動(dòng)車還是人類駕駛的車都會(huì)安裝，從而讓車輛了解周圍其他車輛的情況。這種聯(lián)網(wǎng)系統(tǒng)如果不考慮隱私的話，應(yīng)該會(huì)對(duì)交通情況有很大幫助，但它跟自動(dòng)價(jià)值并不直接相關(guān)，人類駕駛也需要這樣的系統(tǒng)。

我想，綜合這些因素，在短期內(nèi)，有嚴(yán)格限制的更高級(jí)的駕駛輔助系統(tǒng)，以及少量的純自動(dòng)的專業(yè)用途車輛，這兩個(gè)方向都是有可能實(shí)現(xiàn)的，但讓車輛自己駕駛，同時(shí)人坐在駕駛座上刮胡子、吃飯，這種情況應(yīng)該很難被普及。到目前為止，敢宣稱未來(lái)能做到這種完全不需要人類監(jiān)控的自動(dòng)駕駛的廠商只有沃爾沃一家（2020年以后），對(duì)此我仍然持懷疑態(tài)度。

人類總是陷入這樣的狀況，一個(gè)歷史時(shí)期內(nèi)對(duì)于技術(shù)非常低估，等到下一個(gè)周期又對(duì)技術(shù)進(jìn)步過(guò)于高估，我們現(xiàn)在就是位于這樣的高估周期內(nèi)，上一個(gè)這樣的時(shí)候大概是80年代吧，一個(gè)證據(jù)是那時(shí)候的科幻小說(shuō)都是以2000年為背景，認(rèn)為20年后人類已經(jīng)可以在火星建立殖民地了…...實(shí)際上到2000年我們連移動(dòng)互聯(lián)網(wǎng)還沒(méi)有呢。

參考備注：

1. 標(biāo)題圖： Ever wondered how Google’s self-driving cars see the world? Here’s all you need to know

2. 特斯拉事故最新進(jìn)展：司機(jī)當(dāng)時(shí)可能正在看DVD 
   

3. 安省事故數(shù)據(jù) 

雷鋒網(wǎng)注：轉(zhuǎn)載請(qǐng)務(wù)必保留作者完整信息，不得刪減內(nèi)容。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。