本文作者Jordan Pearson，由機(jī)器之心成員赤龍飛、楊涵舒、Viola、微胖、趙賽坡和趙云峰翻譯。歡迎關(guān)注微信公眾號：機(jī)器之心（ID：almosthuman2014）。

Elon Musk縮短了未來和當(dāng)下的距離。他的SpaceX成功的完成了太空探索任務(wù)，特斯拉也在電動車行業(yè)發(fā)揮了關(guān)鍵作用。因此，當(dāng)Musk談?wù)撐磥頃r(shí)，人們總會側(cè)耳傾聽。這就是他最近對人工智能的言論引起如此多關(guān)注的原因。

在巧舌如簧的對人工智能研究的走向大潑臟水方面，Musk的行為不斷升級加碼。就在最近，他將當(dāng)下的人工智能研究描述成“召喚惡魔”，并且惡搞的將影片《2001太空漫游》中的超級電腦HAL9000戲稱為小狗，拿它和未來的機(jī)器人做比較。前段時(shí)間，他解釋之所以參與人工智能公司DeepMind，是因?yàn)樗释麜r(shí)刻關(guān)注可能出現(xiàn)的“終結(jié)者”情形的進(jìn)展。這樣的談?wù)摽傮w來說弊大于利，特別是對于那些Musk的鐵桿粉絲來說。

從根本上講，Musk的言論被大肆炒作和宣傳，當(dāng)這樣的負(fù)面宣傳涉及到具體的研究工作時(shí)，會產(chǎn)生非常消極和有害的后果。就像去年Gary Marcus在《New Yorker》雜志的一篇專題報(bào)道中所說，在過去的幾十年中，公眾關(guān)注熱點(diǎn)的反復(fù)無常、投機(jī)行為蔓延、以及研究先驅(qū)們的接連放棄一直困擾著人工智能的研究。這一現(xiàn)象被稱作“人工智能寒冬”——研究者在燒掉投資之后卻無法兌現(xiàn)他們之前在媒體上公開發(fā)表的承諾，這一過程在人工智能的歷史上重復(fù)出現(xiàn)。

正如1993年Daniel Crevier（加拿大企業(yè)家、人工智能和圖像處理專家）在一本對人工智能歷史研究的書里所描述的那樣，或許人工智能研究中最聲名狼籍的宣傳（也就是宣揚(yáng)人工智能將戰(zhàn)勝人類）發(fā)生在20世紀(jì)70年代，當(dāng)時(shí)，DARPA（美國國防部先進(jìn)研究項(xiàng)目局）資助了很多類似項(xiàng)目，但最終效果卻都未達(dá)到預(yù)期。

Facebook 人工智能實(shí)驗(yàn)室的負(fù)責(zé)人Yann LeCun去年在Google＋上總結(jié)道：“一些不實(shí)宣傳對于人工智能是非常危險(xiǎn)的。在過去的50年里，人工智能就先后因?yàn)椴粚?shí)宣傳而沉淪了四次。關(guān)于人工智能的炒作必須停止?！比绻荒苋鏜usk所愿，我們五年內(nèi)造不出一臺功能齊全的自動駕駛汽車，會對這個(gè)領(lǐng)域產(chǎn)生何種影響？因此，還是忘記所謂的終結(jié)者吧，我們應(yīng)該重新考量如何談?wù)撊斯ぶ悄堋?/p>

Elon Musk的“人工智能惡魔論”是在誤導(dǎo)大眾？

Musk對于人工智能的尖刻評論只會誤導(dǎo)那些比他更不熟悉人工智能的人。事實(shí)上，我們現(xiàn)在最聰明的人工智能產(chǎn)品也僅僅是與一個(gè)剛會走路的孩子智力相當(dāng)，而這還僅限于處理一些需要外部幫助的任務(wù)（如信息召回）。大多數(shù)機(jī)器學(xué)家仍然在努力使機(jī)器人們能夠撿起一個(gè)球，跑步時(shí)不會摔倒，這看起來離“天網(wǎng)”的最終結(jié)局還有十萬八千里。

的確，歐盟的Human Brain Project和美國的BRAIN Initiative花費(fèi)巨資，希望能夠找到人類大腦的“數(shù)字地圖”，但他們?nèi)沃氐肋h(yuǎn)，大多數(shù)支撐研究結(jié)果的技術(shù)還處在研發(fā)階段，比如，能夠更好掃描大腦的納米生物傳感器。當(dāng)然，這不是說這些研究完全沒有意義，這項(xiàng)工作當(dāng)然有意義，而且這些研究并沒有向公眾宣揚(yáng)所謂的恐懼。

“當(dāng)我們聽到這些關(guān)于人工智能的令人驚悚的事情時(shí)，就感覺像是那種源于外星人和科幻小說的恐懼。外星人出現(xiàn)了，帶著比我們高三倍的智商?！奔~約倫斯勒理工學(xué)院人工智能實(shí)驗(yàn)室主任Selmer Bringsjord告訴我，“那些政府支持下的人工智能研究員也開始產(chǎn)生這種電影情節(jié)里的恐懼情緒。這與自己現(xiàn)在所做的研究無關(guān)，而是一種更深層次的、非理性的恐懼。”

以Musk和霍金為代表的這些人最害怕的是人工智能所帶來的“存在風(fēng)險(xiǎn)（existential risk）?！?存在風(fēng)險(xiǎn)是指那些威脅到整個(gè)人類發(fā)展、或者是將我們徹底毀滅的風(fēng)險(xiǎn)，該名詞于2001年由牛津大學(xué)人類未來學(xué)院（FHI，Oxford）院長Nick Bostrom首次提出并從此流行開來。Musk是Bostrom最近所著一本書《Superintelligence》的粉絲。

來自牛津大學(xué)人類未來學(xué)院的科學(xué)家Daniel Dewey表示，“存在風(fēng)險(xiǎn)”可能是戰(zhàn)爭、財(cái)富不均蔓延、自然災(zāi)害、以及惡意的人工智能。有一個(gè)明顯的事實(shí)Musk沒有搞清楚，至少是沒表達(dá)出來——與其他風(fēng)險(xiǎn)不同，在評估人工智能所帶來的風(fēng)險(xiǎn)時(shí)需要單獨(dú)對待，因?yàn)槟壳皩υ擄L(fēng)險(xiǎn)的討論在很大程度上是一種帶有推測性的、哲學(xué)上的見仁見智，沒有統(tǒng)一的路徑可循，而這些推斷正確與否只有在遙遠(yuǎn)的未來才能得到驗(yàn)證。即便如此，只有當(dāng)機(jī)器突然具備了出乎我們意料的智能之后，人類未來學(xué)院研究者眼中的“智能爆炸”才會出現(xiàn)。

“我認(rèn)為，我們要足夠重視我們目前對人工智能風(fēng)險(xiǎn)狀況的未知程度?！?Dewey說到，“我們現(xiàn)在對人工智能的評估大多是一種可能性討論，而不是嚴(yán)謹(jǐn)?shù)挠?jì)算——例如，我們雖然可以談?wù)撝悄鼙ㄓ锌赡艹霈F(xiàn)，但無法百分之百確認(rèn)這種可能性，也無法預(yù)測這會在何時(shí)發(fā)生。

像霍金一樣（譯者注：霍金曾表示工智能或?qū)⑼{到人類生存），Musk認(rèn)為相關(guān)的監(jiān)督管理委員會應(yīng)該開始監(jiān)督人工智能的發(fā)展，以免我們做出一些“非常愚蠢的事情”，比如說造出一個(gè)能干掉我們的機(jī)器人。但我們對此表示嚴(yán)重懷疑，一個(gè)負(fù)責(zé)頒布公共政策的人工智能委員會此時(shí)能做出些什么？誠然，就像華盛頓大學(xué)法學(xué)院教授Ryan Calo提議的那樣，針對已經(jīng)具備一定智能的機(jī)器人制定一套規(guī)則是有好處的，例如我們已經(jīng)擁有的自動駕駛汽車、無人機(jī)殺手和戰(zhàn)爭機(jī)器人等等。但對于那些依然遙不可及的強(qiáng)人工智能，就完全另當(dāng)別論了。

“危險(xiǎn)會很嚴(yán)重，在某些具體的情景下，人工智能可能會做出錯(cuò)誤決定。舉例來說，一臺自動駕駛汽車只會考慮更加現(xiàn)實(shí)和直接的風(fēng)險(xiǎn)，就像最近廣為人知的倫理困境（譯者注：例如桑德爾在《公正》中提到的案例），所以當(dāng)撞車成為最符合現(xiàn)實(shí)主義和最可靠的選擇時(shí)，機(jī)器會毫不猶豫的這樣去做。"

"我認(rèn)為人工智能是一個(gè)數(shù)學(xué)和工程學(xué)問題，而非公共政策問題?！盉ringsjord坦言，"如果我們建立一個(gè)委員會，我們應(yīng)重點(diǎn)關(guān)注人工智能的工程層面。”

根據(jù)Bringsjord的觀點(diǎn)，在出臺公共政策之前，應(yīng)該先從優(yōu)秀的工程設(shè)計(jì)入手來對人工智能潛在的社會弊病進(jìn)行規(guī)范。這不僅僅是因?yàn)槿斯ぶ悄軇倓偵下?，更是因?yàn)閲?yán)謹(jǐn)?shù)脑O(shè)計(jì)過程能夠緩解計(jì)算機(jī)程序中出現(xiàn)的弊端。

解決這個(gè)問題的方法之一就是恢復(fù)對正式軟件認(rèn)證的研究，他說，正式認(rèn)證可以精確的檢測出程序的缺陷和潛在錯(cuò)誤，將功能失常的風(fēng)險(xiǎn)降到幾乎為零。過去隨著資助減少，這方面的研究活動曾一度消失，但DARPA已經(jīng)開始通過開源和眾包的形式來重新開啟這項(xiàng)研究（譯者注：即DARPA的CSFV，開源正式認(rèn)證）。

“相比這類監(jiān)管委員會，我們更愿意為那些有能力進(jìn)行必要的工程設(shè)計(jì)的人買單，”Bringsjord對我說，“就像新奧爾良洪水，眾所周知，工程師曾事無巨細(xì)的向我們解釋了如何保護(hù)新奧爾良免于洪水侵害——但別人卻認(rèn)為這項(xiàng)計(jì)劃耗資太過巨大。因此，從本質(zhì)上來說，輕率的吝嗇行為才是真正威脅，而非人工智能。

但是，先進(jìn)人工智能與生俱來的潛在危險(xiǎn)似乎才是Musk們所重點(diǎn)關(guān)注的。技術(shù)有招致毀滅的風(fēng)險(xiǎn)，這種黑色預(yù)言不但捏造了人工智能在可預(yù)見的將來真正能做的事情，而且還使現(xiàn)在對人工智能的討論陷入混亂。

比如，科技發(fā)展所帶來的失業(yè)。資本控制下的人工智能和便攜機(jī)器人研發(fā)正徹底改變世界，取代無數(shù)勞動者，完全體現(xiàn)不出任何的未來進(jìn)步。隨著無人機(jī)技術(shù)的不斷進(jìn)步和應(yīng)用范圍的擴(kuò)大，軍用機(jī)器人雖然沒有強(qiáng)人工智能的支持，但也能夠自行完成殺人任務(wù)，這已經(jīng)成為極具爭議的話題，但那些呼吁停止這類研發(fā)的組織卻被直接忽視。

事實(shí)上，我們不需要這樣的技術(shù)突破——人工智能變得和人一樣聰明，因?yàn)槲覀兊氖澜鐚⒉豢杀苊獾谋粰C(jī)器和軟件改變，不論好壞。這不是說，我們不該考慮先進(jìn)人工智能的未來應(yīng)用，而是應(yīng)該更加負(fù)責(zé)一點(diǎn)，尤其是面對公眾時(shí)。

Musk的評論適時(shí)給媒體的炒作加了一把火，也加劇了這種未經(jīng)證實(shí)的恐懼，而這種恐懼僅僅是來源于對一種還處于嬰兒階段的技術(shù)的過分夸大，不管它每天的進(jìn)步是多么令人印象深刻。自動駕駛汽車、智能安檢員、機(jī)器人同事......這些可能性雖讓人恐懼，但也很美妙。這就是我們的未來，而人工智能決不會讓它陷入瘋狂。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。