剛結(jié)束的人機(jī)大戰(zhàn)上，AlphaGo的表現(xiàn)使得人工智能（AI）成為熱門話題。人工智能最終會(huì)發(fā)展成為新的物種，而人類變成地球的邊緣物種嗎？還有多久，人工智能將會(huì)擁有超越人類的智慧？《Rolling Stone》雜志作者JEFF GOODELL對(duì)此問(wèn)題作了深入探討，以下是雷鋒網(wǎng)對(duì)原文的翻譯：

 「歡迎來(lái)到機(jī)器人幼兒園」。

Pieter Abbeel 打開機(jī)器人研究室的門，進(jìn)入了這個(gè)位于加州大學(xué)伯克利分校北部的新建筑。這個(gè)實(shí)驗(yàn)室顯得很凌亂：自行車隨意地倚靠在墻角，「學(xué)生」們?cè)谝粋€(gè)個(gè)小隔間內(nèi)以各種姿勢(shì)坐著，講臺(tái)上的白板寫著各種令人費(fèi)解的公式。Abbeel 是一個(gè)精干的 38 歲中年人，典型的美國(guó)工科男打扮：牛仔褲，稍大的 T 恤。在 2000 年，他從比利時(shí)來(lái)美國(guó)斯坦福大學(xué)讀博士，現(xiàn)在是世界著名的機(jī)器人學(xué)習(xí)專家。但首先，他必須教會(huì)機(jī)器人學(xué)生們最基本的「思考」能力。

「這就是我把這里成為幼兒園的原因」，他風(fēng)趣的說(shuō)。

然后他向我介紹了 Brett 。這是已破產(chǎn)的硅谷機(jī)器人公司 Willow Garage 生產(chǎn)的一個(gè)身長(zhǎng)六尺（1.8 米）的人形機(jī)器人。七年前，實(shí)驗(yàn)室購(gòu)買了 Brett 并長(zhǎng)期對(duì)其進(jìn)行試驗(yàn)。Brett 僅僅是實(shí)驗(yàn)室機(jī)器人中的一員。在另一個(gè)小隔間內(nèi)，一個(gè)沒(méi)有名字的半米長(zhǎng)機(jī)器人通過(guò)繩索掛在椅子上。在地下室內(nèi)，還有還有一臺(tái)工業(yè)機(jī)器人在盒子內(nèi)日復(fù)一日地做著同樣的事情，目的是研究機(jī)器人的自學(xué)能力。穿過(guò)一條大街，還坐落著另一個(gè)伯克利大學(xué)的另一個(gè)實(shí)驗(yàn)大樓，一個(gè)外科手術(shù)人形機(jī)器人正在試圖用「手」把一塊肉夾起來(lái)。旁邊則是一名博士生在試圖教會(huì)無(wú)人機(jī)如何圍繞一個(gè)物件飛行，他對(duì)我說(shuō)：「我們并不希望這些無(wú)人機(jī)在天上發(fā)生交通事故，所以我們正努力賦予他們視覺識(shí)別能力」。

在工業(yè)領(lǐng)域，執(zhí)行特定任務(wù)的機(jī)器人已經(jīng)不足為奇：把機(jī)械手向左移動(dòng) 6 英尺，抓起模塊，向右轉(zhuǎn)動(dòng)，把模塊放到另一平臺(tái)上。這個(gè)動(dòng)作每小時(shí)可以重復(fù) 300 次。但這樣的機(jī)器人并不智能，和割草機(jī)其實(shí)沒(méi)有本質(zhì)區(qū)別。但最近幾年，機(jī)器學(xué)習(xí)領(lǐng)域有了顯著的突破，不斷研究出來(lái)的新算法已經(jīng)可以粗略地模仿人類大腦，并有簡(jiǎn)單的自我學(xué)習(xí)能力，這使得機(jī)器人學(xué)習(xí)怎么說(shuō)話和識(shí)別圖案成為可能。Abbeel 的目標(biāo)是讓機(jī)器人成為真正意義上的智慧，不限于特定領(lǐng)域，且可以通過(guò)自我學(xué)習(xí)不斷提高。

顯然，對(duì)于這個(gè)目標(biāo)，他還有很長(zhǎng)的路要走?！脯F(xiàn)在的機(jī)器人甚至連兩歲小孩的智力都達(dá)不到」，他說(shuō)。例如，Brett 曾經(jīng)試圖學(xué)習(xí)過(guò)一些簡(jiǎn)單的任務(wù)，像疊衣服或打結(jié)，對(duì)于人類來(lái)說(shuō)，這再簡(jiǎn)單不過(guò)，比如認(rèn)出在桌子上皺巴巴的一條棉布其實(shí)是毛巾，對(duì)于機(jī)器人來(lái)說(shuō)則困難無(wú)比，沒(méi)有人類靈敏的感官，也沒(méi)有對(duì)于物質(zhì)的感性認(rèn)識(shí)，最重要的是，它們對(duì)于什么是「毛巾」沒(méi)有概念——它們看到的只是桌子上一團(tuán)彩色的布而已。

為了解決這個(gè)問(wèn)題，Abbeel 從小孩子學(xué)習(xí)中得到了靈感，創(chuàng)立了一個(gè)自我學(xué)習(xí)理論，使機(jī)器人在學(xué)習(xí)時(shí)，通過(guò)不斷地試錯(cuò)，從而逼近最終的正確答案?，F(xiàn)在，當(dāng) Brett 試圖疊毛巾時(shí)，他的做法和小朋友是類似的：用鉗子手把毛巾夾起來(lái)，用視覺識(shí)別觀察毛巾的形狀，思考折疊毛巾的步驟。這聽起來(lái)很蠢，但換個(gè)角度，人形機(jī)器人已經(jīng)學(xué)會(huì)如何自學(xué)疊毛巾了。

聽起來(lái)令人毛骨悚然——一個(gè)有自我意識(shí)的人造人。而他們的進(jìn)化速度正越來(lái)越快。什么時(shí)候他們將超越我們？如果一個(gè)機(jī)器人可以自己折疊毛巾，終有一天，他可以幫你煮飯，做手術(shù)，甚至發(fā)動(dòng)戰(zhàn)爭(zhēng)？人工智能也許將為人類解決很復(fù)雜的問(wèn)題，如治療癌癥及解決全球氣候變暖問(wèn)題，但同樣，他們也有可能擔(dān)任破壞者的角色，電話推銷，監(jiān)控人類，竊取人類隱私等等。基于此，出現(xiàn)了一個(gè)更大的問(wèn)題：機(jī)器人會(huì)有一天能夠獨(dú)立思考，表達(dá)感情嗎？這恐怕沒(méi)有人能給出確切答案。人工智能在眾多科技領(lǐng)域之所以如此特殊，就在于此，機(jī)器人對(duì)于人類來(lái)說(shuō)，很可能不僅僅是一個(gè)「工具」，我們站在新生活的臨界點(diǎn)，迎接我們的將會(huì)是革命性的科技突破，還是人類生存的巨大威脅，我們不得而知。

管他呢，革命的車輪已經(jīng)啟動(dòng)。去年夏天，伯克利分校團(tuán)隊(duì)在一個(gè)類人形機(jī)器人上安裝了一個(gè)短期記憶系統(tǒng)。計(jì)算機(jī)科學(xué)專家 Sergey Levine 是這個(gè)項(xiàng)目的負(fù)責(zé)人，自稱這是個(gè)奇怪的項(xiàng)目。為了測(cè)試機(jī)器人的記憶，他們給機(jī)器人下了一個(gè)命令：讓機(jī)器人把釘子放到左右兩個(gè)洞中的一個(gè)。然后，他們把機(jī)器人的記憶數(shù)據(jù)清空，讓機(jī)器人重復(fù)放釘子的動(dòng)作。令他們驚訝的是，機(jī)器人竟然準(zhǔn)確的放進(jìn)了之前的洞里。沒(méi)有了記憶數(shù)據(jù)，機(jī)器人是如何做到的呢？最終，我們明白了，在第二次執(zhí)行命令時(shí)，機(jī)器人已經(jīng)想出了如何用自己的方式執(zhí)行命令。「這太讓人驚訝了」，Levine 說(shuō)。

Abbeel 把我?guī)У搅怂霓k公室，這是一件沒(méi)有窗戶的小隔間。他在里面告訴我，有一家名叫 DeepMind 的人工智能創(chuàng)業(yè)公司在 2014 年被谷歌以 4 億美元收購(gòu)（譯者注：應(yīng)為2013年）。幾年過(guò)去了，DeepMind 研發(fā)的人工智能在玩主機(jī)游戲方面已經(jīng)超過(guò)了人類。但更令人驚訝的是，他們并沒(méi)有為特定的游戲編寫程序。這和擊敗象棋冠軍的深藍(lán)不同，深藍(lán)僅僅針對(duì)國(guó)際象棋做了優(yōu)化。而 DeepMind 的人工智能所知道的，僅僅是要得到盡可能多的得分而已。這里運(yùn)用到的主要是深度學(xué)習(xí)的技術(shù)，簡(jiǎn)單來(lái)說(shuō)，當(dāng)電腦做對(duì)了什么，就給他一個(gè)「好」 的反饋，電腦通過(guò)不斷在游戲中試錯(cuò)，最終掌握游戲規(guī)則及高分技巧。

這引起了我的好奇心，研究人員在 Abbeel 的實(shí)驗(yàn)室里決定嘗試一個(gè)增量學(xué)習(xí)算法的試驗(yàn)，希望能夠成功的教會(huì)機(jī)器人跳躍，跑步及游泳。讓他玩主機(jī)游戲如何？出乎他們的意料，這個(gè)名為「信賴域策略優(yōu)化」的算法玩游戲竟然能媲美 DeepMind 公司的算法。換句話說(shuō)，信賴域策略優(yōu)化擁有廣泛學(xué)習(xí)的能力?！肝覀儼l(fā)現(xiàn)信賴域策略優(yōu)化算法能夠在游戲中擊敗人類」，Abbeel 說(shuō)，「不僅僅是教機(jī)器人走路」。

Abbeel 放了一段視頻。畫面的中心是一個(gè)機(jī)器人模擬裝置，在一個(gè)開放的框架內(nèi)。你可以看到一個(gè)機(jī)器人臥倒在黑白格子地板上?！脯F(xiàn)在記住，這里采用的是與剛剛視頻游戲相同的算法」，他說(shuō)，機(jī)器人被賦予了三個(gè)目標(biāo)：盡可能快地跑動(dòng)，不要用腳大力地踏地，保持你的軀干在一定高度上?！杆恢朗裁唇凶摺?，Abbeel 說(shuō)，「它對(duì)于腳和手也沒(méi)有一個(gè)具體的概念，它只有這些目標(biāo)，并盡可能利用四肢達(dá)成這些目標(biāo)，我們看看它是怎么做的」。

Abbeel 按下了按鈕，模仿裝置就啟動(dòng)了。機(jī)器人在地板上笨拙的掙扎著，讓人摸不清頭腦。原則上說(shuō)，它可以決定自己是走路，是跳躍，還是邊走邊跳。Abbeel 說(shuō)，但算法的即時(shí)學(xué)習(xí)機(jī)制，是機(jī)器人會(huì)以最合適的方式前進(jìn)。機(jī)器人會(huì)分析先前的動(dòng)作，判斷下一步應(yīng)該做哪個(gè)動(dòng)作，才能使自己擁有更好的前進(jìn)速度，而這一切會(huì)被記錄下來(lái)，以供以后遇到類似的情況參考。不久后，機(jī)器人步履蹣跚，想一個(gè)醉漢一樣向前進(jìn)。前進(jìn)，摔倒，爬起，在走幾步，如此循環(huán)反復(fù)。但漸漸地，它似乎找到了走路的正確方法，甚至開始「跑」這一動(dòng)作——盡管過(guò)程還是跌跌撞撞。當(dāng)然，機(jī)器人并不會(huì)理解「跑」是一個(gè)怎樣的動(dòng)作。程序里并沒(méi)有對(duì)「跑」下一個(gè)準(zhǔn)確定義，盡管如此，機(jī)器人還是走得越來(lái)越快，其速度正如正常人理解的「跑動(dòng)」一樣。機(jī)器人終于克服了復(fù)雜的平衡難題，靈活地運(yùn)用四肢進(jìn)行運(yùn)動(dòng)。這使我非常震驚，就像看到一條魚在 40 秒的時(shí)間內(nèi)進(jìn)化成人。

「喔，這機(jī)器人走路惟妙惟肖的，幾乎和真人一模一樣」。我驚嘆道。

Abbeel 笑了，「幾乎」。

除了科幻小說(shuō)及電影，真正的人工智能可不是流淌著藍(lán)色血液的人造人。他們是算法——即解決具體問(wèn)題的數(shù)學(xué)方程（相當(dāng)于為機(jī)器人炒菜準(zhǔn)備的食譜）。算法在 21 世紀(jì)的重要性相當(dāng)于 19 世紀(jì)的煤：都是各自時(shí)代的經(jīng)濟(jì)助推器及現(xiàn)代生活的燃料。如果沒(méi)有算法，你的手機(jī)連打電話都不行。Google，F(xiàn)acebook，Amazon等科技巨頭沒(méi)有了算法，就像大廈沒(méi)有了根基。

Google Deep Mind團(tuán)隊(duì)Demis Hassabis

數(shù)學(xué)算法已經(jīng)存在了數(shù)千年之久，現(xiàn)代的計(jì)算機(jī)模型也是根據(jù)算法創(chuàng)立的。數(shù)據(jù)輸入，電腦黑盒處理，然后算法輸出運(yùn)算結(jié)果。當(dāng)然，現(xiàn)在的科學(xué)家們把算法玩出了新花樣，試圖讓計(jì)算機(jī)自己寫代碼。假設(shè)你想控制直升機(jī)的升降，你必須寫一個(gè)算法給予計(jì)算機(jī)關(guān)于直升機(jī)控制的信息（又稱輸入數(shù)據(jù)），然后你告訴計(jì)算機(jī)你打算讓直升機(jī)如何飛行，以何種角度飛行。接下來(lái)，好戲開始，計(jì)算機(jī)將輸出自己的算法，告訴直升機(jī)具體的飛行步驟。這就是所謂的機(jī)器學(xué)習(xí)，人工智能背后的重要步驟：如果一個(gè)機(jī)器可以教會(huì)自己控制直升機(jī)起降，那么它也能教些別的什么。比如在 Tinder（美國(guó)陌陌）上找到真愛，或者在你對(duì) iPhone 說(shuō)話時(shí)識(shí)別出你的語(yǔ)音，更甚之，可以創(chuàng)造出終結(jié)者里面的天網(wǎng)系統(tǒng)。正如DeepMind 聯(lián)合創(chuàng)始人 Demis Hassabis所說(shuō)： 「人工智能就是一門讓機(jī)器變聰明的科學(xué)」。

毫無(wú)疑問(wèn)，我們現(xiàn)在的生活被各種智能設(shè)備環(huán)繞。當(dāng)你使用谷歌地圖時(shí)，算法會(huì)根據(jù)你的位置及目的地自動(dòng)繪制行走路線，當(dāng)你使用谷歌語(yǔ)音，識(shí)別你聲音的是一種叫做神經(jīng)網(wǎng)絡(luò)的算法，這種算法專門用于把聲音轉(zhuǎn)換成文字，把環(huán)境中的其他聲音過(guò)濾掉，并理解你的問(wèn)題 。Facebook 通過(guò)不斷掃描上傳的圖片并識(shí)別敏感內(nèi)容，把不允許出現(xiàn)的內(nèi)容派出在外。

是什么促進(jìn)了萬(wàn)千智能設(shè)備的發(fā)展？生命的出現(xiàn)花費(fèi)了地球 30 億年的時(shí)間，泥漿最終演化成了更高級(jí)別的智能。與此相反，計(jì)算機(jī)在 60 年的時(shí)間內(nèi)瘋狂進(jìn)化，一塊硅晶體最終成為一輛能夠自動(dòng)在城市中通勤的汽車，或是可以在一堆人中認(rèn)出某張臉的機(jī)器。在過(guò)去的每一個(gè)星期中，計(jì)算機(jī)領(lǐng)域都在產(chǎn)生新的突破：一月，DeepMind 公司的算法機(jī)器人擊敗了歐洲的圍棋冠軍，圍棋是起源于中國(guó)的棋類競(jìng)技項(xiàng)目，復(fù)雜性遠(yuǎn)高于國(guó)際象棋。當(dāng)然，人類的不懈努力一手推動(dòng)了世界的不斷發(fā)展，但我們是否已經(jīng)到了一個(gè)機(jī)器人爆發(fā)的拐點(diǎn)？我們將創(chuàng)造出一種新的物種（機(jī)器人）嗎？還要多久，機(jī)器人的智慧才會(huì)超越人類？

谷歌的未來(lái)主義大師 Ray Kurzweil 提出過(guò)一個(gè)廣為人知的「奇點(diǎn)」理論， 認(rèn)為在未來(lái)的某一時(shí)刻，硅基生物（計(jì)算機(jī)）的智力將超越碳基生物（人），生物進(jìn)化的平衡將被打破。「不遠(yuǎn)的未來(lái)，我們的思考將會(huì)交給云計(jì)算完成」，幾年前的科技會(huì)議上，他這么說(shuō)。他甚至預(yù)言了「奇點(diǎn)」到來(lái)的準(zhǔn)確時(shí)間：2045 年。最近一次并不正式的會(huì)議中，Tesla 和 SpaceX 創(chuàng)始人埃隆馬斯克認(rèn)為發(fā)展人工智能將「召來(lái)惡魔」。盡管會(huì)議結(jié)束時(shí)，他告訴我他的言論可能有夸張的成分，他說(shuō)，「人工智能的快速發(fā)展將招致一系列的問(wèn)題，我們應(yīng)該重新思考人的位置，并始終將發(fā)展人類文明作為第一要?jiǎng)?wù)」。正如他所指出的，機(jī)器已經(jīng)滲透到人類生活的方方面面，「我們的生活已經(jīng)完全電子化，把你的手機(jī)關(guān)機(jī)一天，你就明白我在說(shuō)什么了」。

通常認(rèn)為，只有邪惡的強(qiáng)人工智能才能對(duì)人類產(chǎn)生威脅，霍金則給予了不同的看法。「真正威脅人類的并非人工智能的邪念，而是他們的能力。一個(gè)強(qiáng)人工智能可能足以完美的完成他們的目標(biāo)，但如果他們的目標(biāo)與我們的利益并不一致，我們就麻煩了。你也許對(duì)于螞蟻并沒(méi)有惡意，但如果你管理著一個(gè)水利發(fā)電站，而一個(gè)螞蟻窩可能破壞發(fā)電站的設(shè)施，你不得不把螞蟻窩干掉。將來(lái)，我們很可能就扮演者螞蟻的角色」。

除了我們能夠想象的人工智能的用處，未來(lái)的強(qiáng)人工智能究竟扮演者什么樣的角色，我們還只能從科幻小說(shuō)中尋找答案。「現(xiàn)在」，F(xiàn)acebook 人工智能研究小組主管 Yann LeCun 說(shuō)，「人工智能的智商相當(dāng)于小老鼠」，這話沒(méi)錯(cuò)，IBM 花了數(shù)年時(shí)間及數(shù)百萬(wàn)美元的經(jīng)費(fèi)制造了 Watson ，在 2011 年的一檔美國(guó)智力競(jìng)猜游戲《危險(xiǎn)邊緣》中，Watson 利用「認(rèn)知計(jì)算」擊敗了最聰明的人類選手。Watson 可以以每秒 8 億頁(yè)的速度閱讀資料，并且能夠?qū)⒄麄€(gè)維基百科的數(shù)據(jù)保存到本地隨時(shí)參考，甚至能夠查閱到數(shù)十年前的醫(yī)療及法律學(xué)術(shù)期刊。但他并不能夠教會(huì)你騎單車，因?yàn)樗挠锰幨知M隘——它對(duì)于世界的真正運(yùn)行規(guī)律一無(wú)所知。

目前，最為成熟的人工智能程序位于西雅圖，但它甚至不能理解「人類呼吸空氣」這樣的句子。要理解這句話，你需要對(duì)世界有一個(gè)比較完善的認(rèn)識(shí)，這是目前的人工智能所缺乏的。甚至給這些單詞做一個(gè)詳細(xì)的定義，人工智能也不知道呼吸對(duì)于人類生存有至關(guān)重要的作用，人類呼吸的頻率是每分鐘一次還是一生呼吸一次。即使是廣受好評(píng)的 Skype Translator （可以讓兩個(gè)人實(shí)時(shí)的使用不同的語(yǔ)言進(jìn)行視頻聊天，并顯示翻譯），距離真正完善還有很長(zhǎng)的路要走。

這并不是說(shuō)，智能機(jī)器上位的風(fēng)險(xiǎn)并不存在，《終結(jié)者》里出現(xiàn)的天網(wǎng)系統(tǒng)在未來(lái)也有可能威脅人類的隱私安全。以攻擊型無(wú)人機(jī)為代表的自動(dòng)化武器，在未來(lái)無(wú)疑有可能通過(guò)面部識(shí)別等技術(shù)殺人于無(wú)形。但對(duì)于人類族群來(lái)說(shuō)，這還算不上什么威脅。就像現(xiàn)在，突然出現(xiàn)一名北朝鮮的黑客開發(fā)出無(wú)敵算法，賦予金正恩統(tǒng)治世界的能力，這顯然屬于無(wú)稽之談。在這種語(yǔ)境下，人工智能不像 iPhone ，只需要開發(fā)應(yīng)用程序就可以直接運(yùn)行。更多的，它接近于創(chuàng)造互聯(lián)網(wǎng)本身——有些只能靠時(shí)間來(lái)完成，而帶來(lái)的益處會(huì)隨時(shí)間遞增。斯坦福大學(xué)教授，目前就職于百度的吳恩達(dá)最近告訴我：「擔(dān)心人工智能毀滅人類就像擔(dān)心火星人口過(guò)多一樣——目前來(lái)講還為時(shí)尚早」。

事實(shí)上，對(duì)機(jī)器人威脅的過(guò)分夸大，最大的問(wèn)題在于錯(cuò)誤的估計(jì)了機(jī)器人對(duì)于未來(lái)的真正影響——底層工人被機(jī)器人所代替，面臨失業(yè)危機(jī)，戰(zhàn)爭(zhēng)中對(duì)于自動(dòng)武器的過(guò)分依賴，造成黑客權(quán)力過(guò)大，這些才是我們需要擔(dān)心的。人與人之間的關(guān)系愈發(fā)疏遠(yuǎn)，人每天與機(jī)器溝通的時(shí)間甚至超過(guò)了人，藝術(shù)家被精妙的算法取代，這些都是我們更應(yīng)該關(guān)注的現(xiàn)實(shí)問(wèn)題。而人工智能時(shí)代，人類還面臨更為嚴(yán)峻的隱私挑戰(zhàn)，不僅僅是無(wú)人機(jī)可能進(jìn)入你的私宅，大公司權(quán)力的空前強(qiáng)大更是我們需要擔(dān)心的問(wèn)題。正如科研機(jī)構(gòu) Institute for Ethics and Emerging Technologies 主管 Marcelo Rinesi 所言，「未來(lái)不是機(jī)器人統(tǒng)治人類的時(shí)代，未來(lái)是機(jī)器人無(wú)所不在，并知道你一切隱私，不斷想你推送廣告的時(shí)代」。

當(dāng)然，這句話有些偏激，我們應(yīng)該承認(rèn)，萬(wàn)物互聯(lián)的人工智能將給人類帶來(lái)無(wú)窮的福祉。包括 DeepMind 團(tuán)隊(duì)的 Demis Hassabis 在內(nèi)的大多數(shù)研究人員相信，如果我們賦予機(jī)器以智能，它將會(huì)幫助我們解決一些大問(wèn)題，包括絕癥治療，健康檢測(cè)等方面，而不僅僅是個(gè)保姆，就像科學(xué)家們利用計(jì)算機(jī)解決物理及數(shù)學(xué)問(wèn)題一樣。微軟的 Eric Horvitz 看到了人工智能更重要的意義：「人類的最大困惑，在于人腦自身究竟是如何運(yùn)作的？做一個(gè)類人形機(jī)器人對(duì)于了解人類自身有重大的意義。只有理解了人類的運(yùn)行規(guī)律，人形機(jī)器人才成為可能」。

每一次的技術(shù)革命都會(huì)引起部分人的恐懼，但恐懼的背后原因各不相同。在工業(yè)革命時(shí)期，英國(guó)的紡織工人暗中破壞織布機(jī)，因?yàn)樗麄兒ε逻@臺(tái)機(jī)器將搶了他們的飯碗。（事實(shí)卻如他們所料）這樣荒誕的故事在電氣革命時(shí)再次重演，很多人相信在家里埋電線會(huì)導(dǎo)致精神失常（事實(shí)并非如此），因此拒絕接通電線。到了 20 世紀(jì) 50 年代，電氣廠商甚至擔(dān)心自家產(chǎn)品被核能產(chǎn)品所取代。

長(zhǎng)期以來(lái)，人們對(duì)于人工智能的夸張想象總是極大地超前于現(xiàn)實(shí)科技。 1958 年，世界上第一套神經(jīng)網(wǎng)絡(luò)模型「感知器」問(wèn)世，有關(guān)這個(gè)模型將模仿及獲得人類知覺的新聞見諸報(bào)端。隨后的 60 年代，人工智能之父 John McCarthy 為五角大樓獻(xiàn)上了一份報(bào)告，他認(rèn)為，一套真正可用的人工智能系統(tǒng)需要十年的時(shí)間搭建?，F(xiàn)在是二十一世紀(jì)，我們知道這件事并沒(méi)有發(fā)生，更出人意料的是，關(guān)于人工智能的研究在 20 世紀(jì) 70 到 80 年代出現(xiàn)了停滯，科學(xué)家稱之為「人工智能的冬天」。

又一個(gè)十年過(guò)去了，冬去春來(lái)。計(jì)算機(jī)運(yùn)算能力的突飛猛進(jìn)，價(jià)格的迅速下降給了人工智能強(qiáng)大的硬件基礎(chǔ)。同時(shí)，一種名為圖形處理芯片（GPU）新型的芯片問(wèn)世，這種芯片一開始被應(yīng)用在游戲領(lǐng)域，令人意外的在神經(jīng)網(wǎng)絡(luò)領(lǐng)域產(chǎn)生了巨大作用，GPU 可以為神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)的連接提供數(shù)百萬(wàn)次每秒的運(yùn)行速度。

另一項(xiàng)革命性的突破在于大數(shù)據(jù)。機(jī)器的智慧，就像人類的大腦一樣，需要一個(gè)學(xué)習(xí)與提升的過(guò)程。人類的大腦，除了基因內(nèi)預(yù)設(shè)的物件分類以外，后天對(duì)于各種物體的感性認(rèn)識(shí)也是很重要的經(jīng)驗(yàn)。在與貓和狗長(zhǎng)期相處并觀察后，人類才分清了兩者的區(qū)別。對(duì)于機(jī)器學(xué)習(xí)來(lái)說(shuō)，后天學(xué)習(xí)的重要性更甚，DeepMind 公司在圍棋及游戲領(lǐng)域的突破全靠數(shù)千次的練習(xí)而得。每次練習(xí)，機(jī)器對(duì)于世界的認(rèn)識(shí)會(huì)進(jìn)一步加深，這就是機(jī)器的學(xué)校。大量的數(shù)據(jù)基礎(chǔ)，TB 級(jí)的數(shù)據(jù)量，數(shù)十年的搜索乃至整個(gè)數(shù)字世界的數(shù)據(jù)都在為人工智能的智慧添磚加瓦。

在過(guò)去，「創(chuàng)造一個(gè)能思考的機(jī)器」這件事情，大多是哲學(xué)家及計(jì)算機(jī)科學(xué)專家們的學(xué)術(shù)研究?！概c以往最大的不同在于，今日的人工智能真正投入了商業(yè)世界運(yùn)行」，F(xiàn)acebook 人工智能團(tuán)隊(duì) LeCun 這么說(shuō)。包括Facebook ，IBM，微軟公司在內(nèi)的科技巨頭都或多或少在自家產(chǎn)品上運(yùn)用了這一特性。大公司給了研究人員充足的資金，讓人工智能的研究有了足夠的商業(yè)動(dòng)機(jī)。現(xiàn)在的科技巨頭們，都擁有一批精于算法的技術(shù)天才及海量的用戶數(shù)據(jù)。谷歌為什么能夠建立起一個(gè)如此成功的廣告平臺(tái)？精妙的廣告投遞算法對(duì)此功不可沒(méi)，它給你推送的都是你最有可能點(diǎn)擊的廣告。對(duì)于廣告的點(diǎn)擊率，每提升 0.5 個(gè)百分點(diǎn)，谷歌每年就會(huì)多出 5 百億美金的收入，這也解釋了谷歌為何不斷致力于提升廣告投遞算法。而這都以來(lái)與機(jī)器學(xué)習(xí)，在這一領(lǐng)域，蘋果，微軟，谷歌甚至像 Dropbox 這樣的云服務(wù)提供商都花費(fèi)了大量的人力及金錢。

另一個(gè)競(jìng)爭(zhēng)激烈的戰(zhàn)場(chǎng)是語(yǔ)音識(shí)別。語(yǔ)音識(shí)別在商業(yè)領(lǐng)域的最終目標(biāo)是，讓機(jī)器與人的溝通像正常人一樣自然，這與強(qiáng)人工智能相比 ，難度大幅降低，而同樣擁有重要意義。「語(yǔ)音溝通將成為與觸摸屏幕同等重要的交互手段」，吳恩達(dá)曾斷言。谷歌與蘋果公司為了提升個(gè)人助手的實(shí)用性，一直在大肆收購(gòu)硅谷的人工智能創(chuàng)業(yè)團(tuán)隊(duì)，同時(shí)，人工智能對(duì)于無(wú)人駕駛技術(shù)也有重要意義，無(wú)人駕駛技術(shù)在未來(lái)的普及無(wú)疑會(huì)極大地改變城市的形態(tài)。不妨試想，一個(gè)不需要私車停車場(chǎng)的城市將節(jié)省下多少公共空間?！溉斯ぶ悄茉诮鼛啄瓿蔀榱俗顣r(shí)髦的科技詞匯」，舊金山企業(yè)家 Jason Calacanis 這么對(duì)我說(shuō)，「最近幾個(gè)月更甚，幾乎所有的硅谷創(chuàng)業(yè)者們?cè)趯?duì)風(fēng)投講故事的時(shí)候都會(huì)把自己的產(chǎn)品與人工智能扯上關(guān)系」。

這種對(duì)于人工智能被濫用的反感并非全無(wú)道理。以人工智能目前的水平，能做的無(wú)非是識(shí)別圖片中的小貓，識(shí)別你語(yǔ)音中的關(guān)鍵詞而已。但人類的直覺很難用算法表現(xiàn)，視覺識(shí)別同理。人工智能在圍棋領(lǐng)域的突破并沒(méi)有太多的實(shí)際意義。在人工智能擁有獨(dú)立思考能力之前，任何對(duì)于人工智能統(tǒng)治世界的擔(dān)憂都是杞人憂天。把人工智能訓(xùn)練的像人類一樣擁有直覺及自主學(xué)習(xí)能力，科學(xué)家們還有無(wú)數(shù)的彎路要走。

「我們突破了一堵墻，我們已經(jīng)摸清楚了視覺識(shí)別的門路」，LeCun 說(shuō)?！负孟⑹牵覀冎老乱徊皆撊绾巫?，而我們相信這確實(shí)有用，但當(dāng)我們以 50 邁的速度在霧中飛奔時(shí)，一堵結(jié)實(shí)的墻可能隨時(shí)會(huì)出現(xiàn)在正前方。當(dāng)然，目前我們還開心地行駛著」。

48 歲的麻省理工物理學(xué)教授 Max Tegmark 留著一頭凌亂的蘑菇頭，為的是讓自己看起來(lái)年輕些。在他位于波士頓的兩層樓高郊區(qū)別墅中，起居室空空如也，只在墻上掛著鴨子和土撥鼠的圖片。作為最負(fù)盛名的物理學(xué)及宇宙學(xué)家，Tegmark 性格乖張，不走尋常路線。他的平行宇宙理論廣為人知，大意是，存在著無(wú)數(shù)個(gè)永不相交的宇宙，但并非每個(gè)宇宙都遵循我們已知的物理學(xué)定理。這是對(duì)于宇宙模型諸多解釋中被廣泛接受的一個(gè)。但 Tegmark 對(duì)于人工智能的狂熱程度更高，幾年來(lái)，他頻頻發(fā)聲，提醒人們應(yīng)該警惕失控的人工智能的可怕。

在剛剛過(guò)去的夏季中，我們?cè)谒业牟蛷d內(nèi)共進(jìn)了晚餐，聊了人工智能的未來(lái)及他在 Future of Life Institute （生命研究所）的工作。他是這家公司的聯(lián)合創(chuàng)始人，他形容這家公司是「志愿者經(jīng)營(yíng)的研究和宣傳組織，致力于減少人工智能的潛在風(fēng)險(xiǎn)」。盡管這家機(jī)構(gòu)擁有霍金這樣的名人擔(dān)任顧問(wèn)，這家機(jī)構(gòu)主要還是以 Tegmark 的朋友及同事為主，他們每幾個(gè)月在 Tegmark 的起居室內(nèi)見一次面。這家機(jī)構(gòu)由 Open Philanthropy Project（開放慈善項(xiàng)目）贊助，馬斯克也捐助了 1000 萬(wàn)美金，主要研究如何更好地利用人工智能，以及教育大眾科技的好處。我們共進(jìn)晚餐的幾天后，這家機(jī)構(gòu)在紐約時(shí)報(bào)及華盛頓郵報(bào)上發(fā)表了一封公開信，警告民眾應(yīng)提防自動(dòng)化武器的危害?！溉绻心膫€(gè)大國(guó)將人工智能用于軍事用途，那么，全球的軍備競(jìng)賽幾乎是不可避免的」，信中強(qiáng)調(diào)。「自動(dòng)化武器將成為明天的 AK 47 」。這封信得到了 2 萬(wàn)人的聯(lián)名，包括霍金，埃隆馬斯克，蘋果聯(lián)合創(chuàng)始人斯蒂夫·沃茲尼亞克，諾貝爾獎(jiǎng)得主 Frank Wilczek 。

2015 年一月，Tegmark 針對(duì)人工智能的潛在威脅召開了第一次重要會(huì)議（這與 Tegmark 的物理學(xué)，計(jì)算機(jī)科學(xué)博士身份沒(méi)有太大關(guān)系，相反，參加會(huì)議的都是哲學(xué)家，企業(yè)家，科幻小說(shuō)作家及其他人工智能專業(yè)以外，并對(duì)于人工智能有擔(dān)憂的人士）。這個(gè)會(huì)議在波多黎各舉行，為期三天，包括埃隆馬斯克在內(nèi)的各行業(yè)精英云集，形式上模仿 1975 年關(guān)于重組 DNA 風(fēng)險(xiǎn)的阿希洛馬會(huì)議，后者對(duì)于人工合成及轉(zhuǎn)基因的發(fā)展有著重要影響。出席者們主要討論了人工智能何時(shí)會(huì)達(dá)到或超越人類的智力。以吳恩達(dá)等眾多人工智能先驅(qū)為首的一方認(rèn)為，這還需要數(shù)百年的時(shí)間，而馬斯克及伯克利大學(xué)計(jì)算機(jī)博士 Stuart Russell 則認(rèn)為，實(shí)際時(shí)間遠(yuǎn)快于人們所預(yù)計(jì)的。最終，各方預(yù)計(jì)時(shí)間的中位數(shù)是 40 年。Tegmark 說(shuō)。

和霍金的態(tài)度相似，Tegmark 并不認(rèn)為超級(jí)人工智能將是邪惡的甚至危險(xiǎn)的?！肝覀儽仨毐ＷC人工智能的利益與我們相一致。如果你擁有一輛無(wú)人駕駛汽車，你跟它說(shuō)，送我去機(jī)場(chǎng)吧，越快越好，于是汽車人開始飆車了，你如愿及時(shí)趕到了機(jī)場(chǎng)，但瘋狂的車速及過(guò)彎使你吐了一地，你抱怨道，有必要那么快嗎？這不是我要的。汽車回復(fù)，不是說(shuō)好的越快越好嘛。

Tegmark 認(rèn)為現(xiàn)在是思考這個(gè)問(wèn)題的良好時(shí)機(jī)，畢竟人工智能何時(shí)到來(lái)，我們并不清楚。有可能要一百年以后，才會(huì)有強(qiáng)人工智能的廣泛應(yīng)用，也有可能僅僅花了十年。他舉核能為例，想想初次核爆炸時(shí)發(fā)生了什么，他說(shuō)，科學(xué)家初次接觸核能時(shí)，也對(duì)其潛在的負(fù)面影響感到擔(dān)憂，但如今，世界不是因核能的廣泛應(yīng)用變得更美好了？

無(wú)論你去到那，總會(huì)有一部攝像機(jī)正對(duì)著你。他們藏在街角，無(wú)人機(jī)云臺(tái)，還有世界上四十億智能手機(jī)上。在 2012 年，F(xiàn)BI 花費(fèi)了十億美金，啟用了次時(shí)代的辨認(rèn)系統(tǒng)，這是一套識(shí)別算法，能夠?qū)D像上的人臉，指紋，虹膜等人類體征進(jìn)行辨認(rèn)，用于監(jiān)控?cái)?shù)百萬(wàn)的美國(guó)人，在律師事務(wù)所里強(qiáng)制推行。

但這件事情基本不可能，至少很難高效地執(zhí)行下去，除非 Yann LeCun 出手幫忙。在人工智能領(lǐng)域， LeCun 就像一個(gè)搖滾明星一樣受歡迎，在人工智能研究的早期，他與其他二人組成的小組奠定了算法識(shí)別圖像的基礎(chǔ)。LeCun 并不熱衷于為 FBI 服務(wù)，相反，他是公民隱私權(quán)的捍衛(wèi)者，但這一切無(wú)關(guān)緊要，技術(shù)是中立的，一旦被發(fā)明出來(lái)，用在哪里就不受科學(xué)家們控制了。

最近些天，Lecun 一直呆在 Facebook 位于曼哈頓中心的辦公室中。這是個(gè)開放型辦公室，大約有一個(gè)籃球場(chǎng)那么大，有一堵墻上擺著大大小小的監(jiān)視器。Lecun 的人工智能實(shí)驗(yàn)室在辦公室的角落里，20 多名研究人員混跡在 Facebook 員工之中。（他的實(shí)驗(yàn)室還雇了另外的 25 名研究人員，但分布在硅谷及巴黎）LeCun 在一個(gè)長(zhǎng)桌子上辦公，與團(tuán)隊(duì)成員們并肩而坐。如果他把視野望向窗外，他甚至能看到 IBM 開發(fā) Watson 的大樓。

初次見面，Leun 穿著 Polo 衫及牛仔褲，一幅典型的美國(guó)教授打扮。他在巴黎長(zhǎng)大，但僅僅只有法國(guó)口音留下了這段記憶。「我擁有宗教分子所鄙視的一切特質(zhì)：一個(gè)科學(xué)家，一個(gè)無(wú)神論者，典型左派（至少按照美國(guó)的標(biāo)準(zhǔn)如此），一個(gè)大學(xué)教授及一個(gè)法國(guó)人」。在他的個(gè)人網(wǎng)站上，他這么寫道。他有三個(gè)小孩，每到周末他就會(huì)陪著小孩們玩模型飛機(jī)。

LeCun 是深度學(xué)習(xí)的先驅(qū)人物，而所謂的深度學(xué)習(xí)，通常被視為機(jī)器學(xué)習(xí)的更高層次，也是人工智能的重要一步。在 1980 年，他還在讀本科時(shí)，他便開始研究 1958 年的「感知器」及神經(jīng)網(wǎng)絡(luò)，神經(jīng)網(wǎng)絡(luò)算法允許機(jī)器理解事物，就像人類通過(guò)圖片及文字了解事物一樣。神經(jīng)網(wǎng)絡(luò)得名于對(duì)人類腦神經(jīng)結(jié)構(gòu)的模仿，算法通過(guò)一個(gè)有一個(gè)的神經(jīng)節(jié)點(diǎn)，統(tǒng)計(jì)分析輸入對(duì)象（可以是任何東西，包括圖像，數(shù)字，音頻）。

雖然神經(jīng)網(wǎng)絡(luò)得名于人類的腦神經(jīng)，但 Lecun 并不認(rèn)為神經(jīng)網(wǎng)絡(luò)在企圖模仿人類的生理構(gòu)造?！钢辽龠@與最新的神經(jīng)學(xué)研究成果無(wú)關(guān)」，他說(shuō)，「這僅僅得名與神經(jīng)的最初概念，如果你想造飛機(jī)，你會(huì)試圖從鳥兒身上獲取靈感，即使你不知道小鳥的生理結(jié)構(gòu)，你只需它們是通過(guò)扇動(dòng)翅膀飛行。但造飛機(jī)與鳥兒的生理結(jié)構(gòu)就沒(méi)有太大關(guān)系。飛機(jī)的創(chuàng)造來(lái)源于鳥兒，但對(duì)于小鳥細(xì)致入微的生理構(gòu)造解剖與造飛機(jī)并無(wú)太大幫助」。

在 LeCun 看來(lái)，想通過(guò)研究人腦內(nèi)部結(jié)構(gòu)推進(jìn)人工智能發(fā)展的想法簡(jiǎn)直錯(cuò)的離譜，包括歐洲花費(fèi) 10 年時(shí)間，13 億美金進(jìn)行的人類大腦計(jì)劃，這個(gè)計(jì)劃希望能了解并在超級(jí)計(jì)算機(jī)上模仿人類 860 億個(gè)神經(jīng)元，100 萬(wàn)億個(gè)神經(jīng)突觸，實(shí)現(xiàn)人工智能的飛躍性發(fā)展?！杆麄冋J(rèn)為，只要搞清楚了 860 億個(gè)神經(jīng)元的各自功能，并在一個(gè)足夠龐大的網(wǎng)絡(luò)上模擬出來(lái)，人工智能就成型了。我想」，他說(shuō)，「這未免太瘋狂了」。

從新澤西州的貝爾實(shí)驗(yàn)室辭職后，LeCun 在紐約大學(xué)教了十年書。到了 2013 年，馬克扎克伯格將其招至麾下，但允許他在紐約大學(xué)繼續(xù)兼職做研究?！?Mark 對(duì)我說(shuō)，F(xiàn)acebook 已經(jīng)十年了，我們把眼光發(fā)到了接下來(lái)的二十年當(dāng)中：未來(lái)人們?cè)跀?shù)字世界的交流會(huì)變成什么樣呢？LeCun 回答，他一直堅(jiān)信，未來(lái)人工智能將在社交網(wǎng)絡(luò)中扮演舉足輕重的角色，是人與人之間交流的粘合劑。然后有人告訴你，創(chuàng)造一個(gè)研究機(jī)構(gòu)來(lái)做這件事吧，這確實(shí)很難拒絕。

LuCun 并沒(méi)有透露 Facebook 在人工智能領(lǐng)域究竟投入了多少資金，但通常認(rèn)為，F(xiàn)acebook 人工智能團(tuán)隊(duì)的野心和規(guī)模屬硅谷之最。我們大多數(shù)的人工智能研究集中在理解人們分享的內(nèi)容上，扎克伯格在自己的主頁(yè)問(wèn)答板塊這么寫道，例如，如果你上傳了一張照片，照片中有你的朋友，我們必須確保你的朋友也能看到這張照片。如果你發(fā)的是一張狗狗的照片，或是政治言論，我們也應(yīng)該想辦法把對(duì)這條消息感興趣的人聯(lián)系起來(lái)。為了更好地完成這項(xiàng)任務(wù)，我們的目標(biāo)是建立一套人工智能系統(tǒng)，用超越人類直覺的精準(zhǔn)度分辨這些消息：圖片識(shí)別，音頻識(shí)別等等。一月，扎克伯格宣布，他們?cè)?2016 年的挑戰(zhàn)是，建立一個(gè)簡(jiǎn)單的人工智能，用在自己家里，以期更好地幫助他們完成工作。你可以把這套系統(tǒng)看成是鋼鐵俠的賈維斯，他寫道。

LeCun 說(shuō)，人工智能在 Facebook 廣泛應(yīng)用的絕佳案例是 Moments ，這是 Facebook 旗下的臉部識(shí)別應(yīng)用，可以幫你找到手機(jī)里面朋友的照片并允許你發(fā)給他們。但不僅如此，弱人工智能在這家公司有著廣泛的應(yīng)用。

除了這些花哨的小玩意兒以外，LeCun 明白，距離真正的強(qiáng)人工智能，現(xiàn)在僅僅走出了微小的一步而已。即使是被認(rèn)為已有大幅進(jìn)步的圖像識(shí)別，仍然面臨著諸多問(wèn)題：人工智能程序?qū)τ谖矬w形狀，反射，像素級(jí)差異過(guò)分敏感。但最主要的障礙來(lái)自于「無(wú)監(jiān)督學(xué)習(xí)」。現(xiàn)在，機(jī)器學(xué)習(xí)仍舊依賴于人的大量參與。具體來(lái)說(shuō)，機(jī)器需要識(shí)別數(shù)千張照片，然后人類把這些照片上的物體標(biāo)記為貓，機(jī)器再次見到含有貓的圖片時(shí)才有可能認(rèn)出來(lái)。還有一種不太常見的方法是「強(qiáng)化式學(xué)習(xí)」，這種學(xué)習(xí)方法是給計(jì)算機(jī)提供一個(gè)大致的小貓?zhí)卣?，并通過(guò)不斷的一張一張照片，告訴電腦哪張是貓片，那張不是。而「無(wú)監(jiān)督學(xué)習(xí)」與這兩者都不同，它不需要一遍又一遍的反饋和輸入，而是通過(guò)類似于人的直覺，「這是人類學(xué)習(xí)的方式」，Lecun 說(shuō)。我們看到物體特征，舉一反三，然后將知識(shí)放進(jìn)我們的經(jīng)驗(yàn)庫(kù)里，「這是我們必須撬開的一扇鐵門」。他說(shuō)。

如果我給你看一部電影，在播放時(shí)突然暫停，然后問(wèn)你下一秒會(huì)發(fā)生什么，你大概很容易猜的出來(lái)。 LeCun 說(shuō)。一架飛機(jī)即將在空中墜落，你基本不用知道太多理論知識(shí)，就能判斷接下來(lái)的畫面，但如果是一個(gè)復(fù)雜的謀殺案，然后我問(wèn)你電影里誰(shuí)才是真正的殺人兇手，影片最后的結(jié)局是什么，你大概就得動(dòng)動(dòng)腦子了。他說(shuō)，預(yù)測(cè)是智慧的本質(zhì)，我們應(yīng)該如何做，才能做出一個(gè)能夠預(yù)測(cè)電影接下來(lái)劇情的計(jì)算機(jī)呢？不要說(shuō)預(yù)測(cè)兇手了，就是理解這個(gè)世界是立體的，擁有諸多物理限制，能夠預(yù)測(cè)飛機(jī)的墜落，在目前仍舊是一件困難的事情。

所幸，LeCun 找到了一種可能的解決方法， 把所有 facebook 上的內(nèi)容全部標(biāo)記為矢量，這意味著計(jì)算機(jī)僅需保存一個(gè)數(shù)據(jù)點(diǎn)的空間，「我們使用的典型向量相當(dāng)于一張圖片里涵蓋 4000 個(gè)維度」。他說(shuō)，「所以，基本上，4000 個(gè)數(shù)字就可以描述一張圖片」。向量可以描述圖片，文本甚至用戶愛好。每減少一個(gè)數(shù)字，計(jì)算機(jī)搜索及存儲(chǔ)的壓力都會(huì)下降一分。如果一個(gè)人的興趣愛好用向量表示，在把向量與圖片向量進(jìn)行比對(duì)，找出最匹配的圖片，那么這個(gè)人很可能會(huì)喜歡這張圖片。「最主要的，它減少了幾何運(yùn)算量」，他說(shuō)。

對(duì)于那些恐懼人工智能的人，LeCun 認(rèn)為他們看得太遠(yuǎn)了。他相信智慧機(jī)器將擁有人類的感情及野心是謬論，「人類擁有生存的本能，繁殖的渴望及減輕痛苦的想法，這也是人類大多數(shù)邪惡念頭的根源。我們沒(méi)有理由相信機(jī)器人會(huì)有類似的想法，除非我們刻意這么設(shè)計(jì)。但他們也許會(huì)有同理心，會(huì)剛同深受人類的痛苦，因?yàn)槲覀儠?huì)朝這個(gè)方向努力。那么問(wèn)題來(lái)了，我們應(yīng)該如何設(shè)計(jì)機(jī)器人的底層驅(qū)動(dòng)及行為，讓他們可以為我們所用，而不是試圖取代我們呢」？

當(dāng)我走出 Facebook 大樓時(shí)，我對(duì)于這座擠滿各類精英的辦公室肅然起敬——這是一個(gè)由人與機(jī)器共同筑造的帝國(guó)。很難想想未來(lái)會(huì)有什么不同，盡管機(jī)器人變得復(fù)雜多變是必然的。著名計(jì)算機(jī)教授兼非虛構(gòu)作家 Jaron Lanier 說(shuō)過(guò)：「算法是由人類設(shè)計(jì)及研發(fā)出來(lái)的，它也反映了創(chuàng)造者們的偏見」。無(wú)論好壞，無(wú)論對(duì)錯(cuò)，我們的未來(lái)都會(huì)由我們自己創(chuàng)造。套用一句古老的諺語(yǔ)總結(jié)：人類，長(zhǎng)路迢迢。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。