編者按：在未來 50 年里，除了人工智能，我們很難想象身邊還會出現另一種技術，能如此深遠地影響我們的生活。

隨著機器學習讓計算機無師自通，從醫(yī)學診斷到自動駕駛汽車，技術領域的突破如雨后春筍。不過，是誰在把控著人工智能？它會取代我們的工作嗎？機器人威脅論又是否會成為現實？

作為美國總統(tǒng)，奧巴馬同樣也對這些問題充滿關注。日前，MIT媒體實驗室總監(jiān) Joi Ito 及《連線》記者 Scott Dadich 一同來到白宮，和總統(tǒng)一起坐下來聊了聊人工智能的未來、可能有的炒作，還有伴隨的隱憂。本文源自 Wired，作者 Scott Dadich，奕欣、老呂IO及熊蒙聯合編譯，雷鋒網根據訪談內容做了不改動原意的處理，未經許可不得轉載。

今年 8 月 24 日，Joi Ito, Scott Dadich, 

還有美國總統(tǒng)奧巴馬在白宮的羅斯福會議室里會面

人工智能如何給我們帶來社會化價值？

Scott Dadich：首先感謝你們二位邀請我到白宮來?？偨y(tǒng)先生，我想問您最近一段時間過得如何？

奧巴馬：忙碌，但我做了很多事情。想必你也了解到，目前國際上有不少政治問題需要解決。

Scott Dadich：接下來，我們談論的重點主要集中在人工智能，這個領域已經從科幻小說里跳脫出來，成為現實，并對我們的生活產生深遠影響。我想請問總統(tǒng)先生，您是什么時候開始意識到AI時代的來臨？

奧巴馬：我對人工智能的了解，是因為它開始以各種形式滲透到我們的生活中來，而我們卻還渾然不知。另外一部分原因是，我們對人工智能的認識主要是源于流行文化。而實際上，廣義和專業(yè)的AI存在區(qū)別，而這可能和很多讀者所了解的有所不同。在科幻小說中，我們所知道都是廣義 AI，不是嗎？電腦開始變得比我們還聰明，意識到人類不總是那么有用，甚至把人類囚禁在溫室里，不然就是打造一個 matrix 般的虛擬世界。

在和一些科學家探討的過程中，我了解到這樣的場景著實離我們還有很遠距離。不過，這些設想能夠放飛我們的思想，并讓我們意識到自己還有足夠的自由度，將專業(yè)的人工智能應用于各種重要的領域，也就是通過算法和計算機的處理，以解決日益增加的復雜問題。從醫(yī)學到交通領域，甚至到電力的分配，我們已經見證了“術業(yè)有專攻”的人工智能在日常生活中起著怎樣的作用，并且無疑在經濟層面上也能提升生產力和效率。如果利用得當，它當然能讓社會繁榮昌盛，帶來無數機會。但它伴隨而來的問題就是工作崗位的減少，或許會加劇不平等，工資水平也會削減。

Joi Ito：這個問題同樣困擾著我 MIT 實驗室里的學生們，但我關心的一點在于，能接觸這些 AI 核心計算機技術的人大多是男孩子，尤其是白人，而他們在談論電腦問題的時候顯然要比談論人種問題要輕松得多。他們中的不少人覺得，如果他們可以用人工智能創(chuàng)造出像科幻小說里一樣的場景，我們也不必擔憂如此多的政治及社會問題了。學生們會覺得，創(chuàng)造這樣的機器，也是一種讓人類擺脫這些問題的方式。

奧巴馬：是的沒錯。

Joi Ito：但他們同時也預見到了可能帶來的困難，我覺得我們已經來到了一個人工智能議題超越電腦問題的時代。很重要的一點是，每個人都需要理解 AI 如何運作。在媒體實驗室里，我們使用了名為“延展智能”這樣的術語。因為我們所面臨的問題是，我們如何在 AI 之上建立社會化的價值？

 奧巴馬： Joi在午餐時間以自動駕駛為例。自動駕駛技術正如開掛般發(fā)展，這些搭載著自動駕駛技術的機器不僅能夠代替人類快速作出決定、減少交通事故的發(fā)生、大大提高交通效率，還能幫助人類解決碳排放問題，緩解全球變暖現象。但是 Joi 提到至關重要的一點：我們在汽車上搭載這些技術的意義何在？在自動駕駛的道路上，我們還面臨著一系列抉擇：車在自動行駛時，如若發(fā)生意外，你可以保證不撞到行人，但你也許會撞到墻，或者讓自己處于危險的境地。如果遇到這種兩難境地，又該怎么辦呢？這就變成了一個道德倫理問題，我們需要一些規(guī)則來解決這些問題。但是又該誰來制定這些規(guī)則呢？

Joi Ito：我們曾做過“car trolley problem”項目（該項目為MIT實驗室的一個研究，研究主題為自動駕駛汽車在面臨困境時的解決方法。比如：遇到兩難情況時，是該犧牲5名乘客還是犧牲5名行人？），在研究中，我們發(fā)現大部分調查者同意應該犧牲乘客來拯救其他人的性命。還有一些調查者被問及此問題后，表示他們永遠不會買自動駕駛汽車了。（笑）

政府在科技進步中應該扮演怎樣的角色？

Scott Dadich：在解決這些道德倫理問題時，政府應該扮演何種角色呢？

奧巴馬：從AI技術出現開始，我就在思考這個問題。我認為，在科技發(fā)展之初，正是“百花齊放、百家爭鳴”的時候，這時政府應該充分鼓勵支持技術的發(fā)展，加大對調查研究的投資，確?；A研究和應用研究之間有著良好的交流。隨著技術的進步和成熟，我們就應該思考技術和現有的監(jiān)管制度的關系了。要讓這種關系良性發(fā)展，其實并非易事，因此我們就面臨著更加艱難的挑戰(zhàn)。這時，政府應該加強與科技領域的聯系。我們應該首先保證政府的監(jiān)管制度具有價值，能夠促進技術的發(fā)展，而不是強迫新的科技快速與政府掛鉤。如果不這樣做，政府將會成為科技進步的阻礙，這對一部分人和團隊非常不利。

Joi Ito：這種困境讓我想起來了自閉癥，電影《自閉歷程》（Temple Grandin）里提到了這個。女主角說，莫扎特、愛因斯坦和特斯拉如果身在今天的時代，人們會覺得他們有自閉傾向。

奧巴馬：他們的確是在自閉環(huán)境中成長。

Joi Ito：是的，沒錯。如果我們擁有治愈自閉癥的能力，讓每個人都“正?！保艺J為不少 MIT 的孩子都會有所不同。無論我們是在討論自閉還是多樣性，這些選擇只有當我們能實現之時才會出現。即使如此，我們也并不想要一個像愛因斯坦一樣的小孩，因為雖然他聰明無比，但顯得太過特立獨行。但是如果沒有愛因斯坦，我們的社會和科學將不會進步得如此之快。

奧巴馬：這就牽涉到了一個更加宏大的問題，這個問題自 AI 發(fā)展之初就一直困擾著我們。我們的人生之所以有意義，很大一部分是因為人生的不完美。往往創(chuàng)造藝術或有所發(fā)明創(chuàng)造的人都是怪才，他們鶴立雞群，與世相悖。但正是這些異于常人的品質讓他們才華橫溢，推動社會進步。如果一個系統(tǒng)是完美的，那么它一定是靜態(tài)的。我們之所以會變成如今的樣子，之所以會如此生機勃勃，正是因為我們是動態(tài)的、是發(fā)展的、是獨特的，而且會因新的事物誕生而感到驚訝不已。但從長遠來看，我們總要適應這個世界?，F在的問題就是，什么時候、什么地點、什么場景下，我們才能讓自己以平和的心態(tài)接受這樣的變化？

Scott Dadich：當 AI 與政府、民企和學術界相適應時，AI必定發(fā)展到了一個較高的程度，那么這時，世界范圍內的 AI 研究中心是哪個呢？或者說，有沒有這樣的一個角色存在？

Joi Ito：我覺得 MIT 當然會說研究中心就在我們這（笑）。從歷史上看，研究中心也許是一支得到政府支持的學術團隊。但就現在來看，大部分得到數十億美元支持的實驗室都已經商業(yè)化了。

奧巴馬：我對支持這些機構的人有所了解，如果你問拉里·佩奇或者相關人士，不難想象他們都會異口同聲地表示，自己最不想看到的是官僚式的冗余拖沓限制科技的發(fā)展。

現在所面臨的部分問題是，為社會服務的基礎研究沒能很好地貫徹下去，而意識形態(tài)的阻礙讓部分科技人士對于政府的支持喪失信心。

每當我們說到一個巨大的科技成就，我們都會將之與人類首次登月做類比，我想在50年后也會這樣。有人曾告訴我，當時的登月計劃僅花費整個 GDP 的 0.5%，聽起來并不多。但換算到今天，這個數字就是800億美元。如果說現今AI的發(fā)展可以和曾經的登月相提并論，那么現今我們應該每年在AI上投資800億美元，但實際情況是，每年的投資額不到 10 億。毫無疑問，這個數字將會增長。那么，政府應該加強支持。如果政府不支持，那么我們后面所討論的一切都無從談起。

Scott Dadich：您的想法讓 Joi 曾提過的問題變得更加嚴峻了：人人享有的科技和國家享有的科技（如登月）是不同的。那么，我們怎樣才能實現這兩種科技的轉換，讓科技造福所有人呢？

奧巴馬：我想強調一下，政府在支持科技的發(fā)展，并不意味著政府將獨占這種科技，或者說這種科技只能在軍事領域使用。舉個例子：政府支持醫(yī)學的發(fā)展，撥款建立美國人基因數據庫，但每個美國公民都能使用它。因此，政府支持的科技將會分享給所有人，造福所有人。

Scott Dadich：但是我們將面臨一些風險。馬斯克和Nick Bostrom也曾擔憂過AI的潛力將會超越人類，給人類帶來威脅。當我們前進時，我們不僅要保護自己，還要保護所有人。怎樣才能做到呢？

奧巴馬：我先來說說更讓我擔憂的事情吧。如果你擁有一臺會下圍棋的計算機，它擁有強大的算法能力，能夠幫你最大程度地在紐約證券交易所盈利。如果有人或者機構能夠先人一步得到此技術，那么他將快速讓股票市場降溫。

那么這時，如果算法被不法分子竊取，它也許會滲透到核程序中，學會如何發(fā)射核武器。如果此算法能夠自學且非常有效，那么我們將會面臨危險。我認為，國家安全局不應該去擔心那些將會取代世界的機器，而應該去擔心這些有可能會滲透進國家機制、威脅人類安全的技術。也就是說，我們目前迫切地需要做得更好，因為對國家造成破壞的團隊很有可能會走在我們前面。

Joi Ito：我基本同意。有些人認為10年之后，通用 AI 將會出現。但是深入研究發(fā)現，如果要出現這種AI，我們必須在這 10 年中讓 AI 技術擁有幾個重大的突破。因此如果突破出現時，你可以監(jiān)管。

奧巴馬：所以你需要做的是在關鍵處安插人手（笑）。當你預見到這種事情快要發(fā)生的時候，及時阻止就是了。

Joi Ito：重要的是挑選出出那些想要運用 AI 造福人類的個人和團隊，并且身體力行地予以支援。

奧巴馬：當我們之前提到安全和保護時，我們總會想到軍隊鎮(zhèn)壓或者搭建高墻。慢慢地，我們對于這兩個詞的理解開始發(fā)生變化。之所以網絡安全問題變得如此艱巨，部分原因在于這個威脅是無形的，并不是像坦克那樣有形的。現在，我們要轉變關于安全的概念，調整我們的投資政策，為每個人的安全保駕護航。

網絡襲擊和流行病傳染類似，這是我時常擔憂的地方。要阻止病毒進入我們的體內，再高的墻也是無濟于事的。我們需要建立完善的公共衛(wèi)生系統(tǒng)、創(chuàng)造健康保障機制、開發(fā)更加有效的疫苗。因此，當我們面對AI威脅時，我們應該采取相應的行動。

Joi Ito：還有一件事我覺得有點意思，我在觀察微生物時，發(fā)現可以引進好細菌來對抗壞細菌。

奧巴馬：我完全同意。不過我還是不會讓 Sunny 和 Bo 舔我，因為每次遛狗時，看到它們咬或是咀嚼什么時，我還是會不舒服。（笑）

Joi Ito：所以，我們也得重新思考，什么才是干凈的。不管是網絡安全，還是國家安全，我們都應該重新思考應對措施。制定出有效的應對措施是非常困難的。

Scott Dadich：在網絡安全方面，會不會出現新一輪的軍備競賽呢？

奧巴馬：毫無疑問，當今關于網絡安全和AI的國際準則、協議和驗證機制還處于初級階段?，F在，人們對于政府仍然存在著不信任，這將會成為網絡安全措施的阻礙。如果說世界上有些國家將美國視為一支超群的網絡力量，我們會說：如果你愿意約束自己，我們也愿意?，F在的挑戰(zhàn)便是一些成熟國家（如俄羅斯、中國和伊朗）所持的價值觀和準則和我們不一樣。我們會把它看成一個國際議題，這樣才能更好地處理這些問題。

社會契約和經濟模式都要與科技相適應

Joi Ito：我們正身處一個黃金時代，大家都非常樂于交流。如果我們能確保將資金和精力用來支持開放和分享，那么大家都能保持積極的態(tài)度。世界是一個大家庭，自己單干恐怕無法取得最好的效果。

奧巴馬：Ito 說的很對，這也是我們每天一輪一輪開會，忙著拉有興趣的人“入伙”的原因。另外我想說一點，雖然每次說到這個話題大家都會定很高的基調，但事實上我們必須考慮它對于經濟的影響。畢竟在大多數人眼中，不會在意奇點是否會來臨，他們更擔心機器是否會搶了他們的飯碗。

對此問題，我傾向于持積極態(tài)度，因為從歷史角度來看，人類曾無數次地對技術進行更新換代，但最終結果顯示，我們沒有被餓死，新技術反而創(chuàng)造了更多的就業(yè)崗位，我們的生活質量也得到了提高。當然，有些人的擔心也不是無緣無故的，畢竟當 AI 大潮襲來，真正能快速從中獲益的還是那些高技能人才，他們可以利用自己的才干，借助機器延伸自身的市場、銷售、產品和服務。

那些低薪水低技能的人可能會顯得越來越多余，他們的飯碗可能會保住，但薪水恐怕會有所降低。如果我們想要完成平穩(wěn)的過渡，那么全社會應該廣泛對話，討論到底如何處理這一過渡期的尖銳矛盾，如何通過培訓來保證經濟持續(xù)包容性增長。我們的生產效率是越來越高了，但如果任其自流，那么大部分產品還是會流到上層一小部分的群體口袋中。因此，我們要如何解決這一問題，并保證每個人都能拿到一份有尊嚴的收入呢？另外，AI“統(tǒng)治”一切后，人類的藝術和文化該如何保留？那些為國奉獻的退伍軍人誰來管呢？我們引以為豪的社會契約需要與時俱進來包容這些新技術，而我們的經濟模式也要隨之發(fā)生相應轉變。

Joi Ito：現在憑空去討論 AI 會代替哪些職業(yè)，實際上有些不直觀。舉例來說，如果電腦先進到能理解整個醫(yī)療體系，那么診斷疾病對它來說恐怕是小菜一碟，因此醫(yī)院里被替代的反而可能是經驗豐富的醫(yī)生們，而不是護士和藥劑師，因為前者太貴了。同時，我們熟悉的一些高級職位如律師和審計員，可能也會因為 AI 的崛起而消失。相反，許多電腦力不從心的行業(yè)，如服務業(yè)，人類反而會繼續(xù)發(fā)光發(fā)熱。我不知道總統(tǒng)對社會基本收入這個概念怎么看，但我覺得社會可以給那些被機器替代的人找個新活干，就像搞學術和搞藝術的人那樣，他們的工作不再直接與金錢掛鉤。不過，想轉變到這一模式必須要改變我們固有的社會認知，那就是沒錢的人都是笨蛋。但事實是，在學術界有許多聰明透頂的人并不是什么大富豪。

奧巴馬：Ito 還真是夠犀利，這就是我前面說到要重新設計社會契約的原因。社會基本收入這一政策是否還能適應社會的發(fā)展，可能要留待未來 10-20 年內大家的討論了。Ito 對 AI 所替代工作的趨勢分析也很有道理，高級工作確實可能會被電腦替代，但這些工作都有一個特點，那就是高度的可重復性。此外，一個無從爭辯的事實是：隨著 AI 技術的進一步整合，我們的社會會越來越健康。生產與分銷、工作與收入等的聯系會越來越微弱，因為電腦搞定了大量的工作。面對這樣的情況，我們不得不做出困難的決定：老師的工作對電腦來說很難完成，但我們卻不得不給他們降薪。因此，教會人們給自己的工作估值，重新審視自己的收入水平，恐怕是當下函待討論的重要問題。

我們要做的工作多著呢，政府正在逐步親民化，未來報稅的流程就跟訂披薩或者買機票一樣簡潔。但現實是，想要讓聯邦政府、州政府和地方政府同時邁入 21 世紀都不是那么容易。雖然政府的精英在能力上已經與私企的不相上下，但在整體的技術裝備水平上，卻有無法跨越的鴻溝。就拿我自己來說，第一次進白宮的戰(zhàn)情室時，還以為能用上《碟中諜》里的先進裝備呢，但現實卻讓我大跌眼鏡。就連我們追蹤恐怖分子時傳來的實時錄像都那么不清晰，白宮的科技裝備實在是該大換血了。

至于更宏大的問題，我堅信只要人類能解決氣候變化問題，讓海平面不再上升，那么其他一切都不是問題。對于這一問題，我非常樂觀，雖然我們還有很長的路要走。

此外，安全透明的管理互聯網也是當務之急，只有這樣政府才能在不越權的情況下及時抓住壞人，否則互聯網就成了政府壓迫大眾的工具。不過，從技術方面來看，這樣的目標就不好解決。就拿加密來說，從曾不止一次的與技術人員和民眾教堂，但沒人能給出一個符合各方利益的答案。

既然這是個高端訪問，我想再補充一點。作為一個癡迷宇宙的總統(tǒng)，我認為如何盡快讓我們的下一代享受星際旅行也是個重要的議題。在這方面，我們的私營企業(yè)走在了前面，它們無需政府資助，只靠自己瘋狂的點子就做出了我們不敢想的。政府的思路已經落后了，每次提到太空飛行，我們的路子還是停留在阿波羅登月時代，確實是該找找新的突破了。

關于《星際迷航》的探討

Scott Dadich：總統(tǒng)先生，我知道您是個《星際迷航》的鐵桿粉。不過說實話那個劇集只是包裝了科技的外衣，其內核還是烏托邦式的思想。它是怎樣塑造你對未來的愿景的呢？

奧巴馬：我小時候就是《星際迷航》的腦殘粉了，這劇集看起來太過癮了。其實能讓《星際迷航》保持經久不衰的并不是其中的科技元素，真正吸引人的是價值觀和友情。所以即使過去這劇集用著五毛錢特效，我們也看的很開心。它教育了我們什么是人性，同時給了我們解決問題的信心。

在我看來，《黑客帝國》得了《星際迷航》的真?zhèn)?，倒不是說這電影宏大復雜的設定感動了我，相反，它向我們展示了許多人認真做工作應有的態(tài)度，而秉承這種態(tài)度，就會一往無前，而這也是我一直強調的美國夢的精神內核。無論能不能一次成功，我們都會大膽進行嘗試，踩著自己失敗的經驗到達頂峰。如果我們丟掉了這一精神內核，那么我們所倚仗的一切都會瞬間坍塌。

Joi Ito：總統(tǒng)先生說的真棒，我也喜歡《星際迷航》傳達的樂觀主義精神。不過，我依然崇尚百花齊放，我認為電影中的壞人還是有些臉譜化，他們可能并不壞，有些人只是被誤導了。

奧巴馬：《星際迷航》與其他好故事一樣，都幫助我們認識到了自己是個復雜的動物，我們的性格中也都有光明和陰暗面。我前面提到的大膽去做正應了這個主題，沒有這一精神，我們肯定不能消除障礙和分歧。理性和人性之間必然會產生沖突，在 AI 的問題上亦是如此。我們雖然高談闊論 AI 的未來，但其實對于這一技術，人類只是剛剛知道點皮毛而已。所以，我們必須保持一顆敬畏之心，放手大膽去嘗試。

via wired

推薦閱讀：

Marc Andreessen 訪談（上）：大疆賭 AI 是功能，我們賭是全新構架的顛覆性產品

Marc Andreessen 訪談（下）：軟件能否顛覆傳統(tǒng)教育業(yè)

雷峰網原創(chuàng)文章，未經授權禁止轉載。詳情見轉載須知。