AI火熱的時代，我們是否應(yīng)該靜下來想想，應(yīng)該讓AI為我們做些什么？O'Reily Media的創(chuàng)始人兼CEO Tim O'Reilly在今年4月出版自己的新書前，采訪了微軟總裁Satya Nadella。兩者對AI的看法有許多相同之處。O’Reilly近期在領(lǐng)英上公布了該訪談，雷鋒網(wǎng)選擇性地編譯了對話內(nèi)容。

Tim：在你的書中，你提到了，為AI定義宏偉的、鼓舞人心的社會目標(biāo)，注定將會是一個挑戰(zhàn)。你寫道：“在1969年，當(dāng)肯尼迪總統(tǒng)承諾登月計(jì)劃時，這個目標(biāo)之所以被選中，很大程度上是因?yàn)樗蚣夹g(shù)提出了巨大的挑戰(zhàn)并要求全球合作。類似的，我們需要為AI制定一個足夠大膽和雄偉的目標(biāo)，一個可以通過不斷改進(jìn)當(dāng)前技術(shù)實(shí)現(xiàn)的目標(biāo)。”

我喜歡非常喜歡你這個想法，可以擴(kuò)展一下嗎？

Satya：如果你從AI將會輔助人類的假設(shè)開始思考，你會覺得AI是一個輔助性的技術(shù)。如果有一天我們能夠讓有視覺障礙的人看得見這個世界，或者讓有閱讀障礙的人能夠閱讀，那將會是真正的突破。AI成為帶來參與性的科技，將會是意義非凡的，尤其是在我們期望AI能夠替代許多東西的時代。我們可以進(jìn)而讓AI融入我們的社會，發(fā)揮更多的作用。

我的這些想法，主要是出于我的兒子。我的兒子先天上有些缺陷，他沒有常人的那種自由，我經(jīng)常想：“要是他能說話就好了?！彼裕慨?dāng)有人談到“腦機(jī)”連接時，我都充滿興趣。

我們正處于創(chuàng)造一種“極限”科技的時代，這種科技也是我們通往“超級智能”的道路。而指導(dǎo)我們的設(shè)計(jì)原則、道德哲學(xué)，就是最關(guān)鍵的東西。

在某種意義上說，我們所必須做出的最有決定性的選擇將是“誰來設(shè)計(jì)超級智能”？

Tim：我的書中有一個章節(jié)叫做“我們時代的天網(wǎng)（電影《終結(jié)者》中的敵對AI）”。我的看法是，人工智能當(dāng)中，我們對集體智能的討論還不夠。我們正在用搜索引擎、社交媒體和金融市場建立一個集體智能機(jī)制。而且我們已經(jīng)讓人工智能做到了我們希望人工智能做的事，也就是為了最大化人們的利益。其實(shí)我們已經(jīng)打造了一個某種含義上的“天網(wǎng)”，我們必須及時采取行動...

Satya：沒錯，盡管我們?nèi)祟愑姓J(rèn)知偏見，但我們?nèi)杂泻艽蟮膬?yōu)勢。正如Herbert Simon（雷鋒網(wǎng)注：美國政治科學(xué)家）所說，我們不需要不優(yōu)化，我們對自己已經(jīng)滿足了。這實(shí)際上是有幫助的。我們之所以感到滿足，是因?yàn)槲覀児餐瑩碛幸粋€道德基礎(chǔ)?，F(xiàn)在，當(dāng)我們說，AI等同于優(yōu)化問題時，我們可能真的會有問題。人們必須從道德的基礎(chǔ)上出發(fā)，所以我并不贊同人們將符號基礎(chǔ)（雷鋒網(wǎng)注：使用符號表示含義）當(dāng)作是一種突破；我們所需要的突破是符號基礎(chǔ)上的道德基礎(chǔ)。

Tim：你也說過要建立增強(qiáng)人類能力和體驗(yàn)的智能。你說過想把重點(diǎn)放在將人類天賦，如創(chuàng)造力、同情心、情感、物質(zhì)性、洞察力與AI混合在一起。

Satya：這樣說吧，這里還有很多“人工智能”沒有提到。稀缺的商品就是真正的智慧。不過，真正的智能是什么呢？”

真正的智能將會在最人性化的品質(zhì)中出現(xiàn)，也就是同情、憐憫，這才是最重要的。在我們真真正正地弄清楚，如何將它嵌入到機(jī)器中之前，我們將不得不讓智能與人類一起成長，并為人類壯大。

我們必須考慮應(yīng)該給予人類什么樣的教育。有了AI，也許你真的不再需要學(xué)習(xí)傅立葉變換了。你可能會去做正念，可能想要發(fā)展同情心...這是我需要聲明的一些東西?，F(xiàn)在有一種狂熱，就是每個人都需要接受STEM教育（雷鋒網(wǎng)注：science, technology, engineering and mathematics，即科學(xué)、技術(shù)、工程和數(shù)學(xué)），我們的確該接受。但是，我們好像過分強(qiáng)調(diào)STEM了。

Tim：有一個概念，在我的職業(yè)生涯中發(fā)揮了作用，Clay Christiansen（雷鋒網(wǎng)注：美國學(xué)者、教育家、作家）稱之為“吸引力利益準(zhǔn)則”，就是當(dāng)有一件事物變得商品化時，就會有別的東西變得有價值。我在2004年左右，第一次從Clay那里聽到這個消息。他和我在同一次會議上進(jìn)行了演講。我在談?wù)撐④浫绾稳〈薎BM：PC硬件成為商品之后，軟件就變得有價值了。我的觀點(diǎn)是，開放源代碼會使軟件商品化，而其他的東西將變得有價值。最終我意識到這東西就是大數(shù)據(jù)。而Clay則在講他的“吸引利益準(zhǔn)則”的想法，我發(fā)現(xiàn)我們其實(shí)在說同一回事，這個準(zhǔn)則也完全適用于AI。由于人類認(rèn)知中的機(jī)械部分，被AI所商品化，人類獨(dú)特的其他部分將更有價值。

Satya：這是一個很不錯的想法。

Tim：所以在未來的經(jīng)濟(jì)中，在關(guān)懷、創(chuàng)造力上，還有很多機(jī)會。創(chuàng)意經(jīng)濟(jì)不僅僅局限在藝術(shù)和文化。連飲食也可以加入創(chuàng)意。每當(dāng)產(chǎn)品成為商品時，我們都可以找到新的方式，通過將它們與人類的創(chuàng)造力相結(jié)合來使其變得更有價值。

Satya：這實(shí)際上是我們的癡迷，對吧？當(dāng)我看到Minecraft一代，或者甚至Snapchat的一代...對我來說，這一代最有啟發(fā)性的事情，不過就是創(chuàng)作、故事、或者已有事物狂野體現(xiàn)。在Minecraft中，人們都在建造他們想象之外的世界。

這就是我想要培養(yǎng)的一代。在最新版本的Windows中，我們讓“畫圖”能夠畫3D圖像。因?yàn)樵谠鰪?qiáng)現(xiàn)實(shí)與混合現(xiàn)實(shí)的世界中，這將是不可或缺的。

Tim：你還談?wù)撨^，透過大量數(shù)據(jù)進(jìn)行推理，以及更快地做模式識別的能力。在AI的發(fā)展中，本身就有一種創(chuàng)造力。現(xiàn)在，當(dāng)人們用隨機(jī)森林算法贏得Kaggle的挑戰(zhàn)賽時，在這選擇之中，創(chuàng)意就體現(xiàn)出來了，而現(xiàn)在，創(chuàng)意則體現(xiàn)在更高級的超參數(shù)中，因?yàn)楝F(xiàn)在人們已經(jīng)使用了所有提供的數(shù)據(jù)。你如何看待AI對創(chuàng)作過程的幫助？以及解決問題的創(chuàng)造性方法?

Satya：當(dāng)我看著我們現(xiàn)在擁有的，或是正在研發(fā)的編程工具，如果你了解我們添加到傳統(tǒng)工具中的一些AI，例如Word里面，用來拼寫檢查和猜詞的部分，可以說，它已經(jīng)完全是一個寫作助手了。如果我們對AI說，“我想像Faulkner一樣寫作”，AI將會向我們相應(yīng)提供建議。

Tim：是的，就像寫作中的AutoTune（一種自動調(diào)節(jié)歌手演唱音調(diào)的設(shè)備）一樣。

Satya：是的，我沒有學(xué)過寫作，我讀的是工科，但我有一個成為偉大作家的夢想，那我就需要這種AI來幫助我。

我這么想的原因，與我在中國看過的“小冰”、“小冰”與人的對話有關(guān)?！靶”笔俏④浹邪l(fā)的聊天機(jī)器人，發(fā)展得還不錯。“小冰”的意義，更多的是促使人們交談。而人們也向她表達(dá)了內(nèi)心的想法。當(dāng)時我就說：“哇，這個就是AI真正所能展現(xiàn)出的同情心。”小冰讓在生活中有煩惱的的人們，也能對別人的遭遇感到同情，這是非常超現(xiàn)實(shí)的。

Tim：我們之前也談到過，AI已經(jīng)成為（程序）第三個“運(yùn)行時刻”的想法。讓我們談?wù)勔幌逻@一點(diǎn)吧，以及實(shí)際發(fā)生的情況。

Satya：我想上一次我們談過，我說“PC或手機(jī)操作系統(tǒng)是第一個'運(yùn)行時刻'，第二個是瀏覽器和網(wǎng)頁，第三個'運(yùn)行時刻'就是這個懂你，懂世界，懂得上下文，能夠幫助你的個人助手。

然后我們說：“真的，如果你把思想、觀念和最終的行動，三者都在組合一起，這個個人助手就出來了”。這個助手本質(zhì)上增加了你的想法的增加，擴(kuò)展了你的感官，語音是一方面，視覺是另一方面，可以采取行動。

那就是最終極的“運(yùn)行時刻”了，對吧？

有趣的是，這也說明了我為什么在書中，試圖寫這三點(diǎn)：1）什么是最終的計(jì)算體驗(yàn)？最終的計(jì)算體驗(yàn)是與計(jì)算疊加的真實(shí)世界。就是混合現(xiàn)實(shí)。 2）這將需要AI在知覺，認(rèn)知和行動上的突破。 3）然后我有點(diǎn)突然地提到，說：“如果你想要理想地創(chuàng)造這樣的計(jì)算能力，那么你必須擺脫馮諾依曼架構(gòu)和古典計(jì)算的束縛。我們可以做出量子計(jì)算機(jī)嗎？”這就是我寫道的三點(diǎn)。

Tim：你的書中很多次提到了量子計(jì)算機(jī)，這讓我有點(diǎn)驚訝地看到。

Satya：進(jìn)步是真實(shí)的，我的意思是，我們在這個領(lǐng)域已經(jīng)很深入了。但是，問題是，它在多久后能變成現(xiàn)實(shí)？我不知道。但是應(yīng)該不會等太久。

Tim：你的書中有一部分寫得很好：“我們不只是智能機(jī)器，而且是可智能機(jī)器”。我們并不了解人工智能究竟是如何得出結(jié)論的，這是人們對AI的一個重大憂慮。現(xiàn)在，當(dāng)然，對人類來說也是如此。因?yàn)槲覀冎粌A向于認(rèn)為人類思想都是理性的，并沒有意識到我們所做的產(chǎn)品其實(shí)一點(diǎn)也不智能。所以，這是理性主義者在某種意義上的最后一次發(fā)聲。

Satya：的確。但我有兩個方法。一個是問責(zé)制。 當(dāng)你設(shè)計(jì)、創(chuàng)造了AI，你需要負(fù)責(zé)嗎？”整個Tay的實(shí)驗(yàn)真的影響了我們對這種事的想法。Tay的實(shí)驗(yàn)之所以失敗，根本上是有人有預(yù)謀地向它輸入最后能夠劫持算法的數(shù)據(jù)。這是誰的責(zé)任？我會說這是我們的責(zé)任。

Tim：嗯，顯然這是Facebook和假的新聞問題。我和一些安全研究人員進(jìn)行過非常有趣的對話，談?wù)撛趺雌隍_自駕車。如果是你，你會如何通過創(chuàng)造他們在視覺領(lǐng)域容易誤解的東西，來攻擊他們？敵對的干預(yù)措施必定會有很多，我們需要更穩(wěn)健的AI設(shè)計(jì)。

Satya：當(dāng)人們說：“哦，天啊，這些DNN（深神經(jīng)網(wǎng)）真是神奇。他們在做的，是我們甚至還不知道的事”...在一定程度上，我認(rèn)為這個說法是真實(shí)的，但圍繞神經(jīng)網(wǎng)絡(luò)的層數(shù)、權(quán)重的選擇，有很多關(guān)于該如何學(xué)習(xí)的人類的決定。我們還沒到讓位與這些算法的時候，我們需要對他們所做的決定負(fù)責(zé)任。我想，我會對人們說：“好吧，如果我們用語言來實(shí)現(xiàn)AI中的字面編程呢，這個責(zé)任又該誰負(fù)？”

Tim：最后一件事我想問你，因?yàn)槲液芟矚g這一段。你寫道：“我們這樣挑戰(zhàn)自己：如果我們在明年年底，被人以沒有履行使命的罪名，送到法庭上接受審判，那么，我們是自己是不是有足夠的證據(jù)證明自己付出過努力？”我覺得這是一個我們整個社會都可以效仿的挑戰(zhàn)！

Satya：我感覺到的是，盡管微軟已經(jīng)很成功了，但是我們沒有明確的目標(biāo)，來指導(dǎo)我們做決定，無論我們研發(fā)的產(chǎn)品，還是圍繞著產(chǎn)品構(gòu)建的商業(yè)模式，我們還在追尋，微軟存在的終極意義是什么？

而且光說不練的話，你根本不可能激勵任何人，其實(shí)就是這樣的想法。在某種意義上說，在過去三年中，我們沒有在做別的事，就是變得更加專注于行動了。

這是一個進(jìn)行中的工作。我們永遠(yuǎn)不會結(jié)束。我們有這樣的目標(biāo)，并具有學(xué)習(xí)的文化元素，心態(tài)隨之成熟。（目標(biāo)和行動）對我們來說，是最有幫助的兩件事。

放在三年前，我不會這樣說。當(dāng)時的我，被微軟的輝煌，出色的產(chǎn)品所蒙蔽。我逐漸明白，事物的增長都是曲線式的，而微軟的增長也放緩了。

我意識到，我們必須對自己坦誠。這也是我們?nèi)绱藦?qiáng)調(diào)創(chuàng)作故事的原因。我有一點(diǎn)粉Joseph Campbell（雷鋒網(wǎng)注：約瑟夫·坎伯，美國神話學(xué)家、作家），我覺得：“關(guān)于微軟的創(chuàng)造神話，應(yīng)該是啟發(fā)我們的東西。

微軟的第一件產(chǎn)品，就是比爾和保羅（雷鋒網(wǎng)注：比爾·蓋茨和保羅·艾倫，兩位微軟創(chuàng)始人）一起為ALTAIR（雷鋒網(wǎng)注：1974年MIT發(fā)明的微型計(jì)算機(jī)）開發(fā)了BASIC編譯器。這個故事放在2017年的今天是為了告訴我們什么呢？它告訴我們，我們?yōu)閼?yīng)該為別人的技術(shù)發(fā)展而建設(shè)技術(shù)。而在一個將被技術(shù)塑造的世界，在世界的每一個角落，在經(jīng)濟(jì)的每一個領(lǐng)域，這將是一個偉大的使命。

而且，我也喜歡這樣的目標(biāo)，就是創(chuàng)造技術(shù)，從而讓別人創(chuàng)造更多的技術(shù)。

雷鋒網(wǎng)編譯，via LinkedIn

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。