0
| 本文作者： 楊曉凡 | 2017-11-29 19:25 |
雷鋒網(wǎng) AI 科技評(píng)論按：普通大眾對(duì)“人工智能的智力超越人類，最終統(tǒng)治世界、滅絕人類”這件事充滿了擔(dān)憂，而實(shí)際上許多已經(jīng)在從事人工智能相關(guān)工作的研究者也免不了有類似的擔(dān)憂。樂觀的人都很想告訴悲觀的人為什么“人工智能大爆發(fā)”不會(huì)發(fā)生，但往往沒有好的論據(jù)和理論體系。
近日，著名的機(jī)器學(xué)習(xí)研究者、Keras的作者 Fran?ois Chollet 就在 Medium 上發(fā)出一篇長文，詳細(xì)解釋了智力的本質(zhì)、迭代發(fā)展是怎么回事，最終表明“人工智能大爆發(fā)”是不會(huì)發(fā)生的。雷鋒網(wǎng) AI 科技評(píng)論把這篇文章全文翻譯如下。
1965年，英國數(shù)學(xué)家、圖靈曾經(jīng)的同事、后來還擔(dān)任了「2001太空漫游」的科學(xué)顧問的 I. J. Good 首次提出了“智力爆發(fā)”的想法，這和人工智能（AI）有著密切關(guān)聯(lián)：
假定有一種機(jī)器，無論多聰明的人做出的智力活動(dòng)都可以被它超越，我們就把它稱作“超級(jí)智能”。由于機(jī)器的設(shè)計(jì)也是這些智力活動(dòng)中的一種，一個(gè)超級(jí)智能就能比人類設(shè)計(jì)出更好的機(jī)器；那么毫無疑問地，接下來就會(huì)迎來“智力爆炸”，人類的智力會(huì)被遠(yuǎn)遠(yuǎn)甩開。這樣以來，第一臺(tái)擁有超級(jí)智能的機(jī)器就會(huì)是人類歷史上的最后一項(xiàng)發(fā)明，我們也只能希望超級(jí)智能足夠溫順體貼，能告訴人類一些辦法避免完全脫節(jié)。
幾十年后，“智力爆炸”的想法在人工智能領(lǐng)域已經(jīng)落地生根，關(guān)于“超級(jí)人工智能”和人類會(huì)最終滅絕的擔(dān)憂一直縈繞在人們心中。許多知名公司的負(fù)責(zé)人都認(rèn)為這是一個(gè)重大風(fēng)險(xiǎn)，甚至比核戰(zhàn)爭(zhēng)和氣候變化的風(fēng)險(xiǎn)還要大。機(jī)器學(xué)習(xí)專業(yè)的畢業(yè)生也大都贊同這種擔(dān)憂。在2015年的一項(xiàng)面向人工智能研究者的電子郵件調(diào)查中，29%的參與者認(rèn)為人工智能大爆炸是“很可能”和“極有可能”的；還有21%認(rèn)為認(rèn)為這事有相當(dāng)?shù)目赡苄浴?/p>
人工智能大爆炸的基本假設(shè)是這樣的：在不遠(yuǎn)的將來，人們首先創(chuàng)造出一個(gè)“種子AI”，它具有稍微高過人類一點(diǎn)點(diǎn)的通用問題解決能力。然后這個(gè)AI就會(huì)開始設(shè)計(jì)出更好的AI，從而啟動(dòng)一個(gè)循環(huán)往復(fù)的自我升級(jí)過程，在短時(shí)間內(nèi)以數(shù)量級(jí)的優(yōu)勢(shì)超過人類，最終將會(huì)讓人類智能顯得不值一提。這種理論的支持者把人工智能看作是一種強(qiáng)權(quán)力量，它的擁有者隨之也有擁有了可以改變環(huán)境、改變世界的超自然力量，就像2014年的科幻電影「超驗(yàn)駭客（Transcendence）」里那樣。超級(jí)人工智能幾乎是全能的，也就會(huì)對(duì)人類社會(huì)產(chǎn)生實(shí)實(shí)在在的威脅。
關(guān)于人工智能的風(fēng)險(xiǎn)以及如何管控它們的公眾辯論有很強(qiáng)的誤導(dǎo)性，這些科幻電影更是火上澆油。在這篇文章中，我會(huì)闡述我的觀點(diǎn)：人工智能大爆炸是不可能的，這種“智力爆炸”的想法完全是來自于對(duì)智力的本質(zhì)和迭代自我增強(qiáng)系統(tǒng)這兩個(gè)方面的深遠(yuǎn)的誤解。我會(huì)根據(jù)對(duì)智能系統(tǒng)和迭代系統(tǒng)的實(shí)際觀察給出我的論點(diǎn)。
“智力爆炸”背后的推理過程就和上個(gè)世紀(jì)六十七年代產(chǎn)生的早期AI理論一樣，是有些詭辯的：它把“智力”看作是一件完全抽象的概念，從它的內(nèi)容中剝離開，而且忽略了已有的關(guān)于智能系統(tǒng)和迭代自我增強(qiáng)系統(tǒng)兩個(gè)方面的已有證據(jù)。但智力并不一定是這樣的。說到底，人類就生存在一個(gè)充滿了智能系統(tǒng)（包括我們）和自我增強(qiáng)系統(tǒng)的星球上，所以我們就可以直接觀察它們、從它們身上尋找現(xiàn)有問題的答案，而不是完全脫離證據(jù)地做循環(huán)論證。
為了討論智力和它可能的自我增強(qiáng)的屬性，我們需要先介紹一些必要的背景知識(shí)和語境。當(dāng)我們討論智力的時(shí)候，我們到底討論的是什么？即便“精確地定義智力”這件事本身就有不小的困難。關(guān)于智力爆炸的論述把“智力”等同于“每個(gè)獨(dú)立的智能體身上體現(xiàn)出的解決通用問題的能力”，它可以來自人類大腦，也可以來自未來的電子大腦。但這并不是一個(gè)完整的回答，所以我們從上面這個(gè)定義出發(fā)，開始拓展它。
我在“智力爆炸”理論里發(fā)現(xiàn)的第一個(gè)問題就是它沒有意識(shí)到智力其實(shí)是一個(gè)更廣闊的系統(tǒng)的一部分，有一種關(guān)于智力的觀點(diǎn)“缸中之腦”就認(rèn)為智力可以獨(dú)立于它的場(chǎng)景存在。大腦僅僅是一塊生物組織，本質(zhì)上來講它沒什么好智能的。而除了大腦之外，你的身體和感知（感覺到運(yùn)動(dòng)的功能）也是大腦中的一個(gè)基礎(chǔ)部分。人類所處的環(huán)境是大腦中的一個(gè)基礎(chǔ)部分，人類文化是大腦中的一個(gè)基礎(chǔ)部分。這些都是人類思維的來源。對(duì)智力的考量不能把它從它用來表達(dá)自己的內(nèi)容中脫離出來。
具體來說，“通用人工智能”這種東西是不存在的。先從抽象角度來講，我們都知道“沒有免費(fèi)的午餐”定理，它是說對(duì)于所有可能的問題來說，沒有什么問題解決方法能夠比隨機(jī)選擇的效果更好。如果智力的表現(xiàn)是一種解決問題的算法，它只有在某個(gè)具體問題的條件下才能夠被人類理解。更實(shí)際地講，可以看到現(xiàn)在我們構(gòu)建出的各種智能系統(tǒng)都是高度專用化的。現(xiàn)在我們構(gòu)建出的AI的智力都是高度專用的，專門用來解決非常細(xì)分的問題，比如下圍棋，或者把圖像分到一萬個(gè)已知的類別中。這就好像，一只章魚的智力是專門用來解決“如何做一只章魚”這個(gè)問題的。人類的智力同樣是專門用來解決如何做一個(gè)人類的。
如果我們把一個(gè)全新的人類大腦放在章魚的身體里，然后讓它生活在海底，那會(huì)怎么樣？它能學(xué)會(huì)如何控制這個(gè)有著8只腿的身體嗎？它能堅(jiān)持個(gè)幾天嗎？我們做不了這樣的實(shí)驗(yàn)，但是根據(jù)已有研究中發(fā)現(xiàn)的人類固有的基礎(chǔ)行為和早期學(xué)習(xí)模式來說，很有可能這個(gè)章魚中的人類大腦展現(xiàn)不出任何智慧行為，而且會(huì)很快死掉。怎么樣，大腦現(xiàn)在就不怎么聰明了吧？
如果我們把一個(gè)人類（大腦和身體一起）放到一個(gè)完全沒有我們熟知的人類文化的環(huán)境中呢？一個(gè)被狼群養(yǎng)大的狼孩，長大以后會(huì)比他的被人類養(yǎng)大的雙胞胎兄弟更聰明嗎？如果我們把這個(gè)狼孩和年幼的愛因斯坦換一換，他會(huì)不會(huì)有機(jī)會(huì)借助教育的力量，最終同樣發(fā)現(xiàn)關(guān)于宇宙的理論呢？可供借鑒的經(jīng)驗(yàn)性證據(jù)非常少，但是從我們現(xiàn)有的知識(shí)中可以看到，在人類文化環(huán)境之外長大的小孩最高也只能發(fā)展出基本的、動(dòng)物一樣的生存行為，當(dāng)他們長成大人以后都還學(xué)不會(huì)任何語言。
如果像我們剛才說的這樣，智力在本質(zhì)上是取決于具體的感知模式、具體的環(huán)境、具體的養(yǎng)育方式、具體的需要解決的問題的，那我們就不能指望只依靠調(diào)節(jié)“大腦”，就能任意地提高一個(gè)智能體的智力水平，就像不能只靠調(diào)節(jié)工廠里流水線的速度來提高整個(gè)工廠的產(chǎn)量。想要智力爆發(fā)，那么大腦本身、感知模式和環(huán)境都需要跟著進(jìn)化。如果我們大腦的組成結(jié)構(gòu)是我們問題解決能力的決定性因素，那么那些IQ遠(yuǎn)超正常人類范圍的人也就會(huì)以遠(yuǎn)超過普通人的方式生活，解決各種以前人們認(rèn)為解決不了的問題，甚至最終通知世界，就像有的人害怕超過人類智力的AI會(huì)做出這些事一樣。然而實(shí)際上，具有超常的認(rèn)知能力的人多數(shù)都過著異常乏味的生活，幾乎沒幾個(gè)人做出了什么值得紀(jì)念的事情；另一方面，如果我們看看那些嘗試統(tǒng)治世界的人，我們幾乎看不到其中有誰是特別聰明的。
對(duì)于那些在真正的難題上做出了真正的突破的人，他們之所以能做出成果是環(huán)境境遇、性格、教育背景、智力因素組合的結(jié)果，而且他們也是在前人的工作之上一點(diǎn)點(diǎn)做出改進(jìn)，從而形成突破?！?strong>成功”，這種智力的外在表現(xiàn)，是一種在合適的時(shí)間遇到一個(gè)好的問題的能力。許多解決了重大問題的杰出人物甚至都不一定有多聰明，他們的技能是專門用于某個(gè)特定領(lǐng)域的，他們?cè)谧约旱闹鞴ヮI(lǐng)域之外也并不見得就比普通人表現(xiàn)更好。有一些人做出了更多的成就是因?yàn)樗麄兊膱F(tuán)隊(duì)協(xié)作能力更好，或者更有勇氣、工作中有更高的道德、有更好的想象力。也有一些人只不過碰巧就在對(duì)的場(chǎng)景里、在對(duì)的時(shí)間講了對(duì)的話。本質(zhì)上來說，智力是取決于場(chǎng)景的。
智力并不是某種超強(qiáng)力量；超常的智力僅憑它自己并不能給某個(gè)人帶來同樣比例的額外的力量，從而改善他自己的處境。不過，有充足的研究表明智力的高低（以IQ值衡量，不過這也有待討論）跟整個(gè)社會(huì)的分布中最接近平均值的一部分的社會(huì)成就有關(guān)系。一個(gè)IQ為130的人從統(tǒng)計(jì)意義上來講更有可能比IQ為80的人獲得成功的人生；對(duì)單個(gè)個(gè)體來講其實(shí)變數(shù)也是很多的，這種關(guān)聯(lián)只在統(tǒng)計(jì)學(xué)意義上有效，但它在超過某個(gè)點(diǎn)之后還是會(huì)失效。沒有任何證據(jù)可以表明一個(gè)IQ為220的人能比IQ為130的人能在某個(gè)領(lǐng)域做出更大的貢獻(xiàn)。這是為什么呢？
這種狀況指向了一個(gè)非常直觀的事實(shí)：做出高的成就需要有足夠的認(rèn)知能力，要高出某個(gè)閾值，然而接下來在解決問題、在“智力的外在表現(xiàn)”時(shí)遇到的瓶頸就并不是隱含的認(rèn)知能力自己了。這個(gè)瓶頸是人類自己的處境。我們所在的環(huán)境決定了我們的智力是如何呈現(xiàn)出來的，它給我們能憑借大腦做到的事情加上了一個(gè)不可逾越的上限：環(huán)境決定了我們長大以后能變得多聰明、決定了我們能以何種效率利用我們培養(yǎng)出的智力，以及決定了我們能解決什么樣的問題。所有的證據(jù)都表明，我們現(xiàn)在的生存環(huán)境很大程度上就和人類歷史上過去的二十萬年里的、甚至更早時(shí)候的生存環(huán)境一樣，始終不足以讓高智慧的個(gè)體完全發(fā)展、完全運(yùn)用他們的認(rèn)知潛能。一個(gè)一萬年前的具有很高潛力的人類基本上是在一個(gè)復(fù)雜度相當(dāng)?shù)偷沫h(huán)境中長大的，很可能只會(huì)說一種詞匯量不到5000個(gè)單詞的語言、從來都沒有閱讀或者寫作過、只接觸到了非常有限的知識(shí)、遇到了寥寥幾個(gè)認(rèn)知挑戰(zhàn)。對(duì)于多數(shù)的現(xiàn)代人類來說狀況是要好一些了，但是沒有任何跡象可以表明我們現(xiàn)在在環(huán)境中遇到的機(jī)遇和挑戰(zhàn)增加得比我們的認(rèn)知潛能更快。
“從某種程度上說，我對(duì)愛因斯坦大腦中的權(quán)重和卷積的興趣，并不比幾乎一定存在的、具有同樣天分的、在棉花田和工廠流水線里生活死去的人更多?！?nbsp;—?Stephen Jay Gould
一個(gè)聰明的人類如果在森林中長大，那他只不過是一只沒有毛的猴子。類似地，一個(gè)具有超越人類的大腦的AI，如果以人類的身體在現(xiàn)代世界里生活，也不見得會(huì)比一個(gè)聰明的現(xiàn)代人學(xué)到更多更強(qiáng)的本事。駕駛它能的話，那么那些已知的具有高IQ的人類就肯定已經(jīng)做出了與IQ成正比的超人般的個(gè)人成就；他們對(duì)自己的環(huán)境的控制力將是普通的人類無可比擬的，也將會(huì)解決深遠(yuǎn)、重大的問題。然而這一切現(xiàn)在也并沒有發(fā)生。
決定我們的大腦會(huì)發(fā)展出什么水平的智力的，并不僅僅是我們的身體、感知和環(huán)境，這里的重點(diǎn)是，人類的生物學(xué)上的大腦僅僅是人類總體智力的一小部分。我們身邊充滿了認(rèn)知意義上的“假肢”，它們連接到我們的大腦中，拓展了大腦解決問題的能力。比如你的手機(jī)、你的電腦、谷歌搜索、在學(xué)校遇到的認(rèn)知工具、書籍、別的人、數(shù)學(xué)符號(hào)、編程，等等。所有認(rèn)知意義上的假肢中最最基礎(chǔ)的當(dāng)然就是語言本身，它可以說是認(rèn)知活動(dòng)用的操作系統(tǒng)，如果沒有它我們就沒辦法做深入的思考。這些東西就不僅僅是喂到大腦中然后被它使用的知識(shí)，它們是真正的外部認(rèn)知過程，用非生物化的方法執(zhí)行思維路徑和解決問題的算法；它們超越了時(shí)間、空間，而且更重要的是，超越了我們每個(gè)個(gè)體。這些認(rèn)知假肢并不是我們大腦的任何一部分，但卻是我們大多數(shù)認(rèn)知能力的棲息之處。
我們?nèi)祟惥褪怯晌覀兪褂玫墓ぞ咚茉斐鰜淼?。單?dú)的一個(gè)人幾乎什么都做不了；這話可以再說一遍，人類只不過是兩只腳走路的猴子而已。讓人類脫離了動(dòng)物本能的，是人類集體的知識(shí)和外部系統(tǒng)在數(shù)千年間的積累，我們也把這個(gè)過程稱作“文明的建立”。當(dāng)科學(xué)家做出了突破性發(fā)現(xiàn)的時(shí)候，他們大腦中運(yùn)轉(zhuǎn)著的思維過程僅僅是整個(gè)方程的很小一部分，問題解決過程中的絕大部分的工作量都是由電腦、別的研究者、紙筆記錄、數(shù)學(xué)符號(hào)等等完成的，他們能夠成功的原因也都是因?yàn)樗麄冋驹诰奕说募绨蛏希核麄冏约旱难芯砍晒徊贿^是一個(gè)延續(xù)了幾十年的、有幾千個(gè)獨(dú)立的個(gè)體參與的問題解決過程中的最后一個(gè)子程序而已。作為單獨(dú)的個(gè)體，他們自己的認(rèn)知成果對(duì)于整個(gè)流程來說并不見得就比計(jì)算機(jī)芯片中的一個(gè)晶體管起到的作用更大。
有多到數(shù)不清的證據(jù)都指向了這個(gè)簡(jiǎn)單的事實(shí)：?jiǎn)为?dú)一個(gè)人類大腦，只靠它自己，是不足以設(shè)計(jì)出超越自己的智慧存在的。這完全是一個(gè)實(shí)證得到的結(jié)論：在這地球上出現(xiàn)過、滅亡了的幾十億個(gè)人類大腦中，沒有一個(gè)做到了這件事。這件事很明顯，單獨(dú)一個(gè)人的智力，花了一生的時(shí)間也設(shè)計(jì)不出更高的智力存在；假如能的話，在這樣的幾十億次嘗試之后，是肯定要能發(fā)生的。
然而，這幾十億個(gè)大腦，在數(shù)千年間積累了知識(shí)、發(fā)展出了外部的智慧流程、實(shí)現(xiàn)了這個(gè)“文明”系統(tǒng)，最終有可能就會(huì)帶來智力高于單個(gè)人類個(gè)體的人工大腦。能創(chuàng)造出超越人類的AI的，不是你，不是我，不是任何單獨(dú)的人類個(gè)體，而是作為一個(gè)整體的人類文明。這個(gè)過程中有無數(shù)的人類參與、花費(fèi)的時(shí)間我們無法想象；這個(gè)過程對(duì)書本、計(jì)算機(jī)、數(shù)學(xué)、自然科學(xué)、網(wǎng)絡(luò)等等外部智力的需求要遠(yuǎn)高于生物智力。從個(gè)體的層次講，我們都只是人類文明中的一個(gè)個(gè)向量，從前人的工作上開始，向下傳遞我們自己的發(fā)現(xiàn)。如果人類文明對(duì)應(yīng)的這個(gè)解決問題的算法運(yùn)行在電腦上，我們就只是短暫參與其中的晶體管而已。
經(jīng)過幾個(gè)世紀(jì)的時(shí)間、人類集體開發(fā)出的超越人類的未來人工智能，會(huì)有可能有能力創(chuàng)造出比它們自己更強(qiáng)大的AI嗎？不會(huì)的，就像我們?nèi)祟愐膊恢廊绾伍_發(fā)出超越自己的人工智能一樣。如果你回答“會(huì)”的話，就又和我們知道的一切沖突了。請(qǐng)記住，沒有任何人類，也沒有任何我們知道的具有智力的實(shí)體能開發(fā)出任何比自己更聰明的東西。我們?nèi)祟愐龅氖?，逐步地、共同地?gòu)建比我們自己更強(qiáng)大的外部的問題解決系統(tǒng)。
不過，未來的AI就會(huì)和人類以及其它人類創(chuàng)造出的智慧系統(tǒng)一樣，給人類文明添磚加瓦；而人類文明，反過來也就會(huì)不斷拓展它創(chuàng)造出的AI的能力。從這種意義上說，人工智能就和計(jì)算機(jī)、書本或者語言一樣，是一種給人類文明帶來更強(qiáng)大力量的科學(xué)技術(shù)，超級(jí)人工智能所代表的技術(shù)奇點(diǎn)也就會(huì)和計(jì)算機(jī)的發(fā)明、書本的發(fā)明、語言的發(fā)明所代表的奇點(diǎn)一樣。人類文明會(huì)創(chuàng)造出AI，然后繼續(xù)向前進(jìn)步。人類文明最終會(huì)超越我們現(xiàn)在的存在形式，就像現(xiàn)在的人類文明超越了一萬年前的人類一樣。這是一個(gè)逐步發(fā)生的過程，而不是一個(gè)突然的轉(zhuǎn)變。
智力爆炸的基本假設(shè)，一個(gè)“種子AI”會(huì)出現(xiàn)，憑借比人類更強(qiáng)的問題解決能力，走向突然的、迭代的、不受控制的智力發(fā)展循環(huán)，是錯(cuò)誤的。我們?nèi)祟惖膯栴}解決能力（具體來說，我們?cè)O(shè)計(jì)人工智能的能力）本來就一直在提高，因?yàn)檫@些能力大部分并不是存儲(chǔ)在我們的生物學(xué)大腦中的，而是蘊(yùn)含在人類身體外部的所有工具中。這個(gè)迭代進(jìn)化的循環(huán)已經(jīng)運(yùn)轉(zhuǎn)了很長時(shí)間了，“更好的大腦”的出現(xiàn)也不會(huì)對(duì)它造成什么實(shí)質(zhì)性影響，不會(huì)比任何以往的智力增強(qiáng)技術(shù)影響更多。人類的大腦從來都不是人工智能設(shè)計(jì)過程中的重大瓶頸。
說到這里你可能會(huì)問，人類文明本身難道就不是一個(gè)可能失控的、能自我增強(qiáng)的大腦嗎？我們的文明所代表的智力會(huì)爆炸嗎？不是，也不會(huì)。這里的關(guān)鍵是，人類文明這個(gè)級(jí)別上的智力增強(qiáng)循環(huán)，只為人類帶來了隨著時(shí)間線性增加的問題解決能力。這樣是沒辦法爆炸的。可是為什么呢？從數(shù)學(xué)上迭代增加X不就會(huì)帶來X的指數(shù)性增大嗎？不是的。簡(jiǎn)單來說，沒有哪個(gè)現(xiàn)實(shí)世界中的復(fù)雜系統(tǒng)可以被 “X(t + 1) = X(t) * a, a > 1”這樣的模型描述。這樣的系統(tǒng)在真空中不存在，尤其也不會(huì)在智力和人類文明中存在。
當(dāng)一個(gè)智能系統(tǒng)開始優(yōu)化自己的智力的時(shí)候，我們其實(shí)都不需要猜測(cè)會(huì)不會(huì)出現(xiàn)智力的“爆炸”。即便在這之前，多數(shù)的系統(tǒng)就都是能自我迭代增強(qiáng)的。我們的生活里充滿了這樣的系統(tǒng)，所以我們很清楚這樣的系統(tǒng)在各種不同的環(huán)境下、各種不同的時(shí)間尺度下都有哪些行為特點(diǎn)。你自己，就是一個(gè)迭代自我增強(qiáng)的系統(tǒng)：通過學(xué)習(xí)讓自己更聰明，反過來又能讓自己更高效地學(xué)習(xí)。類似地，人類文明也是自我迭代增強(qiáng)的，只不過是在長得多的時(shí)間尺度上。機(jī)電一體化也是一個(gè)自我迭代增強(qiáng)的過程：更好的工業(yè)機(jī)器人，就可以造出更好的工業(yè)機(jī)器人。軍事帝國也是自我迭代地?cái)U(kuò)張的：帝國越大，就有越多的軍事手段可以繼續(xù)擴(kuò)張。個(gè)人投資也是自我迭代增強(qiáng)的，有更多的錢，就能掙更多的錢。不勝枚舉。
讓我們以軟件為例考慮一下，編寫軟件的過程很明顯能幫助寫出更好的軟件：首先，我們編寫出能“自動(dòng)化編程”的編譯器，然后我們借助編譯器開發(fā)出新的程序語言，從而可以實(shí)現(xiàn)更強(qiáng)大的編程范式。借助這些語言，我們開發(fā)出了高級(jí)開發(fā)工具，debugger、IDE、bug預(yù)測(cè)器等等。未來，軟件甚至可以自己編程自己。
那么這個(gè)自我迭代增強(qiáng)過程的終局如何呢？同樣在你的電腦上，你今年能做的事情就會(huì)比去年翻一倍嗎？下一年還能再翻兩倍嗎？理性地說，軟件的功能是以線性的速度逐漸提高的，但同時(shí)我們卻投入了指數(shù)增加的精力在軟件開發(fā)中。軟件開發(fā)者的數(shù)量在過去的幾十年里一直都在指數(shù)級(jí)增長；同樣地，根據(jù)摩爾定律，運(yùn)行軟件所用的芯片中的晶體管的數(shù)目也是指數(shù)級(jí)爆炸的。然而，我們的電腦只是小步地、小步地比2012年的、或者2002年的、或者1992年的電腦變得更有用那么一點(diǎn)。
為什么呢？主要原因是，軟件的功能根本上來講是受限于它的使用過程中處理的內(nèi)容的，就像智力，一面可以被它用于表達(dá)自己的內(nèi)容所定義，另一面也被用于表達(dá)自己的內(nèi)容所限制。軟件也只不過是人類經(jīng)濟(jì)、人類生活這樣的巨大過程中的一個(gè)螺絲釘而已，就像我們的大腦也只不過是人類文化這個(gè)巨大的過程中的一個(gè)螺絲釘。這些內(nèi)容給軟件作用的最大潛能設(shè)置了上限，就像我們生存的環(huán)境給單個(gè)人的智力水平設(shè)置了上限一樣，即便這個(gè)人有天賜的超級(jí)大腦也沒用。
除了來自內(nèi)容的硬性限制之外，即便系統(tǒng)的某一個(gè)部分有迭代自我增強(qiáng)的能力，系統(tǒng)里其它不能迭代自我增強(qiáng)的部分也不可避免地會(huì)成為整個(gè)系統(tǒng)表現(xiàn)的瓶頸。作為對(duì)迭代增強(qiáng)的反應(yīng)，反向?qū)沟倪^程就會(huì)這樣出現(xiàn)，阻撓增強(qiáng)過程的繼續(xù)；以軟件的例子來說，功能的增強(qiáng)可能會(huì)帶來資源的消耗、特性更新緩慢、用戶體驗(yàn)方面的問題等等。對(duì)于個(gè)人投資來說，你自己花錢的速度就是一個(gè)類似的對(duì)抗過程：你手里的錢越多，你花出去的錢也就越多。對(duì)于智力來說，系統(tǒng)之間的溝通就是對(duì)任何內(nèi)部功能改進(jìn)的阻礙。大腦如果遇到了更聰明的肢體，協(xié)調(diào)它們的時(shí)候就會(huì)遇到更多的問題；一個(gè)社會(huì)中的個(gè)體如果更聰明了，這個(gè)社會(huì)也就需要投入更多的資源在網(wǎng)絡(luò)和溝通上，等等。IQ非常高的人有更高的可能性患上某些精神疾病，這可能并不是什么巧合，歷史上的軍事帝國在超過了一定規(guī)模以后都會(huì)走向崩塌可能也并不是隨機(jī)事件。指數(shù)增長的過程，遇到了同樣指數(shù)增長的阻力。
有一個(gè)值得具體說說的例子是科學(xué)技術(shù)的發(fā)展，因?yàn)樗鼜母拍钌虾芙咏橇Ρ旧恚嚎茖W(xué)技術(shù)，作為一個(gè)問題解決系統(tǒng)，距離一個(gè)可能失控的超級(jí)AI并沒有多遠(yuǎn)?？茖W(xué)技術(shù)當(dāng)然是一個(gè)自我迭代增強(qiáng)的系統(tǒng)，因?yàn)榭茖W(xué)技術(shù)進(jìn)步帶來的結(jié)果就是我們能制造出新的工具，給科學(xué)技術(shù)帶來更強(qiáng)的力量，不論是實(shí)驗(yàn)設(shè)備（比如量子物理引出了激光的發(fā)現(xiàn)，而后讓許多新的量子物理的實(shí)驗(yàn)得以進(jìn)行）、思想工具（比如新的定理、新的理論）、認(rèn)知工具（比如數(shù)學(xué)符號(hào)）、軟件工具、讓科學(xué)家們更好地合作的溝通流程（比如網(wǎng)絡(luò)），等等。
然而，現(xiàn)代科學(xué)技術(shù)的發(fā)展仍然是可見地線性發(fā)展的。2012年的時(shí)候我就寫過一篇關(guān)于這種現(xiàn)象的文章，標(biāo)題是“奇點(diǎn)是不會(huì)來到的”。在1950到2000年之間，我們?cè)谖锢矸矫孀龀龅闹卮筮M(jìn)步并不比1900到1950年之間的更多，那時(shí)候的科學(xué)家們做的就很棒了。如今數(shù)學(xué)的發(fā)展也并沒有比1920年的時(shí)候快到哪里去。幾十年來，醫(yī)學(xué)的發(fā)展從各個(gè)指標(biāo)來看也只不過是線性的發(fā)展。而這還是我們?cè)诳茖W(xué)技術(shù)方面的投入以指數(shù)級(jí)別增加之后的結(jié)果，研究人員的數(shù)目大概每隔15到20年就會(huì)翻一番，同時(shí)這些研究員們也用著計(jì)算能力以指數(shù)級(jí)別增加的電腦來提高他們自己的產(chǎn)出能力。
原因是什么？減慢了科學(xué)技術(shù)自我迭代發(fā)展的重大瓶頸和對(duì)抗性的反作用力都是什么呢？因素太多了，根本數(shù)不過來。下面簡(jiǎn)單列幾個(gè)吧。重要的是，以下的每一條都同樣適用于自我迭代增強(qiáng)的AI系統(tǒng)。
在某個(gè)領(lǐng)域做科學(xué)研究的難度會(huì)隨著時(shí)間指數(shù)增加。領(lǐng)域的創(chuàng)始人基本上摘走了所有伸手就能夠到的果實(shí)，之后的研究者想要達(dá)成可以相提并論的成就，就需要付出指數(shù)增加的精力。甚至在信息論領(lǐng)域中，沒有任何研究者做出的成果是可以和香農(nóng)在1948年的論文中的成果相提并論的。
隨著一個(gè)領(lǐng)域變得越來越大，研究人員之間的信息共享與合作也變得指數(shù)級(jí)地困難。想要跟上最新的學(xué)術(shù)文章也變得越來越難。別忘了，一個(gè)有N個(gè)節(jié)點(diǎn)的網(wǎng)絡(luò)，節(jié)點(diǎn)間連線的數(shù)目是 N*(N-1)/2；連線增加得要比節(jié)點(diǎn)增加得快多了。
隨著科學(xué)技術(shù)知識(shí)越來越多，人們需要在教育和技術(shù)訓(xùn)練中投入的時(shí)間精力越來越多，每個(gè)研究者自己所能探究的方向也越來越狹窄。
根據(jù)實(shí)際情況來說，系統(tǒng)的瓶頸、逐漸減少的回報(bào)和對(duì)抗性的反作用力，會(huì)讓我們身邊所有本來可以自我迭代增強(qiáng)的過程最終停滯。自我增強(qiáng)的確可以帶來提高，但是這種提高往往是線性的，甚至最高的情況也只是sigmoid函數(shù)那樣。你的第一個(gè)“種子美元”投資不見得就會(huì)帶來“財(cái)富爆發(fā)”；相反地，投資收益和逐漸增長的支出之間會(huì)達(dá)到平衡，你的財(cái)富往往只會(huì)是大概線性增長的而已。而這還只是在一個(gè)比自我增強(qiáng)的大腦簡(jiǎn)單好幾個(gè)數(shù)量級(jí)的系統(tǒng)里的情況而已。
類似地，第一個(gè)超級(jí)AI的出現(xiàn)也只不過是可見的線性增長過程中的一步而已，而這個(gè)過程我們已經(jīng)走了十分久了。
智力的拓展只能來自大腦（生物大腦或者數(shù)字大腦）、運(yùn)動(dòng)感知、環(huán)境和文化的共同進(jìn)化，而不是單獨(dú)拿出來、僅靠調(diào)整缸中之腦的某些組成就能達(dá)到更高的智力。這樣的共同進(jìn)化已經(jīng)持續(xù)發(fā)生了不知道多久，而且會(huì)隨著智力的基礎(chǔ)逐漸轉(zhuǎn)為數(shù)字化的過程不斷地繼續(xù)進(jìn)行下去。不會(huì)出現(xiàn)什么“智力大爆炸”，這個(gè)過程只能大致按照線性速度發(fā)展。
智力是取決于場(chǎng)景的，根本沒有“通用智能”這么一回事。我們的大腦是包括了我們的身體、環(huán)境、別的人類以及總體文化在內(nèi)的一個(gè)更大的系統(tǒng)中的一部分而已。
沒有系統(tǒng)可以自己在真空中存在；每個(gè)單獨(dú)的智力存在都會(huì)同時(shí)被它存在的內(nèi)容和環(huán)境所定義以及限制。目前來講，我們的所處的環(huán)境是我們智力發(fā)展的瓶頸，而不是我們的大腦。
人類智力在很大程度上是外部化的，它存在于人類文明中，而不是在人類自己的大腦里。我們就是被我們使用的工具定義的，我們的大腦就是一個(gè)遠(yuǎn)遠(yuǎn)大于我們自己的認(rèn)知系統(tǒng)中的幾個(gè)模塊。這個(gè)大的認(rèn)知系統(tǒng)就是能自我增強(qiáng)的，而且已經(jīng)自我增強(qiáng)了很久了。
自我迭代增強(qiáng)的系統(tǒng)，在現(xiàn)實(shí)中由于各種瓶頸、逐漸減少的回報(bào)和來自它們存在的大環(huán)境的反作用因素，并不能真的達(dá)到指數(shù)級(jí)別的提升。根據(jù)以往經(jīng)驗(yàn)來講，它們往往只能展現(xiàn)出線性或者sigmoid的提升而已。尤其，科學(xué)研究的進(jìn)展就是這樣的，而科學(xué)研究基本就是我們可觀察的系統(tǒng)里最接近自我迭代增強(qiáng)的AI的一個(gè)了。
迭代的智力增加一直都在進(jìn)行著，跟著人類文明的發(fā)展一起。在AI時(shí)代它也會(huì)繼續(xù)進(jìn)行下去，而它的發(fā)展也大概就是線性增加的。
（完）
via Medium.com/@francois.chollet，雷鋒網(wǎng) AI 科技評(píng)論編譯
相關(guān)文章：
你以為人工智能很遙遠(yuǎn)，但 Google 卻打算讓每個(gè)人都用上 AI
IEEE發(fā)布三項(xiàng)人工智能新標(biāo)準(zhǔn)，涉及高層次倫理問題
四大趨勢(shì)，九大方向：14位UC Berkeley人工智能專家眼中的未來人工智能系統(tǒng)
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
