圖片來自Alex Castro / The Verge

測量人工智能的「智慧」是計算機科學(xué)領(lǐng)域中最棘手但最重要的問題之一。如果你不明白你今天制造的機器是否比昨天更聰明，那你怎么知道你在進步？

乍一看，這似乎不是問題。其中一個回答是：「顯然人工智能越來越聰明」。僅從所有涌入這一領(lǐng)域的資金和人才就可以看出來。也可以回顧一下 AI 領(lǐng)域?qū)崿F(xiàn)的一系列里程碑，例如 AI 在圍棋上打敗人類，以及像圖像識別等在十年前根本不可能落地的應(yīng)用現(xiàn)在開始變得無處不在。我們怎么能說 AI 這個領(lǐng)域不是在進步？

另一個回答是，這些成就并不是衡量「智慧」的良好標準。AI在國際象棋和圍棋中擊敗人類確實令人印象深刻，但是如果在解決一般的問題時，一個正在蹣跚學(xué)步的孩子甚至一只老鼠都能讓最聰明的計算機「不知所措」，AI 又有什么用？

這是人工智能研究人員、谷歌軟件工程師、機器學(xué)習界知名人士Fran?ois Chollet 對當下的 AI 做出的評論。Chollet 是 Keras 庫的作者，而 Keras 則是一個被廣泛應(yīng)用的開發(fā)神經(jīng)網(wǎng)絡(luò)的程序，是當代人工智能的脊柱。他還編寫了大量關(guān)于機器學(xué)習的教科書，并在 Twitter 開設(shè)了專欄分享自己對于 AI 領(lǐng)域的觀點，廣受歡迎。

在最近一篇題為《測量智慧》的論文中，Chollet 還提出了一個論點，即人工智能世界需要重新定義什么是「智慧」以及什么不是「智慧」。Chollet 指出，如果研究人員想在通用人工智能方面取得進展，他們需要回顧過去流行的基準，如電子游戲和棋類游戲，并開始思考讓人類變得聰明的技能，比如我們所具有的概括和適應(yīng)的能力。

在接受 The Verge 雜志的電子郵件采訪時，Chollet 闡述了他對這個問題的看法，談到了他為什么認為人工智能目前的成就被「歪曲了」，以及我們將來如何衡量「智慧」，為什么關(guān)于超級人工智能的恐怖故事（如 Elon Musk 和其他人所說）會毫無根據(jù)地把控住公眾的想象力。

Fran?oisChollet是AI框架Keras的發(fā)明者，也是Google的軟件工程師

為了將Chollet 的觀點表述得更為清晰，本文對采訪做了一定編輯。

問：在您的論文中，您描述了塑造人工智能領(lǐng)域的兩個不同的「智慧」概念：一種「智慧」表現(xiàn)為能夠勝任廣泛的任務(wù)的能力，另一種則優(yōu)先考慮適應(yīng)能力和泛化能力，即人工智能應(yīng)對新挑戰(zhàn)的能力?，F(xiàn)在哪個框架的影響力更大，帶來了什么樣的影響？

Chollet：該領(lǐng)域發(fā)展的頭 30 年里，最有影響力的觀點是前者：「智慧」是一套靜態(tài)的程序和顯性的知識庫。現(xiàn)在，觀點則向另一個相反的方向偏倚：AI 社區(qū)定義「智慧」的主流方法還是一張「白紙」，或者用一個更確切的比喻來說，是「新初始化的深層神經(jīng)網(wǎng)絡(luò)」。然而不幸的是，這是一個基本上沒有受過挑戰(zhàn)、甚至幾乎沒有經(jīng)過檢驗的框架。這些問題有著很長的學(xué)術(shù)歷史（確切地說是幾十年的歷史），我認為即便是現(xiàn)在，AI 領(lǐng)域?qū)Α钢腔邸挂矝]有太多認識，也許是因為現(xiàn)在在做深度學(xué)習的人，大多數(shù)都是在 2016 年之后才加入這個領(lǐng)域的。

這種知識壟斷現(xiàn)象從來都不是什么好事，尤其是在回答這些理解尚不足的科學(xué)問題時。它對于領(lǐng)域內(nèi)的研究者提出一系列的問題帶來了很大的限制，也限制了人們追求的思想空間。我認為現(xiàn)在研究者們逐漸開始意識到了這個現(xiàn)象。

問：在您的論文中，您還提出，人工智能需要更好地定義「智慧」才能進步。您提到，現(xiàn)在研究人員專注于在靜態(tài)測試（例如在電子游戲和棋類游戲中獲勝）中對性能進行基準測試。為什么您覺得這種測量「智慧」的方式是不足夠的呢？

Chollet：是這樣的，一旦你選擇了一個衡量標準，你將會為了實現(xiàn)這一標準而采取任何可以采用的捷徑。例如，如果你把下棋作為衡量「智慧」的標準（我們從 20 世紀 70 年代到 90 年代都是這么做的），你最終會得到一個下棋的系統(tǒng)，僅此而已。而根本沒有理由去思考這個系統(tǒng)到底對其他事情有什么益處。你最終讓系統(tǒng)實現(xiàn)了樹狀搜索和極小化極大算法，但這并不能教會系統(tǒng)任何關(guān)于人類智能的知識。如今，研究者們在 Dota 或 StarCraft 等電子游戲中追求高超技能，將此作為實現(xiàn)了通用「智慧」的典型代表，則陷入了完全相同的智力陷阱。

這也許并不明顯，因為在人類看來，技能和「智慧」是密切相關(guān)的。人類的大腦可以利用它的通用「智慧」來獲得完成特定任務(wù)的技能。一個真正擅長象棋的人可以被認為是相當聰明的，因為，我們隱約知道他們必須用自己的通用「智慧」來從零開始學(xué)習下棋。他們不是為下棋而生的。所以我們知道，他們可以把這種通用「智慧」指向許多其他任務(wù)上，并學(xué)會同樣很高效地完成這些任務(wù)。這就是所謂的「通用性」。

但是機器沒有這樣的限制，機器完全可以為下棋而設(shè)計。因此，我們對人類所做的推論——「會下棋，因此一定很聰明」，就失效了，我們的擬人假設(shè)不再適用。通用「智慧」可以產(chǎn)生完成特定任務(wù)的技能，但絕對不能反過來說，完成特定任務(wù)的技能可以產(chǎn)生通用「智慧」。所以對于機器而言，技能和智慧是完全正交的。你可以獲得針對任何特定任務(wù)的特定技能，只要你可以用無限數(shù)據(jù)作為這種任務(wù)的樣例（或者花費無限的工程資源），但這仍然不能讓機器更接近通用「智慧」。

我最主要的觀點是，在任何一項任務(wù)中獲得超高技能，都不能作為「智慧」的標志。除非這項任務(wù)實際上是一項元任務(wù)，它涉及讓機器在一系列以前未知的問題上獲得新技能。這正是我所提倡的「智慧」的基準。

人工智能實驗室的研究人員在《星際爭霸2》中觀察他們的人工智能AlphaStar如何對付人類玩家。圖片來自DeepMind

問：如果當前的這些基準無法幫助我們發(fā)展擁有更通用、更靈活的「智慧」的人工智能，那么為什么它們?nèi)绱耸軞g迎？

Chollet：毫無疑問，AI在特定的知名電子游戲中擊敗人類冠軍的成就很大程度上是由報道這些項目的媒體所推動的。如果公眾對這些浮躁的，而且很容易被誤解為通往超人類通用人工智能的重要進步的「里程碑」不感興趣，那么研究人員將做些別的事情。

我覺得這有點可悲，因為研究應(yīng)該回答開放的科學(xué)問題，而不是產(chǎn)生公關(guān)效應(yīng)。如果我開始用深度學(xué)習以超人類的水平「解決」《魔獸爭霸 3》，你可以肯定的是，只要我有足夠的工程人才和計算能力（對于這樣的任務(wù)來說，這大約需要幾千萬美元），我就一定能達到目的。然而一旦我做到了，我能學(xué)到關(guān)于「智慧」和泛化能力的什么東西嗎？坦白說，什么也學(xué)不到。充其量，我會掌握有關(guān)擴展深度學(xué)習的工程知識。所以，我并不真正將其視為科學(xué)研究，因為它沒有教給我們?nèi)魏挝覀儾恢赖臇|西，也沒有回答任何開放性的問題。如果問題是，「我們能在超人類的水平上玩 X 游戲嗎？」答案是肯定的：「可以，只要你能夠生成足夠密集的訓(xùn)練環(huán)境的樣本，并將其輸入到一個有效表達的深度學(xué)習模型中」，早在前一段時間，我們就已經(jīng)知道了這一點。（事實上，在 AIs 達到 DOTA2 和 StarCraft II 的冠軍級別之前的一段時間，我就表達過這樣的觀點。）

問：您認為這些項目的實際成果是什么？這些項目的結(jié)果在多大程度上被誤解或歪曲？

Chollet：我看到的一個明顯錯誤的陳述是，這些高技能的游戲系統(tǒng)代表著「可以處理現(xiàn)實世界的復(fù)雜性和不確定性的人工智能系統(tǒng)的真正進步」。（正如 OpenAI 在給用來玩 DOTO2 的程序 OpenAI 5 發(fā)布的新聞稿中所宣稱的那樣）。它們并不能代表人工智能的進步。如果它們真的可以，這將是一個非常有價值的研究領(lǐng)域，但事實并非如此。以 OpenAI 5 為例，它最初不能處理 Dota2 的復(fù)雜性，因為它是用 16 個字符來訓(xùn)練的，不能泛化到整個游戲中，整個游戲有超過 100 個字符。它經(jīng)過了 45,000 年的游戲訓(xùn)練，然后再一次注意到對于訓(xùn)練數(shù)據(jù)的需求如何隨著任務(wù)的復(fù)雜度增長。而即便經(jīng)過這么長時間的訓(xùn)練，得到的模型依舊被證明是非常脆弱的：在這種 AI 對外發(fā)布能供人類與之對戰(zhàn)后，即便是非冠軍的人類玩家，也能夠找到能十拿九穩(wěn)地打敗它的策略。

如果你希望有一天能夠處理現(xiàn)實世界的復(fù)雜性和不確定性，你就必須開始問一些問題，比如什么是泛化？如何衡量和最大化學(xué)習系統(tǒng)的泛化能力？這與向一個大的神經(jīng)網(wǎng)絡(luò)投入 10 倍的數(shù)據(jù)并進行計算完全是正交的，這樣它的技能就能提高一點點。

問：那么，對于這個領(lǐng)域來說，什么是更好的測量「智慧」的標準呢？

Chollet：簡而言之，我們需要停止評估針對事先已知的任務(wù)的技能（比如象棋、Dota 或 StarCraft），而是開始評估「技能獲得能力」。這是指只使用系統(tǒng)事先不知道的新任務(wù)，來測量系統(tǒng)開始執(zhí)行任務(wù)的先驗知識并測量系統(tǒng)的樣本效率（即完成任務(wù)所需的數(shù)據(jù)量）。系統(tǒng)需要的信息（先前的知識和經(jīng)驗）越少，它就越聰明，而今天的人工智能系統(tǒng)真的一點也不聰明。

此外，我認為我們對「智慧」的衡量應(yīng)該使「似人性」更加明確，因為可能存在不同類型的「智慧」，而我們實際上就是在隱含地談?wù)擃惾说摹钢腔邸梗@包括試圖理解人類與生俱來的先驗知識。人類的學(xué)習是極其高效的，他們只需要很少的經(jīng)驗就可以獲得新技能，但他們并不是從頭開始學(xué)習：除了一生積累的技能和知識外，他們還利用與生俱來的先驗知識來學(xué)習。

我最近的論文提出了一個新的基準數(shù)據(jù)集 ARC（「Abstraction and Reasoning Corpus」，意為「抽象和推理語料庫」），它看起來很像智商測試。ARC 是一組推理任務(wù)，其中每個任務(wù)都通過一小段演示（通常是三個演示）進行解釋，你應(yīng)該從這幾個演示中學(xué)習如何完成任務(wù)。ARC 采取的立場是，你的系統(tǒng)所評估的每一項任務(wù)都應(yīng)該是全新的，而且應(yīng)該只涉及符合人類先天知識的知識。例如，它不能以語言作為特征。目前，ARC 完全可以在沒有任何口頭解釋或先前訓(xùn)練的前提下由人類完成，但它完全不能被任何我們已經(jīng)嘗試過的人工智能技術(shù)所解決。這是一個巨大且明顯的信號，表明了有一些事情正在發(fā)生，也表明我們需要新的想法。

Chollet 為他的新 ARC 基準數(shù)據(jù)集提出的「智慧」測試的一個例子。圖片來自 Fran?ois Chollet

問：您認為只通過在這些問題上投入更多的計算能力，人工智能世界能夠繼續(xù)進步嗎？有人認為，從發(fā)展歷史上看，這是提高績效的最成功的方法，而其他人則認為，如果我們沿著這條路走下去，我們很快就會看到收益遞減。

Chollet：如果你在做一個特定的任務(wù)，這種觀點是絕對正確的：在垂直任務(wù)上投入更多的訓(xùn)練數(shù)據(jù)和計算能力將提高針對該任務(wù)的能力。然而在幫助你理解如何實現(xiàn)人工智能的通用性方面，它會讓你一無所獲。

如果你有一個足夠大的深度學(xué)習模型，并且針對一個特定任務(wù)在跨輸入輸出空間的密集采樣上訓(xùn)練它，那么它將學(xué)習解決這個任務(wù)，不管是什么——不論是 Dota 還是 StarCraft，凡是你能想到的。這是非常有價值的，并且在機器感知問題中有著幾乎無限的應(yīng)用。這里唯一的問題是，你需要的數(shù)據(jù)量是一個任務(wù)復(fù)雜度的組合函數(shù)，所以即使是稍微復(fù)雜的任務(wù)，計算也會變得非常昂貴。

以自動駕駛汽車為例。數(shù)以百萬計的訓(xùn)練環(huán)境也不足以讓一個端到端的深度學(xué)習模型學(xué)會安全駕駛汽車。首先，這就是L5 自動駕駛還沒有完全實現(xiàn)的原因。其次，最先進的自動駕駛系統(tǒng)主要是符號模型，它們使用深度學(xué)習將這些人工設(shè)計的模型與傳感器數(shù)據(jù)連接起來。所以如果深度學(xué)習可以泛化的話，我們在 2016 年就應(yīng)該擁有了 L5 自動駕駛，并且它采用一種大型神經(jīng)網(wǎng)絡(luò)的形式。

自動駕駛汽車的發(fā)展比許多人預(yù)測的要慢得多。圖片來自Vjeran Pavic / The Verge

問：最后，考慮到您所說的當前人工智能系統(tǒng)的限制，似乎有必要問一下對于「一個非常強大的 AI 在未來將會給人類帶來毀滅性的傷害」的「超級智能恐懼論」，您認為這種擔憂合理嗎？

Chollet：不，我認為關(guān)于超級智能的論述是沒有根據(jù)的。我們從未創(chuàng)造過一個自主的智能系統(tǒng)，也絕對沒有跡象表明我們能夠在不遠的將來創(chuàng)造一個。（這也并不是當前人工智能的發(fā)展方向。）而且如果我們真的在遙遠的未來創(chuàng)造了一個這樣的系統(tǒng)，我們也完全沒有辦法推測它會具備什么特征。用一個比喻來說，這有點像在 1600 年問：「彈道學(xué)進展很快！所以，如果我們有一門可以摧毀整個城市的大炮會怎么樣呢，我們?nèi)绾未_保它只會殺掉壞人？」這是一個相當畸形的問題，在對我們所討論的系統(tǒng)尚缺乏任何知識的情況下進行辯論，這個問題充其量只是一個哲學(xué)爭論。

這種「超級智能恐懼論」有一個很大的問題是它們掩蓋了今天人工智能有可能變得相當危險這一事實。并非AI 系統(tǒng)實現(xiàn)了超級智能才能證實 AI 應(yīng)用潛藏著危險。我此前寫過關(guān)于使用人工智能來實現(xiàn)算法宣傳系統(tǒng)的文章，也有其他人寫過算法偏見、在武器系統(tǒng)中使用人工智能，或者把人工智能當作極權(quán)主義的控制工具的文章。

有一個關(guān)于 1453 年君士坦丁堡被圍困的故事，講的是當這座城市與奧斯曼軍隊作戰(zhàn)時，它的學(xué)者和統(tǒng)治者卻在爭論天使的性別。這個故事告訴我們，我們投入越多的精力和注意力討論天使的性別，或者假設(shè)超級人工智能的價值取向時，我們處理人工智能技術(shù)當下存在的現(xiàn)實而緊迫的問題的精力和注意力就越少。現(xiàn)在，有一個出名的技術(shù)領(lǐng)導(dǎo)者喜歡把超級人工智能描繪成對人類生存的威脅。好吧，雖然這些想法能夠極大地吸引媒體的注意，但卻并沒有討論在我們的道路上那些部署不夠準確的、會導(dǎo)致交通事故和生命損失的自動駕駛系統(tǒng)所引發(fā)的道德問題。

問：如果一個人接受這些評論，即目前這些恐懼還沒有技術(shù)基礎(chǔ)作為支撐，那么您認為為什么超級智能的論述如此受歡迎呢？

Chollet：最后我只能說，這是一個好故事，而人們往往會被好故事所吸引。它與末世宗教的故事相似并不是巧合，因為宗教故事會隨著時間的推移而不斷演變并且會經(jīng)過人們一再挑選，以與人們產(chǎn)生強烈的共鳴并有效傳播。出于同樣的原因，你也可以在科幻電影和小說中找到這種論述。這種論述被用在小說里，與它跟宗教故事相似以及作為一種理解人工智能發(fā)展方向的方式而流行起來的原因都是一樣的：它是一個好故事，而人們需要故事來理解這個世界。人們對這些故事的需求，遠遠超過對理解「智慧」的本質(zhì)或理解推動技術(shù)進步的因素的需求。

via https://www.theverge.com/2019/12/19/21029605/artificial-intelligence-ai-progress-measurement-benchmarks-interview-francois-chollet-google   雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。