0
| 本文作者： 劉潔 | 2024-08-20 10:56 |
DeepMind的創(chuàng)始人Demis Hassabis加入AI行業(yè)大辯論來(lái)分享新觀點(diǎn)了。
隨著AI技術(shù)的突飛猛進(jìn)，行內(nèi)人對(duì)AI的看法也越來(lái)越多樣復(fù)雜。前有馬斯克四處宣揚(yáng)“AI可能使人類滅亡”，后有Andrew Ng嗤之以鼻“擔(dān)心超級(jí)智能AI的人就像是在擔(dān)心火星人口太多”，還有奧特曼堅(jiān)持“加速AI研發(fā)才能解決全球挑戰(zhàn)”，李飛飛反復(fù)強(qiáng)調(diào)“必須確保AI為人服務(wù)”。
各種論點(diǎn)爭(zhēng)得熱火朝天，Demis Hassabis也閃亮登場(chǎng)，發(fā)表了自己的觀點(diǎn)。
Hassabis冷靜地指出，現(xiàn)在有些初創(chuàng)公司和投資者已經(jīng)被 AI 的短期潛力沖昏了頭腦。雖然AI 未來(lái)的發(fā)展?jié)摿o(wú)限，但目前那些聽起來(lái)像科幻電影的目標(biāo)，其實(shí)大多只是噱頭，技術(shù)遠(yuǎn)未成熟。要識(shí)別這些 AI 公司宣傳是真是假，Hassabis 的秘訣是：了解他們的技術(shù)背景和趨勢(shì)，盡量遠(yuǎn)離那些盲目跟風(fēng)的公司。
面對(duì)當(dāng)前的 AI 熱潮，Hassabis心情復(fù)雜。一方面，他懷念A(yù)I尚未受到太多關(guān)注時(shí)的寧?kù)o，沒有那么多喧囂和干擾；另一方面，他也認(rèn)可如今的關(guān)注推動(dòng)了 AI 在現(xiàn)實(shí)世界中的積極應(yīng)用。
雖然Hassabis支持 AI 開源，但也清醒地意識(shí)到這背后的巨大風(fēng)險(xiǎn)，特別是 AI 被用作不良目的的潛在威脅。他提出了一個(gè)折中方案：延遲發(fā)布開源模型，讓它們落后于前沿技術(shù)一兩年，以減少安全隱患。
Hassabis特別強(qiáng)調(diào)了對(duì)AGI和AI管控的擔(dān)憂。他認(rèn)為開源模型一旦發(fā)布便無(wú)法收回，需更嚴(yán)格的安全措施和測(cè)試環(huán)境。他提議開發(fā) AI 助手以監(jiān)控和測(cè)試下一代 AI 系統(tǒng)，同時(shí)建議在發(fā)布 AI 系統(tǒng)時(shí)附帶使用說(shuō)明，幫助用戶理解其功能和風(fēng)險(xiǎn)。
雖然也有擔(dān)憂，但Hassabis對(duì)實(shí)現(xiàn)AGI的未來(lái)抱有極其樂觀的態(tài)度。他相信，AGI將幫助人類解決重大科學(xué)難題，通過(guò)幫助人類治療疾病、開發(fā)清潔能源等方式提升人類社會(huì)生活質(zhì)量。Hassabis描繪了一個(gè)夢(mèng)幻的未來(lái)場(chǎng)景，“未來(lái)的AI將讓我們徹底告別工作，盡情享樂，專注于探索生活的意義?！?/p>
以下是 Demis Hassabis 的播客內(nèi)容，AI 科技評(píng)論作了不改原意的整理：
Hannah Fry：我想知道，現(xiàn)在公眾對(duì)AI的興趣激增，你的工作是更容易還是更困難？
Demis Hassabis：我認(rèn)為這是一把雙刃劍。我認(rèn)為這更難，因?yàn)檎麄€(gè)領(lǐng)域都有太多的審查、關(guān)注，而且還有很多噪音。其實(shí)，我更喜歡之前關(guān)注的人更少的時(shí)候，也許會(huì)更專注于科學(xué)。
但這也是好事，因?yàn)樗砻髟摷夹g(shù)已經(jīng)準(zhǔn)備好以許多不同的方式影響現(xiàn)實(shí)世界，并以積極的方式影響人們的日常生活。所以我認(rèn)為這也很令人興奮。
Hannah Fry：您對(duì)這件事如此迅速地引起公眾的想象力感到驚訝嗎？我的意思是，我猜您預(yù)料到了人們最終會(huì)加入到AI行業(yè)。
Demis Hassabis：是的，完全正確，尤其是像我們這些一樣致力于這個(gè)工作許多年，甚至幾十年的人。所以我想在某個(gè)時(shí)候，公眾會(huì)意識(shí)到這個(gè)事實(shí)。事實(shí)上，每個(gè)人都開始意識(shí)到AI有多重要。
但看到它真正實(shí)現(xiàn)并發(fā)生仍然是相當(dāng)超現(xiàn)實(shí)的。我想這是因?yàn)榱奶鞕C(jī)器人和語(yǔ)言模型的出現(xiàn)。每個(gè)人都在使用語(yǔ)言，都能理解語(yǔ)言。因此，對(duì)于公眾來(lái)說(shuō)，這是一種簡(jiǎn)單的辦法來(lái)理解并衡量人工智能的發(fā)展方向。
Hannah Fry：我想問(wèn)你一些關(guān)于炒作的問(wèn)題。你認(rèn)為我們現(xiàn)在所處的位置，目前（AI）的情況是被夸大了還是低估了？或者它只是大肆宣傳，也許方向上發(fā)生了錯(cuò)誤。
Demis Hassabis：是的，我認(rèn)為更多的是后者。所以我認(rèn)為在短期內(nèi)，這是過(guò)度炒作。人們聲稱可以做各種不能做的事情。有各種各樣的初創(chuàng)公司和風(fēng)險(xiǎn)投資公司在追逐尚未準(zhǔn)備好的瘋狂的想法。
另一方面，我認(rèn)為它仍然被低估了。我認(rèn)為即使是現(xiàn)在認(rèn)為它仍然被低估了，或者說(shuō)甚至現(xiàn)在都還沒有得到足夠的重視。當(dāng)我們進(jìn)入AGI時(shí)代和后AGI時(shí)代會(huì)發(fā)生什么？我仍然覺得人們還不太了解這將會(huì)是多么的巨大（的一件事）。因此也沒有理解其責(zé)任。
所以兩者都有，真的。目前短期內(nèi)它有點(diǎn)被夸大了，我們正在經(jīng)歷這個(gè)循環(huán)。
Hannah Fry：不過(guò)我想就所有這些潛在的初創(chuàng)公司和風(fēng)險(xiǎn)投資公司等而言，正如你所說(shuō)，你在這些領(lǐng)域已經(jīng)工作和生活了幾十年，有足夠的能力去辨別哪些初創(chuàng)公司有現(xiàn)實(shí)的目標(biāo)，哪些不是。但是對(duì)其他人來(lái)說(shuō)，他們要如何區(qū)分什么是真實(shí)的，什么是虛假的？
Demis Hassabis：我認(rèn)為顯然你必須進(jìn)行完全的技術(shù)調(diào)查，對(duì)技術(shù)和最新趨勢(shì)有一定的了解。
我認(rèn)為也可以看看說(shuō)這些話的人的背景，他們的技術(shù)背景如何，他們是從去年才加入AI領(lǐng)域的嗎？可能他們?nèi)ツ暝谧黾用茇泿?。這些可能是他們?cè)诟L(fēng)追隨潮流的一些線索。當(dāng)然，這并不意味著他們不會(huì)有一些好的想法。
很多人都會(huì)這樣做，但我們應(yīng)該說(shuō)，這更像是彩票。
我認(rèn)為當(dāng)一個(gè)地方突然受到大量關(guān)注時(shí)，這種情況總是會(huì)發(fā)生的，金錢也會(huì)隨之而來(lái)。每個(gè)人都感覺自己錯(cuò)過(guò)了什么。這創(chuàng)造了一種機(jī)會(huì)主義的環(huán)境，這與我們這些幾十年來(lái)一直專注于深度技術(shù)、深度科學(xué)的人相反。我認(rèn)為這正是我們需要的理想方式，尤其是當(dāng)我們?cè)絹?lái)越接近AGI時(shí)。
Hannah Fry：我想到的下一個(gè)問(wèn)題是關(guān)于開源的。因?yàn)楫?dāng)事情掌握在人們手中時(shí)，正如你所提到的，真正非凡的事情可能會(huì)發(fā)生。我知道Deep Mind過(guò)去有很多開源項(xiàng)目，但現(xiàn)在隨著我們的前進(jìn)，這種情況似乎略有改變。所以請(qǐng)告訴我您對(duì)開源的立場(chǎng)。
Demis Hassabis：正如你所知，我是開源和開放科學(xué)的大力支持者。
我們已經(jīng)放棄并發(fā)布了我們幾乎所做的所有事情，包括transformers和AlphaGo之類的東西。我們?cè)贜ature和Science上發(fā)表了所有的東西。正如我們上次介紹的那樣，AlphaGo是開源的。這是不錯(cuò)的選擇，你會(huì)覺得它是絕對(duì)正確的。
這也是所有工作都能順利進(jìn)行的原因，因?yàn)橥ㄟ^(guò)共享信息，技術(shù)和科學(xué)才能盡快進(jìn)步。所以，我們幾乎總是這樣做，這是一個(gè)普遍的好處。
科學(xué)就是這樣運(yùn)作的。例外的情況是，當(dāng)你在面對(duì)AGI和強(qiáng)大的AI時(shí)（確實(shí)會(huì)陷入這種情況），就是當(dāng)你擁有雙重用途的技術(shù)時(shí)。你想要讓所有的使用案例都從好的方向出發(fā)，所有真正的科學(xué)家都能善意地采取行動(dòng)，讓技術(shù)建立在想法之上，對(duì)想法進(jìn)行批判等等。這樣，這才是社會(huì)進(jìn)步最快的方式。
但問(wèn)題是，如何同時(shí)限制不良分子的訪問(wèn)權(quán)限，他們會(huì)拿走相同的系統(tǒng)，將它們重新用于不良目的，把它們?yōu)E用在武器系統(tǒng)等地方。這些通用系統(tǒng)可以像這樣被重新調(diào)整用途。
現(xiàn)在還好，因?yàn)槲艺J(rèn)為現(xiàn)在的系統(tǒng)沒有那么強(qiáng)大。但是在兩到四年的時(shí)間里，特別是當(dāng)你開始使用智能體系統(tǒng)或者用AI做一些行為時(shí)，那么我認(rèn)為，如果它被某人或甚至是流氓國(guó)家濫用，可能會(huì)造成嚴(yán)重的傷害。而且我沒有辦法解決這個(gè)問(wèn)題。
但作為一個(gè)社群，我們需要思考這對(duì)開源意味著什么？或許我們需要對(duì)前沿模型進(jìn)行更多的檢查，然后只有在它們發(fā)布一兩年后，才能開源。
這就是我們正在遵循的模式，因?yàn)槲覀冇凶约旱腉emini開放模型，名為Gemma。因?yàn)樗鼈兏?，所以它們不是前沿模型。它們的功能?duì)開發(fā)人員仍然非常有用。因?yàn)樗鼈冇懈俚膮?shù)數(shù)量，很容易在筆記本電腦上運(yùn)行。雖然它們不是前沿模型，但它們只是不如最新的，Gemini 1.5那么強(qiáng)大。
所以我認(rèn)為這可能是我們最終會(huì)采取的方法，我們將擁有開源模型，但它們會(huì)落后于最先進(jìn)的模型，也許落后一年，這樣我們就可以真正評(píng)估通過(guò)以下方式進(jìn)行公開評(píng)估：用戶了解這些模型可以做什么，前沿模型可以做什么。
Hannah Fry：我想你真的可以測(cè)試出隨機(jī)的邊界在哪里。
Demis Hassabis：是的，我們會(huì)看到邊界在哪里。開源的問(wèn)題是，如果出了問(wèn)題，你就想不起來(lái)了。
而在閉源模型方面，如果你的操作者開始以不良方式用它，你只需要像關(guān)閉水龍頭一樣關(guān)閉它即可。在特殊情況下，你可以把它關(guān)閉。
但你一旦開源了某些東西，你就無(wú)法收回了。所以這是一個(gè)單向門。所以當(dāng)你這樣做時(shí)，你應(yīng)該非常確定。
Hannah Fry：但是在一個(gè)模型中有包含AGI的可能性嗎？
Demis Hassabis：這是一個(gè)完全獨(dú)立的問(wèn)題。我認(rèn)為當(dāng)你開始談?wù)搹?qiáng)大的AGI級(jí)別的時(shí)候，我們現(xiàn)在不知道該怎么做。
Hannah Fry：那關(guān)于中間的過(guò)渡呢？
Demis Hassabis：關(guān)于這一點(diǎn)，我認(rèn)為我們對(duì)于如何做到這一點(diǎn)有很好的想法。其中之一就是一個(gè)類似安全沙盒的東西。我想在游戲環(huán)境或尚未完全聯(lián)網(wǎng)的互聯(lián)網(wǎng)版本中測(cè)試智能體行為。在這個(gè)領(lǐng)域，我們可能會(huì)借鑒金融科技領(lǐng)域的理念，構(gòu)建這類系統(tǒng)。
但是，我們也知道，這并不足以容納 AGI（一種可能比我們更聰明的東西）。所以我認(rèn)為我們必須更好地理解這些系統(tǒng)，這樣才能為人工智能設(shè)計(jì)協(xié)議。到那時(shí)候，我們就會(huì)有更好的辦法來(lái)控制它，也有可能使用AI和工具來(lái)監(jiān)控下一版本的AI。
Hannah Fry：關(guān)于安全問(wèn)題，我知道您是2023年由英國(guó)政府在布萊切利公園舉行的AI安全峰會(huì)的重要參與者。從外界來(lái)看，我認(rèn)為很多人只是在說(shuō)監(jiān)管這個(gè)詞，就好像它會(huì)自己進(jìn)來(lái)解決一切問(wèn)題一樣。但是你對(duì)于如何構(gòu)建監(jiān)管體系有什么看法？
Demis Hassabis：我認(rèn)為各國(guó)政府加快參與其中的速度是件好事。
最近公眾對(duì)AI的興趣爆發(fā)的一個(gè)好處就是，政府正在關(guān)注這個(gè)話題，尤其是英國(guó)政府。我認(rèn)為這很棒，我和他們談過(guò)很多次，還有美國(guó)政府。他們的政府工作人員中有很多非常聰明的人，他們現(xiàn)在已經(jīng)對(duì)這項(xiàng)技術(shù)了解得很清楚了。
我也很高興看到英國(guó)和美國(guó)成立了人工智能安全機(jī)構(gòu)，我認(rèn)為許多其他國(guó)家也會(huì)效仿。我認(rèn)為在AI風(fēng)險(xiǎn)變得非常高之前，這些都是我們需要遵守的很不錯(cuò)的先例和協(xié)議。
這也是一個(gè)證明的階段。我認(rèn)為國(guó)際合作確實(shí)是必要的，最好是圍繞監(jiān)管、安全護(hù)欄和部署規(guī)范等方面進(jìn)行合作。
因?yàn)锳I是一種數(shù)字技術(shù)，所以很難將它控制在國(guó)界內(nèi)。當(dāng)我們開始接近AGI時(shí)，我的觀點(diǎn)是你必須這樣做。因?yàn)榧夹g(shù)變化如此之快，我們必須非常靈活和輕松地進(jìn)行監(jiān)管，以便適應(yīng)最新技術(shù)的發(fā)展方向。
如果你在五年前對(duì)AI進(jìn)行監(jiān)管，你監(jiān)管的東西與我們今天看到的完全不同。而且五年后可能會(huì)再次不同，這些基于智能體的系統(tǒng)可能是風(fēng)險(xiǎn)最高的系統(tǒng)。所以現(xiàn)在我建議加強(qiáng)已經(jīng)存在的領(lǐng)域的現(xiàn)有法規(guī)，比如健康、交通等。
我認(rèn)為可以像之前為互聯(lián)網(wǎng)更新一樣進(jìn)行實(shí)時(shí)更新。同時(shí)，做一個(gè)像簡(jiǎn)報(bào)一樣的東西，這也可能是我要做的第一件事情。簡(jiǎn)報(bào)用于確保人們能理解并測(cè)試前沿系統(tǒng)。
當(dāng)人們對(duì)AI系統(tǒng)的使用變得更加清晰和明確時(shí)，就能更好地圍繞這些行為對(duì)AI系統(tǒng)進(jìn)行監(jiān)管。
Hannah Fry：你可以給我們概述一下什么是Grounding嗎？
Demis Hassabis：Grounding是80年代和90年代在特斯拉和麻省理工學(xué)院建立經(jīng)典的AI系統(tǒng)，一些大型邏輯系統(tǒng)，的原因之一。你可以把它想象成一個(gè)單詞與其他單詞關(guān)聯(lián)的巨大語(yǔ)言庫(kù)。
比如說(shuō)，“狗有腿”就在這個(gè)庫(kù)里面。但問(wèn)題是，如果你給它展示了一張狗的圖片，它根本不知道這些像素的集合指的是那個(gè)符號(hào)。這就是Grounding問(wèn)題。
在語(yǔ)言庫(kù)里面有一個(gè)象征的抽象表達(dá)，但是無(wú)法確定這個(gè)抽象的東西在現(xiàn)實(shí)世界真正意味著什么。人們嘗試解決這個(gè)問(wèn)題，但永遠(yuǎn)也無(wú)法做到完全正確的對(duì)應(yīng)。
當(dāng)然，現(xiàn)在的系統(tǒng)不是這樣的，它直接從數(shù)據(jù)中學(xué)習(xí)，所以從某種程度上來(lái)說(shuō)，現(xiàn)在的系統(tǒng)從一開始就建立了這種聯(lián)系。
Hannah Fry：Astra計(jì)劃，Google新的通用AI助手項(xiàng)目，可以接收視頻和音頻數(shù)據(jù)。之前你舉了Astra幫你記住眼睛放在哪里的例子，所以我想知道這個(gè)產(chǎn)品的定位，是之前的Google眼鏡的一個(gè)全新版本嗎？
Demis Hassabis：當(dāng)然，Google在開發(fā)眼鏡型設(shè)備上有著悠久的歷史，可以追溯到2012年，在這方面可以說(shuō)是遙遙領(lǐng)先的，但他們只是缺少這樣一種技術(shù)。
通過(guò)Astra，你能真正理解，一個(gè)AI智能體或者說(shuō)AI助手所看到的一切。所以我們對(duì)數(shù)字助理能夠陪伴您并了解您周圍的世界感到非常興奮。當(dāng)你使用它時(shí)，它真的能給你提供非常自然的體驗(yàn)。
Hannah Fry：大語(yǔ)言模型還有一段路要走，這些模型還不太擅長(zhǎng)一些事情。
Demis Hassabis：是的。實(shí)際上這就是現(xiàn)在主要的爭(zhēng)論。最新的這些模型其實(shí)是從五六年前發(fā)明的技術(shù)中誕生的。問(wèn)題是，它們?nèi)匀挥泻芏鄦?wèn)題需要改進(jìn)。我們都知道，大語(yǔ)言模型會(huì)產(chǎn)生幻覺，還不擅長(zhǎng)做規(guī)劃。
Hannah Fry：什么意義上的規(guī)劃？
Demis Hassabis：長(zhǎng)期規(guī)劃。他們無(wú)法解決問(wèn)題，尤其是一些長(zhǎng)期的事情。如果你給它一個(gè)目標(biāo)，它們其實(shí)無(wú)法真正為你在世界上采取行動(dòng)。它們很像被動(dòng)的問(wèn)答系統(tǒng)。你向它提出問(wèn)題，然后它會(huì)給你某種回應(yīng)，但它們無(wú)法為你解決問(wèn)題。
你可能會(huì)想象這樣一個(gè)場(chǎng)景。你對(duì)AI助手說(shuō)給我計(jì)劃意大利的假期，預(yù)訂好所有的餐館和博物館。它知道你喜歡什么，隨后它就會(huì)幫你處理好機(jī)票等所有東西。
其實(shí)現(xiàn)在的AI智能體做不到這樣的事情。但我認(rèn)為這是在下一個(gè)時(shí)代可以實(shí)現(xiàn)的，我稱之為“基于智能體的系統(tǒng)”或“具有類似智能體行為的系統(tǒng)”。這是我們所擅長(zhǎng)的東西。
這也是我們從過(guò)去做游戲智能體AlphaGo開始就一直想要做的事情，我們正在做的很多事情都是將這些我們出名的工作成果與新的多模態(tài)模型結(jié)合起來(lái)。我認(rèn)為這將會(huì)是下一代系統(tǒng)，你可以把它看作是Alpha和Gemini的結(jié)合。
Hannah Fry：是的，我猜AlphaGo非常擅長(zhǎng)做規(guī)劃？
Demis Hassabis：沒錯(cuò)，它非常擅長(zhǎng)做規(guī)劃，當(dāng)然僅限于游戲領(lǐng)域。我們還需要把它推廣到日常工作和語(yǔ)言的一般領(lǐng)域。
Hannah Fry：在你描述的未來(lái)圖景中，如果我們到了AGI的階段，專注科學(xué)研究的機(jī)構(gòu)還存在嗎？
Demis Hassabis：我認(rèn)為是的。在AGI階段，社會(huì)、學(xué)術(shù)界、政府和工業(yè)實(shí)驗(yàn)室都會(huì)在一起合作進(jìn)行研究。我認(rèn)為這是我們到達(dá)最后階段的唯一途徑。如果是在AGI之后，我認(rèn)為我們可以用它來(lái)回答一些物理學(xué)中的原理、現(xiàn)實(shí)的本質(zhì)、意識(shí)等方面的最基本的問(wèn)題。
Hannah Fry：你認(rèn)識(shí)計(jì)算機(jī)科學(xué)家Stuart Russell嗎？他告訴我他有點(diǎn)擔(dān)心，一旦我們進(jìn)入人工智能時(shí)代，我們可能會(huì)變得像過(guò)去的皇家王子一樣，那些從來(lái)不需要登上王位或者做任何工作的人，只是過(guò)著肆無(wú)忌憚的奢華生活而沒有任何目的。
Demis Hassabis：是的，這是一個(gè)有趣的問(wèn)題。它超出了AGI的范圍，更像是人們稱之為ASI的超級(jí)AI。
那時(shí)候我們應(yīng)該擁有徹底的富足。假設(shè)我們公平公正地分配這些資源，那么我們將有更多的自由來(lái)選擇做什么。到那時(shí)候，意義將成為一個(gè)重大的哲學(xué)問(wèn)題。我們需要哲學(xué)家，甚至是神學(xué)家，去思考這個(gè)問(wèn)題。
回到我們之前說(shuō)的炒作，我認(rèn)為即使那些炒作也絕對(duì)低估了AI可能帶來(lái)的轉(zhuǎn)變。我認(rèn)為在極限范圍內(nèi)會(huì)變得特別好。我們將會(huì)治愈許多疾病或者說(shuō)所有的疾病，解決我們的能源問(wèn)題、氣候問(wèn)題。
接下來(lái)的問(wèn)題就只是，這有意義嗎？雷峰網(wǎng)雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))
各位讀者是否贊同Hassabis的觀點(diǎn)呢？歡迎在評(píng)論區(qū)分享你對(duì)未來(lái)AI的設(shè)想~
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
