0
| 本文作者： 劉潔 | 2024-10-15 11:21 |
最近 Anthropic 的聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Dario Amodei 發(fā)布了一篇萬字長文，在推特上引爆了一場討論。
Dario 在這篇長文里深入剖析了人工智能的未來如何讓世界變得更美好，被不少人稱贊為“近來對人工智能發(fā)展最理性、最深刻的分析之一”。
在文章開頭，Dario Amodei 就特別說明了，雖然他一直在關(guān)注人工智能風(fēng)險，但這并不意味著他是人工智能末日論的支持者，恰恰相反，他很看好人工智能的積極潛力。
“我關(guān)注風(fēng)險的主要原因之一是，它們是我們與我所看到的基本積極的未來之間的唯一障礙。我認為大多數(shù)人都低估了人工智能的巨大優(yōu)勢，就像大多數(shù)人低估了風(fēng)險的嚴重程度一樣。”
那為什么Dario 和 Anthropic 總在談?wù)擄L(fēng)險與安全，卻很少宣傳人工智能的好處？
Dario 直言有以下四點原因：
最大化杠桿：強大的市場力量能夠保證人工智能發(fā)展帶來的益處。另一方面，風(fēng)險不是預(yù)先定好的，我們的行動可以極大地改變風(fēng)險發(fā)生的可能性。
避免讓人覺得是宣傳：很多公司大談特談人工智能的好處，很容易分散公眾注意力，讓人們忽略掉潛在的風(fēng)險。并且，“花太多時間‘高談闊論’對你的靈魂有害。”
避免浮夸：很多公眾人物和科技公司也喜歡在宣傳人工智能時夸大自己的使命，就像先知帶領(lǐng)他們的人民走向救贖一樣。這種從宗教角度看待實用技術(shù)目標是很危險的。
避免“科幻”包袱：當前一些關(guān)于人工智能未來的討論過于“科幻化”，充滿了未被闡明的技術(shù)假設(shè)和文化包袱，“讀起來就像是狹隘亞文化的幻想，同時讓大多數(shù)人感到反感?！?/p>
換言之，“上帝的歸上帝，凱撒的歸凱撒?！睂τ贏I帶來的經(jīng)濟利益的“世俗”部分，應(yīng)該交給市場來完成；而能力越大，責(zé)任也越大，作為對人工智能更了解的從業(yè)者，更應(yīng)該向公眾提示當中的風(fēng)險。
Dario 的這些想法也體現(xiàn)在了 Anthropic 對人工智能的透明度與可控性的執(zhí)著追求。
這種堅持不無緣由：畢竟 Dario 從 OpenAI 離開正是因其對 OpenAI 在商業(yè)化上加速發(fā)展的理念存疑，Dario 更強調(diào)在構(gòu)建強大的人工智能系統(tǒng)時需要更加嚴格的安全保障。
Dario 和其他幾位 OpenAI 前員工創(chuàng)業(yè)時，也將 Anthropic 定位為更注重安全的 OpenAI 替代方案，將透明和可控置于首位。
OpenAI 聯(lián)合創(chuàng)始人 John Schulman、 Durk Kingma 和前安全主管 Jan Leike 也因為認同這份理念加入了 Anthropic。
這份安全執(zhí)念背后是 Dario 對人工智能潛力的深刻信念：人工智能能夠?qū)⑷祟愇磥?50-100 年取得的進展壓縮到 5-10 年。這也被他稱為“壓縮的 21 世紀”。
Dario 把未來 5-10 年內(nèi)實現(xiàn)的人工智能定義為強大的人工智能，認為其能力將超越諾貝爾獎獲得者，能夠在多個領(lǐng)域（如數(shù)學(xué)、編程、寫作等）表現(xiàn)出色。
強大的人工智能將擁有多種人機交互接口（文本、音頻、視頻等），以較快的速度吸收信息和生成結(jié)果，自主完成復(fù)雜任務(wù)。它還可以控制物理工具和設(shè)備，甚至可以設(shè)計自己的機器人。
Dario 預(yù)測，強大的人工智能可能在 2027 年實現(xiàn)大規(guī)模應(yīng)用。
關(guān)于技術(shù)進步，部分人持有兩種極端觀點：一種認為技術(shù)會迅速引發(fā)“奇點”，立刻解決所有問題，一種認為技術(shù)進步已經(jīng)趨于飽和，而且優(yōu)于人類的智能進展有限。
因此，Dario 借用經(jīng)濟學(xué)的觀點，提出了智能的邊際效應(yīng)：當智能達到較高水平時，與智能互補的其他因素就會成為限制因素。他認為人們應(yīng)該考慮在特定情況下其他生產(chǎn)要素如何與智能互補，并且可能成為限制因素。
在這一框架下，Dario 構(gòu)想了 5-10 年內(nèi)擁有強大的人工智能的未來藍圖。
首先是生物學(xué)領(lǐng)域，許多生物學(xué)家長期以來一直對人工智能和“大數(shù)據(jù)”在生物學(xué)中的價值持懷疑態(tài)度。但 Dario 認為人工智能并不只是分析數(shù)據(jù)的工具，它能執(zhí)行、指導(dǎo)和改進生物學(xué)家所做的幾乎所有事情。
Dario 指出，生物學(xué)進步往往依賴于某個重大發(fā)現(xiàn)。如果我們能擁有更有才華更有創(chuàng)造力的研究人員，這些發(fā)現(xiàn)的出現(xiàn)頻率可以提高 10 倍或更多。
例如，人們在 80 年代就發(fā)現(xiàn)了 CRISPR 是細菌免疫系統(tǒng)中天然存在的組成部分，但花了 25 年才意識到它可以用于一般基因編輯。
而人工智能能夠把發(fā)現(xiàn)的速度提高 10 倍，但由于實驗不可能一次成功，相關(guān)的硬件設(shè)施的更新速度也有限，人工智能不可能憑空把發(fā)現(xiàn)的速度提升至 100 倍。
Dario 認為未來人工智能能夠幫助我們預(yù)防或治療大部分疾病，包括傳染病、癌癥、阿爾茨海默病等，還可能讓人們可以自由改變外貌、體重等，并極大地延長人類的壽命。
類似的加速效應(yīng)也適用于神經(jīng)科學(xué)、心理健康、經(jīng)濟等領(lǐng)域，不過 Dario 警告，人工智能不會主動促進民主和和平，而是需要我們作為個體行動者去推動這一結(jié)果。
文章的最后，Dario 談到了一個經(jīng)典的問題，“有了人工智能做一切，人類還有什么意義呢？人類將如何在經(jīng)濟上生存？”
對此，Dario 表示認為意義主要來自人際關(guān)系和聯(lián)系，而不是經(jīng)濟勞動。
短期內(nèi)，人工智能和人類之間會保持良性競爭的狀態(tài)，人工智能的優(yōu)秀工作表現(xiàn)實際上會催生一系列新的人類工作，用以補充和放大人工智能所擅長的領(lǐng)域。
長遠來看，現(xiàn)有的經(jīng)濟格局將會被顛覆，到那時人們也許不需要參與經(jīng)濟勞動就能獲得資源。
雷峰網(wǎng)(公眾號：雷峰網(wǎng))
在討論文章內(nèi)容的同時，也有很多網(wǎng)友提問 Opus 3.5 什么時候抬上來？大家等得花都謝了。
寫得很好，所以為什么Opus 3.5還不發(fā)布！
根據(jù)過往經(jīng)驗，Claude 系列的更新頻率大約為三到四個月。Claude 3 Haiku 于 3 月發(fā)布，Claude 3.5 Sonnet 則在 6 月底上線。
Dario 自己也說他的計劃是每三個月左右推進一次前沿工作。說不定月底我們就能用上最新的 Claude 3.5 Opus 了。
插播一句，Dario 認為像 AGI 這種強大的人工智能最早可能會在 2026 年實現(xiàn)。
不過，Dario 構(gòu)想的未來人工智能和 Claude 這樣的大模型只是形式上類似，可能基于不同的架構(gòu)，也可能涉及多個交互模型，還可能以不同的方式進行訓(xùn)練。
這不禁讓人猜測，Claude 3.5 Opus 有沒有可能會在多模態(tài)技術(shù)上發(fā)力，推出類似于 GPT-4 的圖像識別功能？遲遲沒有推出是不是因為有了類似 AGI 的重要改進？
生物學(xué)可能是科學(xué)進步最有可能直接、明確地改善人類生活質(zhì)量的領(lǐng)域。
上個世紀，我們成功消滅了天花等古老疾病，但仍有許多疾病等待被攻克。生物科學(xué)不僅能治愈疾病，還能延長健康壽命、增強我們對身體的掌控力，并解決一些看似無解的健康問題。
然而，人工智能在生物學(xué)中的應(yīng)用面臨數(shù)據(jù)、現(xiàn)實世界速度和內(nèi)在復(fù)雜性等挑戰(zhàn)。這些因素相互關(guān)聯(lián)，使得臨床試驗進展緩慢。
例如，細胞培養(yǎng)或化學(xué)反應(yīng)可能需要數(shù)天到數(shù)周，而動物和人體實驗則可能耗費數(shù)月或數(shù)年。此外，數(shù)據(jù)質(zhì)量常常不高，因果關(guān)系模糊，令科學(xué)家們難以理解生物現(xiàn)象。
生物過程的復(fù)雜性使得精確干預(yù)變得困難。想象一下人類新陳代謝的生物化學(xué)圖表，你就會明白這其中的挑戰(zhàn)。再加上臨床試驗中官僚和監(jiān)管的要求，進展往往受到拖延。
因此，許多生物學(xué)家對人工智能和大數(shù)據(jù)的有效性持懷疑態(tài)度。盡管過去 30 年取得了一些進展，但真正的突破卻屈指可數(shù)。
例如，CRISPR 早在 80 年代就被發(fā)現(xiàn)，但花費了 25 年才得到應(yīng)用。這表明科學(xué)界對有前景方向的支持不足。
我認為，對人工智能的悲觀看法是一種誤解。我想重申：我討論的人工智能是用于執(zhí)行、指導(dǎo)和改進生物學(xué)家?guī)缀跛泄ぷ鞯摹?/p>
生物學(xué)的進步往往源于少數(shù)重大突破，這些突破通常與新技術(shù)和測量工具相關(guān)。每年都會有約一項重大突破，這些突破推動了 50% 以上的生物學(xué)進展，使我們對生物過程的理解和控制得以提升。
我相信，強大的人工智能將大幅加速這些發(fā)現(xiàn)的速度，讓我們在 5 到 10 年內(nèi)實現(xiàn) 50 到 100 年的生物進步。雖然實驗時間和序列依賴性等因素仍然存在，但大規(guī)模的并行研究可能會推動這一進程。盡管臨床試驗面臨官僚主義，但嚴格的藥物評估也促使進展加快。例如，新冠疫苗的批準速度就遠快于傳統(tǒng)藥物。
最終，生物醫(yī)學(xué)的成功部署記錄相對較強。盡管藥物開發(fā)過程復(fù)雜，但一旦成功，它們通常會被有效利用，使生物醫(yī)學(xué)在技術(shù)領(lǐng)域具有獨特優(yōu)勢。
綜上所述，我的基本預(yù)測是，人工智能支持的生物學(xué)和醫(yī)學(xué)將使我們能夠?qū)⑷祟惿飳W(xué)家在未來 50-100 年取得的進展壓縮到 5-10 年。我將其稱為“壓縮的 21 世紀”。
雖然預(yù)測強大的人工智能能做什么有難度，但我們可以參考 20 世紀的成就，來想象未來可能的進展。
以下是我們可能期待的變化：
對抗傳染病：在壓縮的21世紀，我們有望有效預(yù)防和治療幾乎所有 17 種自然傳染病。借助 mRNA 疫苗等技術(shù)，我們可能能根除傳染病，當然，這也取決于貧困和不平等的問題。
消除癌癥：隨著癌癥死亡率每年下降 2%，我們可能在本世紀消滅大多數(shù)癌癥。人工智能將幫助我們開發(fā)個性化的治療方案，預(yù)計癌癥的發(fā)病率和死亡率能大幅降低。
預(yù)防遺傳病：通過更好的胚胎篩選和 CRISPR 技術(shù)，我們將能夠預(yù)防和治療大多數(shù)遺傳病，但對全身疾病的干預(yù)可能仍具挑戰(zhàn)。
阿爾茨海默病的突破：雖然該病因復(fù)雜，但通過人工智能，我們有望找到更好的治療方法，甚至預(yù)防這種疾病。
改善其他疾病的治療：糖尿病、心臟病等疾病的治療效果將大幅提升，許多疾病的死亡率已顯著下降。
生物自由的實現(xiàn)：個人將能更好地控制自己的生物特征，如體重和生育，這將使每個人都有機會選擇自己的生活方式。
人類壽命的延長：如果我們能找到減緩衰老的有效方法，預(yù)期壽命可能從75歲增加到150歲。這并非不可能，已有藥物能顯著延長某些動物的壽命。
如果這些預(yù)測在未來 7 到 12 年內(nèi)實現(xiàn)，世界將會大變樣。這將是人類的一次巨大勝利，消除長期以來困擾我們的疾病。未來的孩子們可能再也聽不到關(guān)于癌癥或阿爾茨海默病的故事，而是享有更高的生物自由和更長的壽命。
這些變化將對我們的社會產(chǎn)生深遠影響，特別是在社會保障和醫(yī)療保健方面。若新技術(shù)得以廣泛應(yīng)用，未來的挑戰(zhàn)可能會轉(zhuǎn)向如何確保人人能享有這些成果。雖然生物學(xué)可能是人工智能成功加速的唯一領(lǐng)域，但即使如此，世界也會因此發(fā)生翻天覆地的變化。
在前一節(jié)中，我討論了身體疾病和生物學(xué)，但沒有提到神經(jīng)科學(xué)和心理健康。
其實，神經(jīng)科學(xué)是生物學(xué)的重要部分，心理健康對我們的生活影響更直接。數(shù)億人因成癮、抑郁等心理問題生活質(zhì)量受到嚴重影響，還有數(shù)十億人在面對輕度心理挑戰(zhàn)。
改善這些問題不僅能提高健康，還能提升整體幸福感。
之前提到的生物學(xué)框架同樣適用于神經(jīng)科學(xué)。這個領(lǐng)域的進展往往依賴一些關(guān)鍵發(fā)現(xiàn)，比如光遺傳學(xué)和 CLARITY 技術(shù)。人工智能有潛力加速這些進展，因此“5-10 年實現(xiàn) 100 年進展”的觀點也適用神經(jīng)科學(xué)。20 世紀，神經(jīng)科學(xué)取得了顯著進展，例如 20 世紀 50 年代人們明白了神經(jīng)元如何放電，因此期待人工智能推動神經(jīng)科學(xué)迅速發(fā)展是合理的。
此外，人工智能的一些知識可以助力神經(jīng)科學(xué)。
可解釋性就是一個重要例子，雖然生物神經(jīng)元和人工神經(jīng)元不同，但它們在“如何協(xié)同計算”的問題上相似。這種可解釋性最近在小鼠大腦中得到了驗證。
在人工神經(jīng)網(wǎng)絡(luò)上實驗比在真實神經(jīng)網(wǎng)絡(luò)上簡單，因此可解釋性成為理解神經(jīng)科學(xué)的重要工具。強大的人工智能可能比人類更有效地開發(fā)和應(yīng)用這些工具。
同時，人工智能教給我們的訓(xùn)練方法可能會引發(fā)神經(jīng)科學(xué)的革命。許多人關(guān)注的學(xué)習(xí)問題與我認為的不一樣。簡單的目標函數(shù)和大量數(shù)據(jù)可以驅(qū)動復(fù)雜行為，使我們更關(guān)注目標，而忽視細節(jié)。盡管我沒有密切關(guān)注這一領(lǐng)域，但我覺得計算神經(jīng)科學(xué)家還沒有完全吸取這些教訓(xùn)。
我認為神經(jīng)科學(xué)家應(yīng)結(jié)合這些基本見解與人腦的獨特性，尋找神經(jīng)科學(xué)中的關(guān)鍵難題。盡管某些問題與人工智能有關(guān)，人工智能神經(jīng)科學(xué)家可能更有效地利用這一思路，加速研究進展。
我認為人工智能將通過四個主要途徑加速神經(jīng)科學(xué)的進步，從而幫助治愈精神疾病和提升功能：
傳統(tǒng)生物學(xué)：人工智能將加速藥物研發(fā)，這些藥物能調(diào)節(jié)神經(jīng)遞質(zhì)、影響情緒和認知。它還可能加快對精神疾病遺傳基礎(chǔ)的研究。
細致的神經(jīng)測量與干預(yù)：使用光遺傳學(xué)和神經(jīng)探針等技術(shù)，我們能測量和干預(yù)單個神經(jīng)元的活動，從而改善神經(jīng)科學(xué)的理解。
先進的計算神經(jīng)科學(xué)：現(xiàn)代人工智能的見解可以應(yīng)用于復(fù)雜疾病的研究，幫助揭示精神病和情緒障礙的根本原因。
行為干預(yù)：盡管我在討論中沒有深入，但精神病學(xué)和心理學(xué)已有很多行為干預(yù)方法，人工智能有潛力加速這些方法的發(fā)展，并幫助患者堅持治療。
我猜測，即使不考慮人工智能，這四個途徑的共同作用可能在未來 100 年內(nèi)治愈或預(yù)防大多數(shù)精神疾病，可能會合理地完成在人工智能加速的 5-10 年內(nèi)。具體來說，我認為：
治愈大多數(shù)精神疾病：例如，創(chuàng)傷后應(yīng)激障礙（PTSD）、抑郁癥和成癮等疾病可能通過這四個方向得到有效治療。
某些結(jié)構(gòu)性問題仍然困難：例如，精神病患者的大腦結(jié)構(gòu)差異可能使得某些條件更難治療。
有效的基因預(yù)防：精神疾病具有遺傳性，人工智能可能幫助我們通過基因篩查預(yù)防疾病，盡管這涉及復(fù)雜的倫理問題。
改善日常心理問題：我們?nèi)粘Ｃ媾R的心理問題，比如焦慮和集中注意力困難，也可能得到解決。
提升人類的體驗：許多人渴望更深的創(chuàng)造力、同情心和滿足感，人工智能有潛力改善我們的認知和情感能力。
雖然“思維上傳”的概念常常被提及，但我認為這一想法面臨巨大的技術(shù)和社會挑戰(zhàn)，短期內(nèi)難以實現(xiàn)。
總之，人工智能將極大改善精神健康，提升我們的認知和情感能力，為人類創(chuàng)造一個更加美好和人性化的未來。這不僅會影響個體，還可能改善社會中許多其他看似無關(guān)的議題。
前兩節(jié)討論了新技術(shù)在治愈疾病和提升人類生活質(zhì)量方面的潛力，但一個顯而易見的問題是：“每個人都能享受到這些技術(shù)嗎？”
開發(fā)治療疾病的方法是一個方面，但要在全球范圍內(nèi)根除這些疾病則是另一個挑戰(zhàn)。目前，許多健康干預(yù)措施尚未在全球普及，技術(shù)改進也同樣如此。
許多地區(qū)的生活水平依然貧困。例如，撒哈拉以南非洲的人均 GDP 約為 2，000 美元，而美國則達到 75，000 美元。
如果人工智能只幫助發(fā)達國家，而對發(fā)展中國家貢獻甚微，那將是一個嚴重的道德失敗。因此，理想情況下，強大的人工智能應(yīng)當幫助發(fā)展中國家追趕上發(fā)達國家的步伐。
我對人工智能能否有效解決不平等問題的信心沒有對其發(fā)明基礎(chǔ)技術(shù)的信心強。這是因為經(jīng)濟問題往往涉及許多復(fù)雜的人類因素，而技術(shù)創(chuàng)新則能更輕易地克服復(fù)雜性和數(shù)據(jù)不足的障礙。
即使在理論上，人工智能也無法解決“社會主義計算問題”，我對政府將經(jīng)濟政策托付于這樣的實體持懷疑態(tài)度。
此外，如何讓人們接受那些有效但可能令人懷疑的治療方法，也是一個問題。
在發(fā)展中國家，腐敗現(xiàn)象的普遍存在使情況更加復(fù)雜。腐敗造成惡性循環(huán)，貧困加劇腐敗，而腐敗又導(dǎo)致更多貧困。因此，人工智能驅(qū)動的經(jīng)濟發(fā)展計劃需要考慮到這些人類面臨的挑戰(zhàn)。
盡管如此，我仍然保持樂觀。歷史上已經(jīng)有國家成功根除疾病，很多地方也從貧窮走向富裕，這表明這些決策的高智力回報。人工智能或許能夠比現(xiàn)有做法更有效地解決這些問題。
針對性干預(yù)措施也許能避開人類的局限，人工智能應(yīng)當關(guān)注這些方面。
最重要的是，我們必須努力去嘗試。人工智能公司和發(fā)達國家的政策制定者需要確保發(fā)展中國家能夠參與其中，這不僅是道德責(zé)任，也是我們集體努力的目標。雖然成功沒有保證，但我們的行動可以帶來改變。
在強大的人工智能誕生后的 5 到 10 年，我對發(fā)展中國家的未來有以下一些樂觀的預(yù)測：
我認為，最有希望的領(lǐng)域是全球健康干預(yù)措施的廣泛分發(fā)。
許多疾病已經(jīng)通過集體努力得以消滅，比如天花和脊髓灰質(zhì)炎的病例已降至極低水平。人工智能可以在這一過程中發(fā)揮重要作用，它能夠更有效地進行疾病模型分析和優(yōu)化物流配送。
希望人工智能能幫助提升健康慈善機構(gòu)的效率，讓更多人受益。新型疫苗的研發(fā)，比如針對瘧疾的單針注射疫苗，正在簡化疫苗分發(fā)的復(fù)雜性。
此外，通過釋放經(jīng)過基因改造的蚊子來消滅病原體的可能性也在增加?？傮w而言，我預(yù)計未來 5 到 10 年，發(fā)展中國家的健康狀況將顯著改善，甚至有可能超過一些發(fā)達國家。
在經(jīng)濟方面，發(fā)展中國家有機會迅速追趕發(fā)達國家。
上世紀末，東亞一些國家實現(xiàn)了年均 10% 的 GDP 增長，成功彌補了與發(fā)達國家的差距。未來，人工智能或能幫助這些國家創(chuàng)造類似的經(jīng)濟奇跡。
通過實施有效的經(jīng)濟政策和發(fā)展關(guān)鍵產(chǎn)業(yè)，發(fā)展中國家的政府可以在尊重自決的前提下，吸收人工智能帶來的增長紅利。
許多健康干預(yù)措施的落實，將極大地推動生產(chǎn)力提升，進而促進經(jīng)濟增長。
此外，人工智能在非健康領(lǐng)域的應(yīng)用，比如更高效的能源和運輸技術(shù)，也將為發(fā)展中國家?guī)硇碌臋C遇。盡管面臨挑戰(zhàn)，經(jīng)濟增長率達到 20% 是一個可實現(xiàn)的目標。
在農(nóng)業(yè)領(lǐng)域，先進的作物技術(shù)，如更高效的肥料和農(nóng)藥，將幫助提高作物產(chǎn)量?；蚬こ痰膽?yīng)用可以進一步推動這一進程，為發(fā)展中國家?guī)淼诙尉G色革命，減輕饑餓問題。
發(fā)展中國家更易受到氣候變化的影響，因此，人工智能在應(yīng)對氣候變化方面的技術(shù)進步，可能會幫助這些國家找到減少碳排放的方法，比如清潔能源和實驗室培養(yǎng)的肉類。這不僅能緩解環(huán)境問題，還能助力經(jīng)濟發(fā)展。
隨著先進健康技術(shù)的出現(xiàn)，不平等現(xiàn)象可能會加劇，但我對發(fā)達國家的情況持樂觀態(tài)度。市場機制通常會降低高成本技術(shù)的門檻，加上政治機構(gòu)的響應(yīng)能力，能更好地推動技術(shù)的普及。
不過，確保技術(shù)普惠是我們共同的責(zé)任。
發(fā)達國家和發(fā)展中國家都擔心的一個問題是人們選擇退出人工智能帶來的福利，最終可能會出現(xiàn)糟糕的反饋循環(huán)。但歷史表明，盡管存在反對聲音，大多數(shù)人最終會接受有益的技術(shù)。因此，我們需要努力提高公眾的科學(xué)素養(yǎng)，讓他們理解人工智能的價值。
總的來說，我對人工智能能夠為發(fā)展中國家?guī)砩飳W(xué)進步和經(jīng)濟增長持樂觀態(tài)度。盡管面臨挑戰(zhàn)，我們?nèi)孕韫餐?，推動這一進程，以便讓每個人都能享受到技術(shù)發(fā)展的紅利。
假設(shè)一切順利：疾病、貧困和不平等顯著減少，人類生活水平大幅提升。然而，這并不意味著痛苦消失，人類仍然面臨彼此的威脅。
盡管技術(shù)和經(jīng)濟發(fā)展有助于促進民主與和平，但這種進步并不穩(wěn)固，歷史上經(jīng)常出現(xiàn)倒退。例如，20世紀初人們認為戰(zhàn)爭已成過去，隨后卻經(jīng)歷了兩次世界大戰(zhàn)。
三十年前，弗朗西斯·福山預(yù)測自由民主將最終勝利，然而這一理想并未實現(xiàn)。
二十年前，美國政策制定者認為與中國的自由貿(mào)易會推動中國自由化，但結(jié)果卻是我們面臨一個復(fù)興的獨裁集團的挑戰(zhàn)。
因此，了解人工智能如何影響和平、民主和自由顯得尤為重要。
遺憾的是，我并不相信人工智能會自然而然地促進民主和和平，盡管我認為它在健康和減貧方面有積極作用。人類沖突往往對抗性強，人工智能可能同時服務(wù)于“好人”和“壞人”。尤其是，人工智能可能增強宣傳和監(jiān)視的能力，這些都是獨裁者的工具。
因此，作為個體，我們必須努力推動人工智能朝著促進民主和人權(quán)的方向發(fā)展。這比關(guān)注國際不平等更為緊迫：自由民主的勝利并非理所當然，反而可能需要巨大的努力和犧牲。
這個問題可以分為兩個部分：國際沖突和國家內(nèi)部結(jié)構(gòu)。
在國際層面，強大的人工智能出現(xiàn)時，民主國家在全球舞臺上占據(jù)主導(dǎo)地位至關(guān)重要。
人工智能推動的威權(quán)主義令人憂慮，因此，民主國家需要制定條件，引導(dǎo)強大的人工智能進入世界，以避免被威權(quán)主義壓倒并保護人權(quán)。
實現(xiàn)這一目標的最佳方式可能是“協(xié)約戰(zhàn)略”，即民主國家聯(lián)盟通過保護供應(yīng)鏈、加快發(fā)展等手段增強實力。這種聯(lián)盟可利用人工智能獲得軍事優(yōu)勢，并將其好處分配給更多國家，以換取對其民主戰(zhàn)略的支持。目標是孤立對手，使其在談判中處于劣勢，從而放棄與民主國家的競爭。
如果能夠做到這一點，民主國家將在全球舞臺上處于領(lǐng)先地位，能夠抵御獨裁國家的破壞，并可能將人工智能的優(yōu)勢轉(zhuǎn)化為持久力量。
這可能帶來“永恒的 1991 年”，實現(xiàn)福山的夢想。但這需要私營人工智能公司與民主政府緊密合作。
即使一切順利，國家內(nèi)部的民主與專制斗爭依然存在。雖然難以預(yù)測未來，我對人工智能促進民主持樂觀態(tài)度。強大的人工智能環(huán)境下，民主政府可利用優(yōu)勢贏得信息戰(zhàn)，反制獨裁政權(quán)。通過全球信息渠道，民主國家能創(chuàng)造自由信息環(huán)境，限制獨裁政權(quán)對信息的控制。
總體而言，生活質(zhì)量的提升應(yīng)能促進民主，歷史上在某種程度上確實如此。
心理健康、福祉和教育的改善可能推動民主，因為這三者與對獨裁的支持呈負相關(guān)。滿足其他需求后，人們更希望自我表達，而民主正是自我表達的一種形式。相反，威權(quán)主義則因恐懼和仇恨而繁榮。
此外，信息流通有助于削弱獨裁統(tǒng)治。未經(jīng)審查的人工智能可能為個人提供工具，幫助推翻專制政權(quán)。專制政府往往通過剝奪人們的常識而生存，導(dǎo)致他們無法意識到真實問題。
我們還應(yīng)考慮如何利用人工智能讓民主國家更好，而不僅僅是防止獨裁。盡管法律承諾人人平等，實踐中仍存在不公。人工智能能否提高決策公正性？雖然人們擔心它加劇歧視，但也應(yīng)關(guān)注其增強民主的潛力。
法律的初衷是公正，但通常由有偏見的人來解釋。人工智能可能是解決這一難題的鑰匙，因為它能以可重復(fù)的方式進行模糊判斷。我建議人工智能作為決策輔助工具，與人類協(xié)作，而非替代法官。這樣的系統(tǒng)需透明，允許人們理解其訓(xùn)練過程并評估可能的偏見。
此外，人工智能可匯總公眾意見，幫助尋找共識，解決沖突。知情的公民能更好地強化民主制度。在政府服務(wù)方面，人工智能能幫助人們獲取健康福利和社會服務(wù)，以通俗易懂的方式理解法規(guī)，增強對民主治理的尊重。
盡管這些想法可能顯得模糊，但我們應(yīng)追求人工智能作為自由、個人權(quán)利和法律平等的保障者的愿景。在21世紀，人工智能支持的政體可以成為個人自由的有力保護者，成為全球向往的政府形式的燈塔。
即使我們在減少疾病、貧困和不平等方面取得了進展，自由民主成為主流形式，現(xiàn)有的民主國家也變得更好，但仍然面臨一個重要問題：在人工智能如此先進的情況下，人類的存在意義何在？他們將如何生存？
這個問題比其他問題更復(fù)雜，主要因為它涉及社會組織的宏觀問題，通常只能隨著時間的推移自然而然地解決。歷史上的狩獵采集社會可能會覺得，沒有狩獵和相關(guān)儀式的生活毫無意義，而對我們?nèi)缃竦纳鐣狈斫狻?/p>
盡管如此，我仍想談?wù)勥@個問題。認為人工智能做得更好就意味著人類的任務(wù)毫無意義，未必正確。大多數(shù)人并不是在任何領(lǐng)域都是最優(yōu)秀的，但這并不妨礙他們找到價值。
人們喜歡參與那些并不創(chuàng)造經(jīng)濟價值的活動，比如玩游戲、游泳或與朋友聚會。
意義更多來自人際關(guān)系，而不是單純的經(jīng)濟勞動。在后人工智能的世界中，追求復(fù)雜任務(wù)的成就感和競爭感依然存在。
然而，關(guān)于經(jīng)濟的問題更棘手。我們可能面臨的挑戰(zhàn)是，未來大多數(shù)人可能無法為高度依賴人工智能的經(jīng)濟做出有意義的貢獻。
盡管短期內(nèi)，比較優(yōu)勢可能會幫助人類保持相關(guān)性并提高生產(chǎn)力，但長期來看，人工智能的廣泛應(yīng)用可能會改變這一格局。
歷史上，文明成功地經(jīng)歷了多次經(jīng)濟轉(zhuǎn)型，例如從狩獵采集到農(nóng)業(yè)、再到工業(yè)。未來我們可能需要新的解決方案，這些解決方案今天尚不可預(yù)見，可能包括普遍基本收入等方法。
或許經(jīng)濟模式會依賴于人工智能的判斷，給予人類所需的資源，雖然這些想法還有待驗證。
面對這些挑戰(zhàn)，我們需要探索、試驗并努力避免潛在的剝削和反烏托邦的局面。未來將需要更多的討論和思考，才能找到合適的出路。
在前面的討論中，我描繪了一個美好的未來：如果人工智能發(fā)展順利，世界將比現(xiàn)在更美好。然而，要實現(xiàn)這個愿景，需要很多勇敢的人共同努力。每個人，包括人工智能公司，都要積極參與，以防范風(fēng)險、分享收益。
這是一個值得奮斗的目標。
如果在接下來的五到十年內(nèi)，我們能戰(zhàn)勝大多數(shù)疾病、推動人類自由和民主，幫助數(shù)十億人擺脫貧困，那么每個人都會為這種變化感到震驚。我們不僅會驚嘆于新技術(shù)帶來的好處，更會為長久以來的理想逐步實現(xiàn)而感動。
在寫作過程中，我意識到這個愿景相當激進，可能讓許多人覺得荒謬，甚至有人不同意其中的價值觀和政治選擇。
但這個愿景也展現(xiàn)出一種迷人的可能性，仿佛不同的美好世界設(shè)想都在朝著同一個方向前進。
在 Iain M. Banks 的《文化》系列中，主角來自一個與我描述的原則類似的社會。他們在一個專制帝國中，通過復(fù)雜的戰(zhàn)斗游戲決定領(lǐng)導(dǎo)權(quán)。主角以文化的價值觀戰(zhàn)勝皇帝，表明即使在競爭激烈的環(huán)境中，合作與同情依然是勝利的關(guān)鍵。
Scott Alexander 也提到，競爭往往會導(dǎo)致一個以同情與合作為基礎(chǔ)的社會。
我相信，文化的價值觀是一種成功的策略。這些價值觀源自人們對公平、合作和自主權(quán)的共識，讓我們能更容易形成團結(jié)的力量。大家都認同兒童不應(yīng)因疾病而死，每個孩子都應(yīng)該平等享有權(quán)利。在這個基礎(chǔ)上，我們可以攜手運用智慧實現(xiàn)這一目標。
人們普遍同意，懲罰那些不必要攻擊或傷害他人的行為是合理的，并且這種一致性應(yīng)該體現(xiàn)在法律和制度中。同時，個體對自己生活和選擇的自主權(quán)也是顯而易見的。
最終，這些直覺的邏輯推導(dǎo)將引領(lǐng)我們走向法治、民主和啟蒙價值觀。人工智能的出現(xiàn)為我們實現(xiàn)這些目標提供了機會，清晰了未來的方向。
盡管如此，它仍然是一種超然的美。我們有機會在實現(xiàn)這一目標方面發(fā)揮一些小作用。
雷峰網(wǎng)
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
