雷鋒網(wǎng) AI 科技評論按：近期 Facebook 泄露用戶數(shù)據(jù)、針對性影響用戶、Uber 無人車事故，以及全球?qū)W者聯(lián)名抵制韓國開發(fā)自主武器的事情再次敲響了人工智能安全的警鐘。OpenAI 也于昨日發(fā)表了一份自己的研究綱領(lǐng)， 表明了自己的科研使命和行動法則，希望擔(dān)負(fù)起自己在「讓人工智能造福全人類」這一偉大事業(yè)中的責(zé)任。文中也涵蓋了他們在過去兩年的研究中逐漸成形的研究策略，以及來自 OpenAI 內(nèi)外的各種反饋聲音。雷鋒網(wǎng) AI 科技評論把文章中文版摘錄如下。

OpenAI的使命是確保通用人工智能 (Artificial General Intelligence, AGI)，即一種高度自主且在大多數(shù)具有經(jīng)濟(jì)價(jià)值的工作上超越人類的系統(tǒng)，將為全人類帶來福祉。我們不僅希望直接建造出安全的、符合共同利益的通用人工智能，而且愿意幫助其它研究機(jī)構(gòu)共同建造出這樣的通用人工智能以達(dá)成我們的使命。為了達(dá)到這個(gè)目標(biāo)，我們制訂了如下原則：

廣泛造福社會

• 我們承諾在通用人工智能的開發(fā)過程中，將利用所有可獲得的影響力，確保它可以造福全人類。我們將避免把人工智能或通用人工智能的技術(shù)置于損害人類或過度集中權(quán)力的事業(yè)中。

• 我們的首要任務(wù)是對人類文明負(fù)責(zé)。我們預(yù)計(jì)需要調(diào)用大量資源來完成這一使命。同時(shí)，我們會積極行動以減少雇員和利益相關(guān)者間的利益沖突，確保大多數(shù)人可以受益。

關(guān)注長遠(yuǎn)安全問題

• OpenAI 致力于進(jìn)行能夠確保通用人工智能安全的研究。我們力求在整個(gè)人工智能研究領(lǐng)域內(nèi)推動這類研究項(xiàng)目的廣泛應(yīng)用。
  

• 我們擔(dān)心通用人工智能在發(fā)展后期將演變成一場激烈的競賽，導(dǎo)致缺乏充足的時(shí)間進(jìn)行安全防范。因此，如果一個(gè)與人類價(jià)值觀相符、注重安全的項(xiàng)目領(lǐng)先于我們將近達(dá)成通用人工智能，我們承諾將停止競賽，幷轉(zhuǎn)而協(xié)助這個(gè)項(xiàng)目。我們會針對個(gè)別情況設(shè)計(jì)具體的合作方案。不過，一個(gè)典型的觸發(fā)條件可能會是「這個(gè)項(xiàng)目在未來兩年內(nèi)能夠成功研發(fā)通用人工智能的概率超過一半」。

引領(lǐng)技術(shù)研究

• 為了能有效地促進(jìn)通用人工智能對社會的正面影響，OpenAI 必須站在人工智能技術(shù)研究的前沿。我們認(rèn)為僅做政策和安全性的倡導(dǎo)是過于單薄的。
  

• 我們相信人工智能在達(dá)成通用人工智能之前便會產(chǎn)生廣泛的社會影響。OpenAI 希望在符合我們的使命和專長的領(lǐng)域中努力保持領(lǐng)先地位。

保持合作意愿

• 我們會和其它研究機(jī)構(gòu)以及政策制定機(jī)構(gòu)積極合作。我們希望可以建立一個(gè)國際化的社區(qū)，共同應(yīng)對通用人工智能的全球性挑戰(zhàn)。

• 我們致力于研發(fā)公共物品，以幫助社會走向與通用人工智能共處的時(shí)代。目前這包括公開發(fā)表大多數(shù)的人工智能研究成果。OpenAI預(yù)料未來對安全和安保的考慮將會使我們減少發(fā)表傳統(tǒng)的研究成果，而更注重分享安全、政策和標(biāo)準(zhǔn)化相關(guān)的研究。

-----------------------------

人類何時(shí)能研發(fā)出真正的通用人工智能還尚未可知，但 OpenAI 相信也希望自己的綱領(lǐng)可以引導(dǎo)自己在通用人工智能的研發(fā)過程中體現(xiàn)出全人類的最大利益。

這份綱領(lǐng)發(fā)出后，已經(jīng)有一些學(xué)者給出了積極的反饋，非常歡迎 OpenAI 做出這樣的舉動，同時(shí)也認(rèn)可 OpenAI 積極、堅(jiān)定的態(tài)度，欽佩 OpenAI 公開做出這樣的承諾。

雷鋒網(wǎng) AI 科技評論也非常期盼通用人工智能的到來，而且我們也希望它真的到來的那一天真的是全人類的福祉。相信到時(shí)肯定會有 OpenAI 的功勞在其中。

via OpenAI，雷鋒網(wǎng) AI 科技評論報(bào)道

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。