雷鋒網(wǎng) AI 科技評論按：近期 Facebook 泄露用戶數(shù)據(jù)、針對性影響用戶、Uber 無人車事故，以及全球?qū)W者聯(lián)名抵制韓國開發(fā)自主武器的事情再次敲響了人工智能安全的警鐘。OpenAI 也于昨日發(fā)表了一份自己的研究綱領， 表明了自己的科研使命和行動法則，希望擔負起自己在「讓人工智能造福全人類」這一偉大事業(yè)中的責任。文中也涵蓋了他們在過去兩年的研究中逐漸成形的研究策略，以及來自 OpenAI 內(nèi)外的各種反饋聲音。雷鋒網(wǎng) AI 科技評論把文章中文版摘錄如下。

OpenAI的使命是確保通用人工智能 (Artificial General Intelligence, AGI)，即一種高度自主且在大多數(shù)具有經(jīng)濟價值的工作上超越人類的系統(tǒng)，將為全人類帶來福祉。我們不僅希望直接建造出安全的、符合共同利益的通用人工智能，而且愿意幫助其它研究機構共同建造出這樣的通用人工智能以達成我們的使命。為了達到這個目標，我們制訂了如下原則：

廣泛造福社會

• 我們承諾在通用人工智能的開發(fā)過程中，將利用所有可獲得的影響力，確保它可以造福全人類。我們將避免把人工智能或通用人工智能的技術置于損害人類或過度集中權力的事業(yè)中。

• 我們的首要任務是對人類文明負責。我們預計需要調(diào)用大量資源來完成這一使命。同時，我們會積極行動以減少雇員和利益相關者間的利益沖突，確保大多數(shù)人可以受益。

關注長遠安全問題

• OpenAI 致力于進行能夠確保通用人工智能安全的研究。我們力求在整個人工智能研究領域內(nèi)推動這類研究項目的廣泛應用。
  

• 我們擔心通用人工智能在發(fā)展后期將演變成一場激烈的競賽，導致缺乏充足的時間進行安全防范。因此，如果一個與人類價值觀相符、注重安全的項目領先于我們將近達成通用人工智能，我們承諾將停止競賽，幷轉(zhuǎn)而協(xié)助這個項目。我們會針對個別情況設計具體的合作方案。不過，一個典型的觸發(fā)條件可能會是「這個項目在未來兩年內(nèi)能夠成功研發(fā)通用人工智能的概率超過一半」。

引領技術研究

• 為了能有效地促進通用人工智能對社會的正面影響，OpenAI 必須站在人工智能技術研究的前沿。我們認為僅做政策和安全性的倡導是過于單薄的。
  

• 我們相信人工智能在達成通用人工智能之前便會產(chǎn)生廣泛的社會影響。OpenAI 希望在符合我們的使命和專長的領域中努力保持領先地位。

保持合作意愿

• 我們會和其它研究機構以及政策制定機構積極合作。我們希望可以建立一個國際化的社區(qū)，共同應對通用人工智能的全球性挑戰(zhàn)。

• 我們致力于研發(fā)公共物品，以幫助社會走向與通用人工智能共處的時代。目前這包括公開發(fā)表大多數(shù)的人工智能研究成果。OpenAI預料未來對安全和安保的考慮將會使我們減少發(fā)表傳統(tǒng)的研究成果，而更注重分享安全、政策和標準化相關的研究。

-----------------------------

人類何時能研發(fā)出真正的通用人工智能還尚未可知，但 OpenAI 相信也希望自己的綱領可以引導自己在通用人工智能的研發(fā)過程中體現(xiàn)出全人類的最大利益。

這份綱領發(fā)出后，已經(jīng)有一些學者給出了積極的反饋，非常歡迎 OpenAI 做出這樣的舉動，同時也認可 OpenAI 積極、堅定的態(tài)度，欽佩 OpenAI 公開做出這樣的承諾。

雷鋒網(wǎng) AI 科技評論也非常期盼通用人工智能的到來，而且我們也希望它真的到來的那一天真的是全人類的福祉。相信到時肯定會有 OpenAI 的功勞在其中。

via OpenAI，雷鋒網(wǎng) AI 科技評論報道

雷峰網(wǎng)版權文章，未經(jīng)授權禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。