雷鋒網(wǎng) AI科技評論按：日前，wired上的一篇文章對人工智能的發(fā)展表達(dá)了獨(dú)特的看法，文中認(rèn)為，終結(jié)者里的情節(jié)只會發(fā)生在想象中，人類大可不必恐慌。雷鋒網(wǎng) AI科技評論將文章編譯如下：

機(jī)器覺醒是連續(xù)不斷的新聞報(bào)導(dǎo)中常見的主題。最近Facebook的研究員遇到一件令他們毛骨悚然的事情——他們的機(jī)器人在用自己的語言交談，這似乎是機(jī)器覺醒的征兆。

其實(shí)并不用這么害怕。Facebook的實(shí)驗(yàn)確實(shí)產(chǎn)生了能說出混亂句子的聊天機(jī)器人，但并不至于引起恐慌，這些機(jī)器人并不聰明。AI實(shí)驗(yàn)室里沒有任何研究人員產(chǎn)生恐慌，大家也不必害怕。但是，媒體大肆的錯(cuò)誤報(bào)導(dǎo)對未來不是什么好事。隨著機(jī)器學(xué)習(xí)和人工智能變得更加普遍，影響力越來越大，了解這些技術(shù)未來的潛力和目前的現(xiàn)狀至關(guān)重要。算法將在戰(zhàn)爭、刑事審判和勞動市場上發(fā)揮關(guān)鍵作用。

其實(shí)Facebook的AI實(shí)驗(yàn)室真正發(fā)生的事是這樣的：研究人員開始研究可以與人聊天的機(jī)器人，他們認(rèn)為，機(jī)器人擁有談判和合作能力之后，可以與人離得更近。他們慢慢的開始訓(xùn)練機(jī)器人，比如讓機(jī)器人玩簡單的游戲：要求兩個(gè)機(jī)器人劃分一系列的物品，如帽子，球和書籍等。

團(tuán)隊(duì)教機(jī)器人用兩步來玩這個(gè)游戲。首先，他們從人類玩的的很多游戲中給計(jì)算機(jī)提供對話，讓系統(tǒng)擁有談判語言的意識。然后，他們使用一種強(qiáng)化學(xué)習(xí)方法——試錯(cuò)法來不斷磨練機(jī)器人的技巧，幫助Google的AlphaGo打敗世界冠軍李世石的訓(xùn)練方法就是這種。

當(dāng)使用強(qiáng)化學(xué)習(xí)的兩個(gè)機(jī)器人一起游戲時(shí)，他們停止了使用可以識別的句子。Facebook的研究員在技術(shù)論文中干巴巴地這樣描述到：“我們發(fā)現(xiàn)更新兩個(gè)智能體的參數(shù)導(dǎo)致了他們的對話不再是人類可以理解的語言?！?/p>

下面是兩個(gè)機(jī)器人讓人難以忘記的對話：

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

這種奇怪的談話有時(shí)候會產(chǎn)生成功的談判，顯然是因?yàn)闄C(jī)器人學(xué)會了使用重復(fù)等技巧來傳達(dá)他們的需求。這有點(diǎn)兒有趣，但也是一次失敗的實(shí)驗(yàn)。Facebook的研究人員希望制造出可以與人類游戲的機(jī)器人，所以他們重新設(shè)計(jì)了訓(xùn)練方案，以確保機(jī)器人一直使用可識別的語言。正是改變了方案，才導(dǎo)致研究人員被機(jī)器人嚇到停止實(shí)驗(yàn)的這種恐慌性的新聞出現(xiàn)。

之前太陽報(bào)頭條中談到Facebook這次的事件和終結(jié)者是否類似，終結(jié)者里面就談到機(jī)器產(chǎn)生了意識，與人類發(fā)生了毀滅性的戰(zhàn)爭。

與終結(jié)者里截然不同，F(xiàn)acebook的機(jī)器人很簡單，被設(shè)計(jì)成只會做一件事情：在簡單的游戲中盡可能得到多的分?jǐn)?shù)，而且機(jī)器人也按程序在執(zhí)行。

這也不是AI研究員第一次創(chuàng)建出以自己的方式即興溝通的機(jī)器人。3月份，WIRED報(bào)導(dǎo)了OpenAI的一次實(shí)驗(yàn)——機(jī)器人在虛擬世界中開發(fā)出了自己的語言。Facebook研究員Dhruv Batra失望的表示，媒體曲解了他們的研究，這種類似的例子在幾十年以前就有了。

Facebook這次的實(shí)驗(yàn)并不可怕，而是證明了當(dāng)今AI技術(shù)的局限。目前的機(jī)器學(xué)習(xí)系統(tǒng)對文字的盲目使用限制了它們的用處和能力。除非你找到一種方法來對想要機(jī)器具備的功能進(jìn)行編程，否則很難獲得大的突破。這就是為什么一些研究人員正在努力使用人類反饋而不只是代碼來定義AI系統(tǒng)的目標(biāo)。

Facebook的實(shí)驗(yàn)中最有趣的是什么？機(jī)器人開始說英語，并且證明了自己有能力與人談判。這還不錯(cuò)，因?yàn)楫?dāng)你和Siri或Alexa談話時(shí)，會發(fā)現(xiàn)它們并不擅長不斷交談。

有趣的是，F(xiàn)acebook的機(jī)器人在某些場合下，會騙人說對實(shí)際不上不想要的東西感興趣。這才是在Facebook的實(shí)驗(yàn)室里發(fā)生的真正可怕的事情嗎？——機(jī)器人可以說謊！不。你一點(diǎn)兒也不用擔(dān)心，除了Facebook會說謊的機(jī)器人，還有在撲克賭博游戲中輕易勝過人類頂尖選手的Libratus機(jī)器人。這兩個(gè)系統(tǒng)都可以在嚴(yán)格限定的環(huán)境中做出令人印象深刻的事情，但沒有哪一個(gè)像人一樣，能把經(jīng)驗(yàn)和知識應(yīng)用到新的環(huán)境中，具有自我意識。機(jī)器學(xué)習(xí)研究很吸引人，充滿潛能，能改變我們生活的世界。終結(jié)者只是虛構(gòu)的科幻而已。

雷鋒網(wǎng) AI科技評論編譯

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。