1
雷鋒網(wǎng)AI科技評論按：英國《太陽報》8月1日報道了一則”機(jī)器人正在接手人類主動權(quán)嗎？”的新聞。文中講到 Facebook最近關(guān)停了一項人工智能實驗，因為兩個機(jī)器人開始用自己的語言交流，人類并不知道它們在講什么。
隨后，F(xiàn)acebook關(guān)閉“失控”AI系統(tǒng)，機(jī)器人發(fā)展出人類無法理解的語言等類似這樣的標(biāo)題占據(jù)國內(nèi)各大科技媒體頭條。然而AI科技評論并沒有跟風(fēng)，為了弄清事情的來龍去脈，給公眾一個客觀真實的報道，我們了解到：
Facebook并沒有關(guān)閉這個AI實驗項目，只是做了修正，修正也不是因為“失控”，是因為沒有意義。
Facebook的AI是否創(chuàng)造了語言，要看如何定義「語言」。比如說，Python、JavaScript這類計算機(jī)語言并非真正的語言，但也會稱之為「語言」。
其實這個AI 實驗項目在半個月之前都已經(jīng)有媒體報道過，最近又被媒體提出來，很可能要追溯到前幾天Facebook創(chuàng)始人馬克·扎克伯格與特斯拉CEO 埃隆·馬斯克在twitter 上的那場隔空論戰(zhàn)。
馬斯克認(rèn)為,人工智能將威脅人類或引發(fā)恐慌，呼吁政府盡快考慮針對這一技術(shù)的相關(guān)立法與管控；而扎克伯格則認(rèn)為,人工智能將會讓人類的生活變得更安全和美好，那些“反對(人工智能)并鼓吹(因人工智能而引發(fā))世界末日論”的人“非常不負(fù)責(zé)任”。馬斯克隨后在推特回復(fù)網(wǎng)友轉(zhuǎn)發(fā)時說:“我和小扎討論過這個，他對人工智能認(rèn)識有限?！?/p>
他們兩位業(yè)界巨頭持截然相反的觀點，很快便引發(fā)科技界爭論，甚至學(xué)術(shù)界的專家也出來戰(zhàn)隊。這樣的大新聞，媒體自然不會放過，F(xiàn)acebook AI項目也是趁上次的爭論余熱未消，引起了大家注意。
雷鋒網(wǎng)編輯告訴大家：并沒有。
實際情況是這樣的，F(xiàn)acebook人工智能研究院（FAIR）想要訓(xùn)練一個聊天機(jī)器人，讓它學(xué)會和人談判，于是他們?nèi)斯ぶ悄芟到y(tǒng)開發(fā)了神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，這個結(jié)構(gòu)叫做“生成式對抗網(wǎng)絡(luò)”（Generative Adversarial Networks，簡稱GAN）。研究人員希望機(jī)器人可以帶著“目的”和人類對話。而這個目的也很簡單：一共有兩本書，一頂帽子和三個籃球，三樣?xùn)|西分別設(shè)定了不同的權(quán)重，就是想讓機(jī)器人擁有“意識”，明白它到底對這些東西有多想要，然后去和人談判。
研究過程中，研究員突發(fā)奇想，想看看讓兩個機(jī)器人聊天，他們會聊什么，于是，就出現(xiàn)了網(wǎng)路上傳播甚廣的“機(jī)器人暗語”。
之所以會出現(xiàn)這段看似是英語，卻用英語語法解釋不通的對話，最后究其原因才發(fā)現(xiàn)，研究員在為系統(tǒng)設(shè)置激勵條件時， 雖然告訴了它們“請用英文”，但忘了告訴它們“請用英文語法”。 換句話說，如果系統(tǒng)中編寫針對英語語法的獎勵機(jī)制，系統(tǒng)就會偏向于更符合英語語法的語言，也就不會出現(xiàn)現(xiàn)在這種情況。
說到底，這最多只能算是一個技術(shù)錯誤。Facebook并沒有“關(guān)掉”這個系統(tǒng)，而是重新設(shè)定了正確的激勵，修正了機(jī)器人的行為，修正的原因也不是因為害怕系統(tǒng)失控，而是因為這樣的對話毫無意義，偏離了研究的最初目的。
雷鋒網(wǎng)AI科技評論
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
