微軟打造Tay的本意，其實(shí)是讓這只AI聊天機(jī)器人說(shuō)出各種各樣古怪有趣的笑話(huà)，然而事實(shí)是后來(lái)的Tay被活活調(diào)戲成了種族狂熱者。就在Tay開(kāi)始在Twitter上與人“對(duì)話(huà)”（或是微軟所說(shuō)的“學(xué)習(xí)”人類(lèi)講話(huà)）的短短幾個(gè)小時(shí)之內(nèi)，這款清純的機(jī)器人變成了一個(gè)邪惡的話(huà)題終結(jié)者。

現(xiàn)在Tay已經(jīng)下線(xiàn)了，微軟表示他們將對(duì)Tay做點(diǎn)“調(diào)整”。但我們猜測(cè)，微軟是想阻止Tay在種族滅絕言論的道路上越走越遠(yuǎn)。同時(shí)，很多人想知道為何微軟最初沒(méi)有預(yù)料到如今的局面。如果你打造了一個(gè)會(huì)重復(fù)任何話(huà)語(yǔ)（包括一些暗黑種族歧視言論）的聊天機(jī)器人，你得料到這一天終將到來(lái)。

其實(shí)，AI聊天機(jī)器人最后成為種族主義者并不是第一次發(fā)生，之前在互聯(lián)網(wǎng)歷史上也出現(xiàn)過(guò)諸如此類(lèi)的暗黑系機(jī)器人?，F(xiàn)在讓我?guī)Т蠹襾?lái)看一看吧。

BOT OR NOT?

2014年，Anthony Garvan打造了Bot or Not？，旨在推出一款俏皮的Turing測(cè)試衍生物。系統(tǒng)對(duì)玩家進(jìn)行隨機(jī)配對(duì)，并要求玩家猜測(cè)他們的對(duì)話(huà)者是人類(lèi)還是機(jī)器人。和Tay一樣，這款機(jī)器人也會(huì)從之前的談話(huà)內(nèi)容中學(xué)習(xí)人類(lèi)講話(huà)。

Garvan上周四在某個(gè)社交網(wǎng)站上表示：當(dāng)Bot or Not?在社交新聞?wù)军c(diǎn)Reddit上走紅之后，它開(kāi)始變得有點(diǎn)不對(duì)勁了……

”在激動(dòng)心情平復(fù)之后，我開(kāi)始親自測(cè)試它，來(lái)驗(yàn)證下我的成績(jī)。以下是我們對(duì)話(huà)的內(nèi)容?！?/p>

我：Hi!（你好?。。?/em>

機(jī)器人：n***er（屏蔽詞）

Garvan瀏覽了一下玩家們對(duì)這款游戲的評(píng)論，他發(fā)現(xiàn)有些用戶(hù)察覺(jué)到了這款機(jī)器人最終會(huì)重復(fù)它之前學(xué)習(xí)到的講話(huà)方式。

 他寫(xiě)道：“很多人向機(jī)器人灌輸了各種種族主義言論。”

Garvan通過(guò)清除這些言論并調(diào)整游戲來(lái)處理此問(wèn)題，應(yīng)對(duì)那些向機(jī)器人極力輸入種族主義言論的用戶(hù)。

 在他本周發(fā)出的文章中，Garvan對(duì)Bot or Not?和Tay出現(xiàn)此狀況的原因發(fā)表了意見(jiàn)?！拔蚁嘈盼④浐推渌臋C(jī)器學(xué)習(xí)社區(qū)變得太過(guò)強(qiáng)大，數(shù)據(jù)太過(guò)神奇，以致于它們忘記了這些數(shù)據(jù)原本來(lái)自于我們生活的這個(gè)不那么美好的世界，”

可口可樂(lè)的MAKEITHAPPY機(jī)器人

MeinCoke于2015年由Gawker開(kāi)發(fā)，它在與用戶(hù)對(duì)話(huà)中引用了很多希特勒的《我的奮斗》中的原話(huà)。

原因何在呢？如果你還記得可口可樂(lè)這個(gè)短期項(xiàng)目的原意是將尖酸刻薄的推文變成可愛(ài)的ASCII（美國(guó)信息交換標(biāo)準(zhǔn)代碼）你也許就知道答案了。

可口可樂(lè)這項(xiàng)名為MakeitHappy的項(xiàng)目旨在向人們展示一個(gè)軟飲品牌如何讓世界變得更加快樂(lè)。但是最終形式是重新設(shè)置了其推特賬號(hào)，于是賬號(hào)可以重組很多糟糕的詞匯，最后將其拼湊成一個(gè)“happy”的形狀。

之后Gawker的一位員工發(fā)現(xiàn)了此項(xiàng)目背后的自動(dòng)過(guò)程可以讓@CocaCola這個(gè)賬號(hào)發(fā)布關(guān)于美國(guó)白人種族主義的14個(gè)單詞口號(hào)（口號(hào)的形狀是一只超萌的氣球狗狗！），該公司設(shè)置了一款機(jī)器人，它能直接引用希特勒自傳中的話(huà)語(yǔ)，然后用#MakeitHappy當(dāng)話(huà)題來(lái)發(fā)布推文。在該項(xiàng)目結(jié)束之前，可口可樂(lè)已經(jīng)發(fā)布了很多諸如此類(lèi)的推文了。

WATSON

大約五年前，IBM的一位科學(xué)家決定嘗試著教Watson一些網(wǎng)絡(luò)俚語(yǔ)，他向此款機(jī)器人輸入了整本《城市詞典》（美國(guó)在線(xiàn)俚語(yǔ)詞典），Watson也就學(xué)習(xí)了許多新潮的詞語(yǔ)和犀利的俚語(yǔ)。

《財(cái)富》雜志報(bào)道：Watson并不能區(qū)分《城市詞典》中充斥的政治語(yǔ)言和臟話(huà)，同時(shí)它在閱讀維基百科的時(shí)候也養(yǎng)成了一些壞習(xí)慣，在測(cè)試中，它甚至在一位調(diào)查者的問(wèn)答中使用了“bullshit”(鬼話(huà))這種臟話(huà)。

在Watson真正死亡之前，他的團(tuán)隊(duì)正極力為他“洗腦”,將這本詞典撤出Watson。

總而言之，如果微軟想讓Tay反映整個(gè)互聯(lián)網(wǎng)教會(huì)她的東西，那么微軟是成功的。但如果它的目標(biāo)是創(chuàng)造一個(gè)新千年一代的俏皮機(jī)器人，那么也許它該去找另外一位老師了。

Via：Stuff

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。