微軟打造Tay的本意，其實是讓這只AI聊天機(jī)器人說出各種各樣古怪有趣的笑話，然而事實是后來的Tay被活活調(diào)戲成了種族狂熱者。就在Tay開始在Twitter上與人“對話”（或是微軟所說的“學(xué)習(xí)”人類講話）的短短幾個小時之內(nèi)，這款清純的機(jī)器人變成了一個邪惡的話題終結(jié)者。

現(xiàn)在Tay已經(jīng)下線了，微軟表示他們將對Tay做點(diǎn)“調(diào)整”。但我們猜測，微軟是想阻止Tay在種族滅絕言論的道路上越走越遠(yuǎn)。同時，很多人想知道為何微軟最初沒有預(yù)料到如今的局面。如果你打造了一個會重復(fù)任何話語（包括一些暗黑種族歧視言論）的聊天機(jī)器人，你得料到這一天終將到來。

其實，AI聊天機(jī)器人最后成為種族主義者并不是第一次發(fā)生，之前在互聯(lián)網(wǎng)歷史上也出現(xiàn)過諸如此類的暗黑系機(jī)器人?，F(xiàn)在讓我?guī)Т蠹襾砜匆豢窗伞?/p>

BOT OR NOT?

2014年，Anthony Garvan打造了Bot or Not？，旨在推出一款俏皮的Turing測試衍生物。系統(tǒng)對玩家進(jìn)行隨機(jī)配對，并要求玩家猜測他們的對話者是人類還是機(jī)器人。和Tay一樣，這款機(jī)器人也會從之前的談話內(nèi)容中學(xué)習(xí)人類講話。

Garvan上周四在某個社交網(wǎng)站上表示：當(dāng)Bot or Not?在社交新聞?wù)军c(diǎn)Reddit上走紅之后，它開始變得有點(diǎn)不對勁了……

”在激動心情平復(fù)之后，我開始親自測試它，來驗證下我的成績。以下是我們對話的內(nèi)容?！?/p>

我：Hi!（你好?。。?/em>

機(jī)器人：n***er（屏蔽詞）

Garvan瀏覽了一下玩家們對這款游戲的評論，他發(fā)現(xiàn)有些用戶察覺到了這款機(jī)器人最終會重復(fù)它之前學(xué)習(xí)到的講話方式。

 他寫道：“很多人向機(jī)器人灌輸了各種種族主義言論。”

Garvan通過清除這些言論并調(diào)整游戲來處理此問題，應(yīng)對那些向機(jī)器人極力輸入種族主義言論的用戶。

 在他本周發(fā)出的文章中，Garvan對Bot or Not?和Tay出現(xiàn)此狀況的原因發(fā)表了意見?！拔蚁嘈盼④浐推渌臋C(jī)器學(xué)習(xí)社區(qū)變得太過強(qiáng)大，數(shù)據(jù)太過神奇，以致于它們忘記了這些數(shù)據(jù)原本來自于我們生活的這個不那么美好的世界，”

可口可樂的MAKEITHAPPY機(jī)器人

MeinCoke于2015年由Gawker開發(fā)，它在與用戶對話中引用了很多希特勒的《我的奮斗》中的原話。

原因何在呢？如果你還記得可口可樂這個短期項目的原意是將尖酸刻薄的推文變成可愛的ASCII（美國信息交換標(biāo)準(zhǔn)代碼）你也許就知道答案了。

可口可樂這項名為MakeitHappy的項目旨在向人們展示一個軟飲品牌如何讓世界變得更加快樂。但是最終形式是重新設(shè)置了其推特賬號，于是賬號可以重組很多糟糕的詞匯，最后將其拼湊成一個“happy”的形狀。

之后Gawker的一位員工發(fā)現(xiàn)了此項目背后的自動過程可以讓@CocaCola這個賬號發(fā)布關(guān)于美國白人種族主義的14個單詞口號（口號的形狀是一只超萌的氣球狗狗！），該公司設(shè)置了一款機(jī)器人，它能直接引用希特勒自傳中的話語，然后用#MakeitHappy當(dāng)話題來發(fā)布推文。在該項目結(jié)束之前，可口可樂已經(jīng)發(fā)布了很多諸如此類的推文了。

WATSON

大約五年前，IBM的一位科學(xué)家決定嘗試著教Watson一些網(wǎng)絡(luò)俚語，他向此款機(jī)器人輸入了整本《城市詞典》（美國在線俚語詞典），Watson也就學(xué)習(xí)了許多新潮的詞語和犀利的俚語。

《財富》雜志報道：Watson并不能區(qū)分《城市詞典》中充斥的政治語言和臟話，同時它在閱讀維基百科的時候也養(yǎng)成了一些壞習(xí)慣，在測試中，它甚至在一位調(diào)查者的問答中使用了“bullshit”(鬼話)這種臟話。

在Watson真正死亡之前，他的團(tuán)隊正極力為他“洗腦”,將這本詞典撤出Watson。

總而言之，如果微軟想讓Tay反映整個互聯(lián)網(wǎng)教會她的東西，那么微軟是成功的。但如果它的目標(biāo)是創(chuàng)造一個新千年一代的俏皮機(jī)器人，那么也許它該去找另外一位老師了。

Via：Stuff

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。