Jeff J Mitchell/Getty Images

人們對(duì)現(xiàn)代科技持樂(lè)觀態(tài)度，部分原因在于大家相信這是一種民主化力量——不被人類長(zhǎng)時(shí)間學(xué)到的狹隘偏見(jiàn)所限制。但是最新研究發(fā)現(xiàn)，這只是海市蜃樓般的假象。

原因非常簡(jiǎn)單：我們從周?chē)氖澜鐚W(xué)習(xí)到偏見(jiàn)，而AI則從我們這里學(xué)到偏見(jiàn)。

有很多原因讓我們認(rèn)為AI是“公平”的。既然AI是基于數(shù)學(xué)算法，那么它就不會(huì)一開(kāi)始帶有對(duì)聽(tīng)起來(lái)像白人的名字的明顯偏好或者認(rèn)為女人該待在家里。為了提防明顯的偏見(jiàn)——程序員不小心植入AI系統(tǒng)中的，比如說(shuō)標(biāo)準(zhǔn)化測(cè)試如何偏袒白人——有些人建議采取透明算法，更加多樣的開(kāi)發(fā)團(tuán)隊(duì)等等。

但是盡管這些方法對(duì)此有幫助，普林斯頓大學(xué)計(jì)算機(jī)科學(xué)家Aylin Caliskan-Islam， Joanna Bryson和Arvind Narayanan認(rèn)為這可能還不夠。他們表示，

“我們通過(guò)文件記錄的方式證明那些根本上源于人類文化的機(jī)器偏見(jiàn)不可能通過(guò)我們上面提到的策略來(lái)消除。”

我們從周?chē)氖澜鐚W(xué)到偏見(jiàn)。而和我們一樣，AI從我們身上學(xué)到偏見(jiàn)。計(jì)算機(jī)科學(xué)家通過(guò)采用新穎的方式得到這樣一個(gè)結(jié)論：從本質(zhì)上來(lái)說(shuō)，他們對(duì)計(jì)算機(jī)算法進(jìn)行一系列的隱性關(guān)聯(lián)測(cè)試（評(píng)估種族和性別歧視的標(biāo)準(zhǔn)心理學(xué)方法），然后驗(yàn)證對(duì)人類進(jìn)行的隱性關(guān)聯(lián)測(cè)試。（點(diǎn)擊這里可以獲得更多關(guān)于隱性關(guān)聯(lián)測(cè)試的信息。）

選擇的算法是GloVe，這是目前根據(jù)上下文提取單詞意思最先進(jìn)的方法，也就是通過(guò)這些單詞意思和其他單詞在文本中出現(xiàn)的頻率來(lái)進(jìn)行判斷。根據(jù)GloVe和相關(guān)方法，在相似的文章中兩個(gè)單詞出現(xiàn)的頻率越高，他們關(guān)聯(lián)性越高。比如，如果“女人”這個(gè)詞經(jīng)常和與家庭有關(guān)的詞一起出現(xiàn)，那么“女人”這個(gè)概念就和“家庭”關(guān)聯(lián)性非常高。

該團(tuán)隊(duì)從網(wǎng)絡(luò)截取有著8400億個(gè)單詞的大量文章來(lái)檢驗(yàn)GloVe，然后使用這個(gè)版本開(kāi)始著手驗(yàn)證一些人們最明顯的偏見(jiàn)。在這些偏見(jiàn)中有一個(gè)是使用隱性關(guān)聯(lián)測(cè)試進(jìn)行的實(shí)驗(yàn)。這個(gè)名為“2002實(shí)驗(yàn)”的研究結(jié)果顯示，我們傾向于將女性名字和家庭聯(lián)系在一起，而將男性名字和事業(yè)聯(lián)系在一起——這也許并不令人感到驚訝。Caliskan-Islam, Bryson, 和Narayanan的單詞相似性比較也得到了相同的結(jié)果：像Amy、Joan和家、父母之類的詞更相似。相反，John、Paul和公司、薪水之類的詞更相似。

研究者也發(fā)現(xiàn)，聽(tīng)起來(lái)像白人的名字和歡樂(lè)、平靜等令人愉悅的詞更相似，然而聽(tīng)起來(lái)像非洲裔美國(guó)人的名字和苦惱、戰(zhàn)爭(zhēng)等令人感到討厭的詞更相似——這從概念上驗(yàn)證了2004實(shí)驗(yàn)，該結(jié)果顯示公司更傾向于雇傭名字像白人的應(yīng)聘者。

我們要指出，這些結(jié)果并不意味著GloVe或者相關(guān)的算法有固有的偏見(jiàn)，這點(diǎn)很重要。事實(shí)上，很難理解他們?cè)趺磿?huì)有偏見(jiàn)。然而實(shí)際上，是我們的文化和語(yǔ)言有偏見(jiàn)，只要這是真的，Caliskan-Islam, Bryson, and, Narayanan寫(xiě)到，人工智能（AI）“就能夠從顯示歷史不公正的訓(xùn)練數(shù)據(jù)中獲得有害的偏見(jiàn)?！?/span>

 via psmag

推薦閱讀：

計(jì)算機(jī)系統(tǒng)里的偏見(jiàn)和歧視：除了殺死，還有其他方法

致程序員：算法為何帶有偏見(jiàn)？

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。