Twitter宣布了一項(xiàng)新計(jì)劃。

該計(jì)劃被稱為“負(fù)責(zé)任的機(jī)器學(xué)習(xí)”，主要研究Twitter所采用的算法的公平性。

計(jì)劃的內(nèi)容之一，就是由來(lái)自公司內(nèi)部的數(shù)據(jù)科學(xué)家和工程師們，研究Twitter對(duì)機(jī)器學(xué)習(xí)的使用如何導(dǎo)致算法偏差，并評(píng)估其算法可能造成的“無(wú)意傷害”，再將研究結(jié)果公之于眾。

“我們正在進(jìn)行深入的分析和研究，以評(píng)估我們使用的算法是否存在潛在危害，” Twitter在官方文件中寫道。

首要任務(wù)之一是評(píng)估Twitter圖像裁剪算法中的種族和性別偏見(jiàn)。隨著越來(lái)越多的新聞網(wǎng)站和社交媒體采用AI識(shí)別、提取圖片，人們開(kāi)始注意到許多算法，尤其是面部識(shí)別中存在的種族偏見(jiàn)。

此前有Twitter用戶指出，在有不同人種的照片中，Twitter的自動(dòng)圖像裁剪算法會(huì)在選擇預(yù)覽推文呈現(xiàn)的縮略圖區(qū)域時(shí)，更加突出膚色更淺的人像區(qū)域。

去年9月，有研究人員發(fā)現(xiàn)，點(diǎn)擊這些原始圖片，可以看到其中包含更多其他膚色的人群，但即使改變了原圖中深色人種和淺色人種出現(xiàn)的位置，預(yù)覽結(jié)果也不會(huì)改變。

也有網(wǎng)友認(rèn)為，出現(xiàn)這一情況是因?yàn)樗惴ǜ鼉A向于提取圖像中的亮度高和色彩密度大的區(qū)域，并不是“歧視”。

針對(duì)算法被指控種族歧視一事，Twitter當(dāng)時(shí)回應(yīng)稱，將展開(kāi)更多調(diào)查，并承諾將其圖像裁剪的機(jī)器學(xué)習(xí)算法開(kāi)源，接受更多用戶的審查和建議。

首席技術(shù)官Parag Agarwal表示，該算法需要不斷改進(jìn)，團(tuán)隊(duì)也渴望從經(jīng)驗(yàn)中學(xué)習(xí)。

從上個(gè)月起，Twitter開(kāi)始測(cè)試顯示完整圖像而不是裁剪預(yù)覽。

但就算Twitter的算法并非“故意”種族歧視，但研發(fā)過(guò)程中很可能會(huì)有一些缺陷導(dǎo)致種族歧視的出現(xiàn)。

NVIDIA的AI研究總監(jiān)Anima Anandkumar就曾指出，顯著性算法采用的訓(xùn)練集，是異性戀男性的眼球追蹤的數(shù)據(jù)，這顯然會(huì)將受試者的種族偏見(jiàn)轉(zhuǎn)移給算法。

此外，Twitter還將研究其內(nèi)容建議，包括時(shí)間線信息流在不同種族群體中的差異性等。

Twitter表示將與第三方學(xué)術(shù)研究人員“緊密合作”，分析結(jié)果后續(xù)將會(huì)分享出來(lái)，并征詢公眾的反饋。

目前尚不清楚這一計(jì)劃將產(chǎn)生多大影響。Twitter表示，這些研究成果不一定會(huì)體現(xiàn)在肉眼可見(jiàn)的產(chǎn)品變化是，更多時(shí)候是圍繞他們構(gòu)建和應(yīng)用機(jī)器學(xué)習(xí)的方式進(jìn)行重要討論。

Twitter首席執(zhí)行官杰克?多西（Jack Dorsey）也曾表示，他希望創(chuàng)建一個(gè)算法市場(chǎng)，類似應(yīng)用商店的形式，讓用戶能夠控制自己使用的算法。該公司在其最新的博客文章中說(shuō)，他們正處于探索“算法選擇”的早期階段。

不只是Twitter，其實(shí)對(duì)各大社交媒體平臺(tái)來(lái)說(shuō)，這是一個(gè)迫在眉睫的問(wèn)題。

受美國(guó)國(guó)內(nèi)一些社會(huì)事件的影響，立法者向Twitter、YouTube和Facebook施壓，要求他們提高算法的透明度。一些立法者提議立法，要求巨頭們?cè)u(píng)估算法是否存在偏見(jiàn)。

Twitter決定要分析自己的“算法偏見(jiàn)”，是在Facebook等其他社交網(wǎng)絡(luò)之后做出的——Facebook在2020年成立了類似的團(tuán)隊(duì)。

此前微軟也曾發(fā)生類似事件：早在2018年，微軟在識(shí)別膚色較淺的男性時(shí)，準(zhǔn)確性就已達(dá)到了100%，但在識(shí)別深色皮膚女性時(shí)，準(zhǔn)確率僅為79.2%。

去年六月初，微軟也同樣因?yàn)槊娌孔R(shí)別涉及種族歧視，引起了輿論風(fēng)波。

英國(guó)知名女團(tuán)Little Mix成員Jade Thirlwall發(fā)文，猛烈抨擊微軟新聞網(wǎng)站MSN在關(guān)于自己的報(bào)道中混淆使用了團(tuán)內(nèi)另一位成員的照片。

該篇報(bào)道證實(shí)是由AI抓取并生成，卻在尋找配圖時(shí)把黑皮膚的Leigh和阿拉伯裔的Jade弄混了。

在收到越來(lái)越多的的用戶投訴，以及反種族歧視浪潮的升溫之后，許多包括IBM和Amazon在內(nèi)的一大批科技公司被迫反思系統(tǒng)，尤其是面部識(shí)別技術(shù)中存在的偏見(jiàn)。

雷鋒網(wǎng)編譯，來(lái)源：The Verge

雷鋒網(wǎng)雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。