0
雷鋒網(wǎng)訊，日前，來自路透社的一則報(bào)道稱，Google AI部門要求其研究人員在人工智能的論文中給出“樂觀態(tài)度”的基調(diào)。
這主要來自對(duì)包括面孔、性感分析，以及性別、種族、意識(shí)形態(tài)等在內(nèi)的敏感話題類的研究論文增加的一道審查，在此之前研究人員還需要先咨詢法律、政策和公司的公關(guān)部門。
該規(guī)定其中有一頁(yè)這樣寫道：“技術(shù)的進(jìn)步和外部日益復(fù)雜的環(huán)境情況，導(dǎo)致看似有冒犯性的研究項(xiàng)目引發(fā)道德、聲譽(yù)、法律法規(guī)等問題。”
路透社稱，現(xiàn)無法確定詳細(xì)頒發(fā)日期，根據(jù)已知的三名現(xiàn)任員工給出的信息來看該規(guī)定始于今年6月。
此外，員工還被多次要求“不要以消極的態(tài)度闡述技術(shù)”。
比如，負(fù)責(zé)推薦算法論文的研究人員被告知“要格外小心，表現(xiàn)出積極的語(yǔ)氣”，該推薦算法主要用于對(duì)YouTube等平臺(tái)上的內(nèi)容進(jìn)行個(gè)性化推薦。最終，該作者采取的措施為“將論文中有關(guān)谷歌產(chǎn)品的所有引用全部刪除”。
路透社還寫道，另一篇有關(guān)語(yǔ)言理解算法的論文“淡化了對(duì)Google Translate這一產(chǎn)品出錯(cuò)的引用”，進(jìn)行修改是為了響應(yīng)審核人員的要求。
一直以來，谷歌的標(biāo)準(zhǔn)審核過程旨在確保研究人員不會(huì)無意間泄露商業(yè)秘密，但“敏感類主題”的審核卻不僅僅限于此。目前來看，谷歌還希望評(píng)估自己的產(chǎn)品服務(wù)抹去偏見的基調(diào)，這些敏感類主題包括“國(guó)家、石油工業(yè)、位置數(shù)據(jù)、宗教和以色列”。
實(shí)際上，自從12月初AI倫理專家Timnit Gebru被解雇以來，這家搜索巨頭的動(dòng)作一直備受關(guān)注。Gebru此前曾說，她因發(fā)送給Google AI研究人員內(nèi)部小組Google Brain Women and Allies listserv的電子郵件而被終止。這封郵件中，她談到了谷歌經(jīng)理敦促她撤回有關(guān)大規(guī)模語(yǔ)言處理模型危險(xiǎn)性的論文。Google AI的掌門人Jeff Dean說，她在截止日期之前提交了這篇論文。不過，Gebru的團(tuán)隊(duì)拒絕了這一主張，稱該規(guī)定存在“不公正、歧視性”。
據(jù)華盛頓郵報(bào)此前報(bào)道，Gebru于今年9月份與谷歌的公關(guān)和政策小組聯(lián)系。她知道公司可能會(huì)對(duì)研究的某些方面產(chǎn)生疑問，因?yàn)楣雀柙谒阉饕嬷惺褂昧舜笮驼Z(yǔ)言處理模型。對(duì)該論文進(jìn)行修改的截止日期是2021年1月，直到研究人員有足夠的時(shí)間來解決這些問題。
然而，感恩節(jié)前一周，Google Research副總裁Megan Kacholia要求Gebru收回論文。第二個(gè)月，Gebru被解雇了。（雷鋒網(wǎng)譯）雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
