艾格·格雷夫斯基一直想讓硅谷變得更加多元化。他于2012年創(chuàng)辦了一家叫做Mya Systems的公司，這家公司的總部位于舊金山。格雷夫斯基希望通過這家公司減少人為因素對(duì)企業(yè)招聘的影響?！拔覀冋龂L試剔除招聘過程中的偏見”，他說道。

格雷夫斯基正在和Mya共同實(shí)現(xiàn)他的目標(biāo)。Mya是一個(gè)很智能的聊天機(jī)器人，可以對(duì)求職者進(jìn)行面試和評(píng)估。格雷夫斯基認(rèn)為，和一些招聘人員不同，經(jīng)過編程的Mya會(huì)向求職者提出客觀的、基于工作表現(xiàn)的問題，并避免人類可能產(chǎn)生的潛意識(shí)判斷。Mya評(píng)估求職者的簡(jiǎn)歷時(shí)，不會(huì)關(guān)注他的外表、性別和名字?！拔覀冋龢O力剝除這些因素”，格雷夫斯基說道。

格雷夫斯基表示，目前已經(jīng)有幾家大型招聘機(jī)構(gòu)正在使用Mya，不過他拒絕透露這些公司的名字。這些招聘機(jī)構(gòu)用Mya來(lái)對(duì)求職者進(jìn)行初試。Mya可以根據(jù)工作的核心要求對(duì)申請(qǐng)者進(jìn)行篩選，了解他們的教育和專業(yè)背景，告知求職者他們所應(yīng)聘職位的細(xì)節(jié)，衡量他們是否感興趣；同時(shí)還能回答求職者關(guān)于公司政策和文化方面的疑問。

科技產(chǎn)業(yè)多元化不足

眾所周知，科技產(chǎn)業(yè)存在多元化不足的問題，而且糾正這一失衡現(xiàn)象的速度緩慢得令人失望。雖然有公司指出這是“流水線調(diào)度問題”，但其實(shí)問題的根源出在招聘。招聘是一件非常復(fù)雜、繁重的工作，招聘人員需要挑選出最合適的人選，但他們往往存在許多偏見。某種程度而言，招聘系統(tǒng)決定了企業(yè)的技術(shù)人才構(gòu)成。假如企業(yè)能夠擺脫招聘過程中的人為因素重新招聘，會(huì)發(fā)生些什么呢？很多創(chuàng)業(yè)公司正在開發(fā)相關(guān)的工具和平臺(tái)，用人工智能技術(shù)招聘人才，他們認(rèn)為這些工具和平臺(tái)將大幅減少招聘過程中的偏見。

HireVue也是一家嘗試用人工智能消除招聘偏見的企業(yè)。通過基于智能視頻和文本的軟件，HireVue可以從視頻面試中提取多達(dá)25000個(gè)數(shù)據(jù)點(diǎn)，從而判斷出最合適的工作人選。英特爾、沃達(dá)豐、聯(lián)合利華和耐克等公司都在使用HireVue的系統(tǒng)。HireVue的評(píng)估依據(jù)涵蓋了面部表情到詞匯表達(dá)等眾多因素，它甚至可以衡量應(yīng)聘者的同情心等抽象品質(zhì)。HireVue的首席技術(shù)官Loren Larsen表示，通過HireVue“無(wú)論應(yīng)聘者是什么性別、種族、年齡，做過那些工作，讀的什么大學(xué)，都將獲得同樣的機(jī)會(huì)?！币?yàn)檫@款工具為所有應(yīng)聘者提供了相同的應(yīng)聘流程，而不是像人類招聘員那樣，情緒和環(huán)境等因素都會(huì)影響到他的判斷。

盡管AI招聘工具尚未得到廣泛使用，但咨詢公司CEB的產(chǎn)品管理總監(jiān)Aman Alexander認(rèn)為，它在人力資源中的流行度正在增加。CEB公司為AMD、Comcast、Philips、Thomson Reuters以及沃爾瑪?shù)却笮推髽I(yè)提供了一系列的人力資源工具。Aman Alexander說道：“需求一直在快速增長(zhǎng)。招聘工具最大的用戶不是科技公司，而是需要招聘大量員工的大型零售商。這意味著對(duì)于企業(yè)主而言，它們最大的魅力在于可以提升效率而不是公平性。”

不過，HireVue和Mya等產(chǎn)品背后的團(tuán)隊(duì)認(rèn)為，它們的工具可以讓招聘過程更加公平。因?yàn)樽詣?dòng)化需要設(shè)立標(biāo)準(zhǔn)，這意味著使用人工智能助手的企業(yè)必須清楚如何對(duì)應(yīng)聘者進(jìn)行評(píng)估。理想情況下，這些參數(shù)可以在良性循環(huán)中不斷更新，AI系統(tǒng)通過分析它收集到的收據(jù)，可以讓整個(gè)過程更加公正沒有偏見。

不過值得注意的是，AI的效用是由驅(qū)動(dòng)它的數(shù)據(jù)決定的，而這些數(shù)據(jù)又是由凌亂、令人失望且充滿偏見的人類產(chǎn)生的。

AI并不能消除偏見

只要你深入挖掘那些旨在促進(jìn)公平的算法，就會(huì)發(fā)現(xiàn)它們或多或少都存在偏見。ProPublica檢查用于預(yù)測(cè)再犯率的警用工具時(shí)發(fā)現(xiàn)，該算法對(duì)非裔美國(guó)人存在偏見。Beauty.AI是一個(gè)利用人臉和年齡識(shí)別算法選美的軟件，它可以從提交的一系列照片中選出最具吸引力的人物。不過令人遺憾的是，它對(duì)淺色皮膚和頭發(fā)的人表現(xiàn)出了強(qiáng)烈的偏愛。

即便是那些AI系統(tǒng)的創(chuàng)造者也不得不承認(rèn)，AI并非完全沒有偏見。AI招聘平臺(tái)Talent Sonar的創(chuàng)始人兼CEO勞拉?馬瑟（Laura Mather）表示：“在招聘過程中使用AI非但不會(huì)減少，反而會(huì)增加偏見?！彼J(rèn)為，AI依賴于人類團(tuán)隊(duì)所產(chǎn)生的訓(xùn)練集，所以它只會(huì)增加偏見而不是消除它。它雇傭的人可能“都很聰明、有天賦，但卻彼此十分相似”。

此外，由于AI是為處理大批量招聘而開發(fā)的，任何偏見都將對(duì)誰(shuí)將脫穎而出產(chǎn)生系統(tǒng)級(jí)的影響。據(jù)格雷夫斯基介紹，Mya Systems正在聚焦零售等行業(yè)?！癈VS Health正在招聘12萬(wàn)人補(bǔ)充到它的各個(gè)零售點(diǎn)中，Nike每年招募的人也有8萬(wàn)之多”。任何滲透到系統(tǒng)中的偏見都將產(chǎn)生工業(yè)規(guī)模的影響。當(dāng)面對(duì)多達(dá)12萬(wàn)的規(guī)模龐大的申請(qǐng)者時(shí)，AI平臺(tái)可能會(huì)讓招聘標(biāo)準(zhǔn)迅速偏離人類招聘專員最初的設(shè)置的標(biāo)準(zhǔn)。

話又說回來(lái)，AI的強(qiáng)大能力也有一定的好處：它解放了招聘人員，讓他們可以集中精力做出更加明智的最終決定。“在我的一生中，我和成千上萬(wàn)個(gè)招聘人員交談過，他們每一個(gè)人都在抱怨自己的時(shí)間不夠用”，格雷夫斯基說道。既然沒有足夠的時(shí)間和每一個(gè)應(yīng)聘者交談，那么直覺決策就變得很重要。AI不僅使得招聘人員可以應(yīng)對(duì)更大規(guī)模的應(yīng)聘者，同時(shí)也幫助他們告別了快速?zèng)Q策的工作狀態(tài)，能夠更加從容周全地思考和判斷。

要避免AI系統(tǒng)步入“偏見”的陷阱，就要求工程師和程序員具有超知覺。格雷夫斯基解釋道，Mya Systems對(duì)Mya用來(lái)學(xué)習(xí)的數(shù)據(jù)種類進(jìn)行了控制。這意味著Mya的決策是基于Mya Systems及其客戶預(yù)先批準(zhǔn)的數(shù)據(jù)生成的，而非原始的、未經(jīng)處理的招聘和語(yǔ)言數(shù)據(jù)。這減小了Mya像Tay一樣學(xué)習(xí)偏見的可能性。Tay是微軟去年發(fā)布的聊天機(jī)器人，經(jīng)過循環(huán)學(xué)習(xí)后，它很快變成了一個(gè)種族主義者。不過Mya Systems的做法并不能消除偏見，因?yàn)槿魏谓?jīng)過審核的數(shù)據(jù)都反映了人們的選擇傾向和偏好。

正因?yàn)槿绱?，AI人力資源工具可能無(wú)法消除偏見，反而會(huì)將其永久化。ReadySet是一家位于奧克蘭的多元化咨詢公司，其執(zhí)行總監(jiān)Y-Vonne Hutchinson表示：“我們盡量不將AI視為靈丹妙藥。AI是一個(gè)工具，AI有制造商，有時(shí)AI可以放大制造商的偏見和制造商的盲點(diǎn)。Hutchinson 接著說道：“要讓這些工具工作，使用它們的招聘人員必須經(jīng)過訓(xùn)練，要能夠發(fā)現(xiàn)自己和其他人的偏見?！比绻麤]有這種多元化的訓(xùn)練，人類招聘專員就會(huì)把他們的偏見植入到招聘的不同環(huán)節(jié)。

AI讓硅谷變得更好

一些使用AI人力資源工具的公司正在努力增強(qiáng)其多元性。Textio是一個(gè)智能文本編輯器，它可以運(yùn)用大數(shù)據(jù)和機(jī)器學(xué)習(xí)對(duì)職位列表提出修改意見，從而吸引不同類型的人才。Atlassian是Textio的眾多客戶之一，據(jù)Atlassian全球多元化和包容性負(fù)責(zé)人奧布里·布蘭奇表示，Textio幫助公司將新員工中的女性比例從18％提高到了57％。

布蘭奇說道：“我們看到，我們篩選和最終雇傭的應(yīng)聘者在性別分布上有了顯著的變化。她表示，使用Textio的意想不到的好處之一是，除了Atlassian的應(yīng)聘者變得多元化之外，公司對(duì)企業(yè)文化也有了自我認(rèn)識(shí)?！斑@引起了很多關(guān)于語(yǔ)言如何影響我們作為雇主的品牌形象的內(nèi)部討論”。

總而言之，如果AI招聘工具能夠提高生產(chǎn)力，那么它就能得到更加廣泛的使用。但如果企業(yè)想僅僅靠引進(jìn)AI來(lái)讓招聘更加公平，這還遠(yuǎn)遠(yuǎn)不夠。用不斷加深的對(duì)多元化的認(rèn)知來(lái)完善AI系統(tǒng)十分重要。AI或許無(wú)法成為科技行業(yè)解決多元化問題的靈丹妙藥，它充其量只是硅谷努力變得更好的一種重要工具罷了。

via wired     雷鋒網(wǎng)編譯 雷鋒網(wǎng)雷鋒網(wǎng)

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。