0
雷鋒網(wǎng)新智駕按:最近,有關(guān)佐治亞理工學(xué)院一項(xiàng)研究成果的新聞在互聯(lián)網(wǎng)上掀起了軒然大波,它們發(fā)現(xiàn)就連技術(shù)都玩起“種族歧視”了。
原來(lái),佐治亞理工學(xué)院的一篇研究論文顯示:靠機(jī)器學(xué)習(xí)完成感知的自動(dòng)駕駛汽車(chē),對(duì)有色人種的識(shí)別能力明顯低于白人。因此,媒體將其“引申”為自動(dòng)駕駛汽車(chē)在搞“種族歧視”。
這樣的新聞不但抓人眼球,還像是《黑鏡》重現(xiàn)。不過(guò),靜下心來(lái)想想你就會(huì)發(fā)現(xiàn),媒體把這條新聞推上頭條主要還是為了拉流量,他們才沒(méi)心情做個(gè)深度調(diào)查。
事實(shí)上,這所謂的研究成果漏洞百出。
首先,這篇名為《目標(biāo)檢測(cè)中的預(yù)測(cè)不平等》的研究只是“預(yù)發(fā)布”在了 arXiv(一個(gè)收集物理學(xué)、數(shù)學(xué)、計(jì)算機(jī)科學(xué)與生物學(xué)論文預(yù)印本的網(wǎng)站)上。
從本質(zhì)上來(lái)說(shuō),這是一篇還沒(méi)定稿,等待同業(yè)評(píng)審的論文。至于要等待多長(zhǎng)時(shí)間,沒(méi)人能說(shuō)清楚。不過(guò)看看 arXiv 上計(jì)算機(jī)科學(xué)下的計(jì)算視覺(jué)門(mén)類(lèi)你就會(huì)發(fā)現(xiàn),幾天時(shí)間里這兒就新增了 174 篇論文,平均每天 31 篇。即使有大量學(xué)術(shù)人員值守,這些論文也夠他們看上十天半個(gè)月了。可惜,arXiv 管這塊的只有一名工作人員,人家還是志愿者。
對(duì)于很少接觸學(xué)術(shù)界的讀者來(lái)說(shuō),這個(gè)論文評(píng)審的過(guò)程確實(shí)有些繁瑣,但現(xiàn)實(shí)中的同業(yè)評(píng)審就是這么嚴(yán)格。所以,arXiv 上的論文其實(shí)只能算學(xué)術(shù)日志,它只是一個(gè)存儲(chǔ)未評(píng)審論文的平臺(tái)。顯然,媒體直接忽略了這個(gè)巨大的區(qū)別,它們太當(dāng)真了。
據(jù)雷鋒網(wǎng)新智駕了解,作為本篇論文的第一作者,Benjamin Wilson 博士做這項(xiàng)研究是為了拷問(wèn)“機(jī)器學(xué)習(xí)的公平性”。這個(gè)切入點(diǎn)選的確實(shí)很棒,因?yàn)闃I(yè)內(nèi)有許多人對(duì) AI 的偏見(jiàn)很感興趣,在面部識(shí)別領(lǐng)域已經(jīng)有多篇類(lèi)似論文問(wèn)世。不過(guò),如果你意識(shí)到作者只是想把面部識(shí)別系統(tǒng)中存在的偏見(jiàn)“栽贓”給自動(dòng)駕駛系統(tǒng),馬上就會(huì)覺(jué)得這項(xiàng)研究索然無(wú)味了。
事實(shí)上,自動(dòng)駕駛系統(tǒng)對(duì)膚色根本沒(méi)興趣,因?yàn)樗ぷ鲿r(shí)靠的是可見(jiàn)光譜,從根本上避免了任何“歧視”出現(xiàn)的可能。
“自動(dòng)駕駛傳感器跟面部識(shí)別技術(shù)沒(méi)有任何關(guān)聯(lián)性,”卡耐基梅隆大學(xué)機(jī)器人學(xué)院主管 Martial Hebert 說(shuō)道。“畢竟行人面部在自動(dòng)駕駛系統(tǒng)看來(lái)只不過(guò)是幾個(gè)像素點(diǎn)而已,膚色根本無(wú)足輕重?!?/p>
無(wú)論技術(shù)如何進(jìn)化,自動(dòng)駕駛汽車(chē)也無(wú)法站上能探測(cè)到行人膚色的高度,因?yàn)樗€要考慮定位、路徑和規(guī)劃等任務(wù),如果再加上膚色識(shí)別就過(guò)于復(fù)雜了。別忘了,自動(dòng)駕駛系統(tǒng)還得實(shí)時(shí)保證車(chē)輛安全。也就是說(shuō),自動(dòng)駕駛汽車(chē)根本不可能為了識(shí)別膚色浪費(fèi)大量算力,研發(fā)人員腦子可清醒著呢。
事實(shí)上,本篇論文的作者恐怕很難自圓其說(shuō),因?yàn)樗约壕统姓J(rèn),在研究中想基于膚色在訓(xùn)練數(shù)據(jù)中打個(gè)標(biāo)簽都困難的要死。“我們發(fā)現(xiàn),初期實(shí)驗(yàn)中就出現(xiàn)了大量不符合項(xiàng)?!盬ilson 寫(xiě)道?!拔覀儜岩蛇@是大量裁切圖像尺寸過(guò)小引起的?!?/p>
相對(duì)較小的圖像就夠自動(dòng)駕駛汽車(chē)用,這不但是因?yàn)樗鼈儾恍枰獜膱D像中提取類(lèi)似膚色的細(xì)節(jié)信息,還是因?yàn)橹豢繄D像不可靠。
一般來(lái)說(shuō),自動(dòng)駕駛汽車(chē)的工作是“傳感器三大天王”撐起來(lái)的,對(duì)激光雷達(dá)、攝像頭和雷達(dá)進(jìn)行數(shù)據(jù)融合才能得出最真實(shí)的路況信息。由于激光雷達(dá)和雷達(dá)工作時(shí)靠的是激光和無(wú)線(xiàn)電波,因此在它們的字典里不可能有膚色二字。
Allvision 公司 CEO Aaron Morris 聽(tīng)到媒體的報(bào)道很惱火,他表示:“實(shí)話(huà)說(shuō),在自動(dòng)駕駛汽車(chē)眼里,膚色根本就不重要,畢竟正常人可不會(huì)在大街上裸奔。它們探測(cè)的唯一目標(biāo)就是不撞到行人,其它額外信息都是些噪音罷了。”
自動(dòng)駕駛開(kāi)發(fā)者其實(shí)很關(guān)心行人探測(cè)工作,因?yàn)樗擒?chē)輛能否完成主要任務(wù)(持續(xù)且迅速完成定位和路徑規(guī)劃)的基礎(chǔ),特別是去年 Uber 測(cè)試車(chē)在鳳凰城惹出命案之后。
當(dāng)然,如果自動(dòng)駕駛汽車(chē)真的需要破譯行人膚色或其它物理細(xì)節(jié)的話(huà),也許這篇論文就能派上用場(chǎng)了。否則,它就只能用來(lái)證明 100% 基于攝像頭的自動(dòng)駕駛系統(tǒng)不可取。好在,大多數(shù)自動(dòng)駕駛開(kāi)發(fā)商都是三種傳感器配齊,因?yàn)樗麄儞?dān)心復(fù)雜的邊緣場(chǎng)景會(huì)遮擋住行人的身體,導(dǎo)致悲劇發(fā)生,而邊緣場(chǎng)景可與種族歧視無(wú)關(guān)。
在許多人心中埋下了不信任的種子,而信任是當(dāng)下自動(dòng)駕駛汽車(chē)最珍貴的財(cái)富。(雷鋒網(wǎng)新智駕)
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。