0
雷鋒網(wǎng)新智駕按:最近,有關(guān)佐治亞理工學院一項研究成果的新聞在互聯(lián)網(wǎng)上掀起了軒然大波,它們發(fā)現(xiàn)就連技術(shù)都玩起“種族歧視”了。
原來,佐治亞理工學院的一篇研究論文顯示:靠機器學習完成感知的自動駕駛汽車,對有色人種的識別能力明顯低于白人。因此,媒體將其“引申”為自動駕駛汽車在搞“種族歧視”。
這樣的新聞不但抓人眼球,還像是《黑鏡》重現(xiàn)。不過,靜下心來想想你就會發(fā)現(xiàn),媒體把這條新聞推上頭條主要還是為了拉流量,他們才沒心情做個深度調(diào)查。
事實上,這所謂的研究成果漏洞百出。
首先,這篇名為《目標檢測中的預(yù)測不平等》的研究只是“預(yù)發(fā)布”在了 arXiv(一個收集物理學、數(shù)學、計算機科學與生物學論文預(yù)印本的網(wǎng)站)上。
從本質(zhì)上來說,這是一篇還沒定稿,等待同業(yè)評審的論文。至于要等待多長時間,沒人能說清楚。不過看看 arXiv 上計算機科學下的計算視覺門類你就會發(fā)現(xiàn),幾天時間里這兒就新增了 174 篇論文,平均每天 31 篇。即使有大量學術(shù)人員值守,這些論文也夠他們看上十天半個月了??上В琣rXiv 管這塊的只有一名工作人員,人家還是志愿者。
對于很少接觸學術(shù)界的讀者來說,這個論文評審的過程確實有些繁瑣,但現(xiàn)實中的同業(yè)評審就是這么嚴格。所以,arXiv 上的論文其實只能算學術(shù)日志,它只是一個存儲未評審論文的平臺。顯然,媒體直接忽略了這個巨大的區(qū)別,它們太當真了。
據(jù)雷鋒網(wǎng)新智駕了解,作為本篇論文的第一作者,Benjamin Wilson 博士做這項研究是為了拷問“機器學習的公平性”。這個切入點選的確實很棒,因為業(yè)內(nèi)有許多人對 AI 的偏見很感興趣,在面部識別領(lǐng)域已經(jīng)有多篇類似論文問世。不過,如果你意識到作者只是想把面部識別系統(tǒng)中存在的偏見“栽贓”給自動駕駛系統(tǒng),馬上就會覺得這項研究索然無味了。
事實上,自動駕駛系統(tǒng)對膚色根本沒興趣,因為它工作時靠的是可見光譜,從根本上避免了任何“歧視”出現(xiàn)的可能。
“自動駕駛傳感器跟面部識別技術(shù)沒有任何關(guān)聯(lián)性,”卡耐基梅隆大學機器人學院主管 Martial Hebert 說道?!爱吘剐腥嗣娌吭谧詣玉{駛系統(tǒng)看來只不過是幾個像素點而已,膚色根本無足輕重?!?/p>
無論技術(shù)如何進化,自動駕駛汽車也無法站上能探測到行人膚色的高度,因為它還要考慮定位、路徑和規(guī)劃等任務(wù),如果再加上膚色識別就過于復(fù)雜了。別忘了,自動駕駛系統(tǒng)還得實時保證車輛安全。也就是說,自動駕駛汽車根本不可能為了識別膚色浪費大量算力,研發(fā)人員腦子可清醒著呢。
事實上,本篇論文的作者恐怕很難自圓其說,因為他自己就承認,在研究中想基于膚色在訓練數(shù)據(jù)中打個標簽都困難的要死?!拔覀儼l(fā)現(xiàn),初期實驗中就出現(xiàn)了大量不符合項?!盬ilson 寫道?!拔覀儜岩蛇@是大量裁切圖像尺寸過小引起的?!?/p>
相對較小的圖像就夠自動駕駛汽車用,這不但是因為它們不需要從圖像中提取類似膚色的細節(jié)信息,還是因為只靠圖像不可靠。
一般來說,自動駕駛汽車的工作是“傳感器三大天王”撐起來的,對激光雷達、攝像頭和雷達進行數(shù)據(jù)融合才能得出最真實的路況信息。由于激光雷達和雷達工作時靠的是激光和無線電波,因此在它們的字典里不可能有膚色二字。
Allvision 公司 CEO Aaron Morris 聽到媒體的報道很惱火,他表示:“實話說,在自動駕駛汽車眼里,膚色根本就不重要,畢竟正常人可不會在大街上裸奔。它們探測的唯一目標就是不撞到行人,其它額外信息都是些噪音罷了?!?/p>
自動駕駛開發(fā)者其實很關(guān)心行人探測工作,因為它是車輛能否完成主要任務(wù)(持續(xù)且迅速完成定位和路徑規(guī)劃)的基礎(chǔ),特別是去年 Uber 測試車在鳳凰城惹出命案之后。
當然,如果自動駕駛汽車真的需要破譯行人膚色或其它物理細節(jié)的話,也許這篇論文就能派上用場了。否則,它就只能用來證明 100% 基于攝像頭的自動駕駛系統(tǒng)不可取。好在,大多數(shù)自動駕駛開發(fā)商都是三種傳感器配齊,因為他們擔心復(fù)雜的邊緣場景會遮擋住行人的身體,導致悲劇發(fā)生,而邊緣場景可與種族歧視無關(guān)。
在許多人心中埋下了不信任的種子,而信任是當下自動駕駛汽車最珍貴的財富。(雷鋒網(wǎng)新智駕)
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。