麻省理工學(xué)院和哈佛大學(xué)的一個(gè)研究團(tuán)隊(duì)在醫(yī)學(xué)雜志《柳葉刀數(shù)字健康》上發(fā)表文章，稱AI程序可以從X射線和CT掃描結(jié)果中分辨患者的種族，準(zhǔn)確率高達(dá)90%。

這并不是一個(gè)好消息，因?yàn)檫B科學(xué)家們都沒(méi)弄清楚這些AI程序是如何做到分辨種族的。

“當(dāng)我的研究生向我展示這篇論文中的某些結(jié)果時(shí)，我認(rèn)為這一定出了差錯(cuò)?！必?fù)責(zé)分析對(duì)應(yīng)主題的論文作者之一，麻省理工學(xué)院助理教授Marzyeh Ghassemi告訴媒體，“當(dāng)他們告訴我的時(shí)候，我真的以為我的學(xué)生瘋了?！?/p>

Marzyeh Ghassemi

這篇文章中提到，AI診斷系統(tǒng)似乎會(huì)根據(jù)種族對(duì)患者進(jìn)行診斷和治療，而非患者的個(gè)人身體狀況。

這種做法將會(huì)損害患者的健康。

研究人員提到一個(gè)案例，AI程序在檢查胸部X光片時(shí)，漏掉黑人和女性患者身體病變的幾率更高。

而這項(xiàng)研究的目的，正是確認(rèn)AI系統(tǒng)從醫(yī)學(xué)影像中檢測(cè)人類種族的程度，以及它們?nèi)绾螐闹袡z測(cè)出種族信息。

為此，研究團(tuán)隊(duì)使用人類身體不同部位的醫(yī)學(xué)圖像對(duì)AI系統(tǒng)進(jìn)行訓(xùn)練。被提供給AI系統(tǒng)的醫(yī)學(xué)影像中，不包含頭發(fā)質(zhì)地、膚色以及BMI或骨密度等明顯的種族標(biāo)記。

通過(guò)測(cè)試，研究人員發(fā)現(xiàn)，AI系統(tǒng)對(duì)人類種族的識(shí)別準(zhǔn)確率高達(dá)90%。不論是哪個(gè)身體部位的醫(yī)學(xué)影像，AI系統(tǒng)都能從中識(shí)別出種族信息。

更令人驚訝的是，即便是嚴(yán)重缺失或損壞的醫(yī)學(xué)影像，AI系統(tǒng)也能從中準(zhǔn)確識(shí)別種族。

研究人員更關(guān)心的，并非是AI系統(tǒng)能夠檢測(cè)人類種族這件事情本身，而是AI系統(tǒng)的臨床表現(xiàn)將因?yàn)檫@些種族偏見(jiàn)受到影響。而醫(yī)生可能會(huì)忽略AI系統(tǒng)診斷結(jié)果中的誤差。

文章的作者表示，“AI預(yù)測(cè)種族身份的能力本身并不重要，但是這種能力很可能存在于許多醫(yī)學(xué)影像分析模型中，這將會(huì)使臨床中已經(jīng)存在的種族差異問(wèn)題惡化?！?/p>

人類目前還無(wú)法確認(rèn)AI系統(tǒng)從醫(yī)學(xué)影像的哪些特征中檢測(cè)出患者的種族，加之AI能夠從身體任何部位的醫(yī)學(xué)影像，以及嚴(yán)重?fù)p壞的醫(yī)學(xué)影像中識(shí)別患者種族，這意味著使用醫(yī)學(xué)成像技術(shù)創(chuàng)建一個(gè)沒(méi)有種族偏見(jiàn)的AI系統(tǒng)將會(huì)非常困難。

Ghassemi告訴媒體，她猜測(cè)，也許是醫(yī)學(xué)圖像以某種未知方式記錄了患者皮膚中黑色素的水平，從而被AI系統(tǒng)識(shí)別。

根據(jù)研究結(jié)果，也有可能是種族之間存在一些先天的差異。

罕布什爾學(xué)院生物人類學(xué)教授、《種族主義不是種族》的作者之一Alan Goodman告訴媒體，他不太認(rèn)同這種說(shuō)法。

Alan Goodman

在過(guò)往的研究中，科學(xué)家們很難在人類基因組中找到一致的種族差異，但往往能根據(jù)人類祖先的進(jìn)化找到一致的遺傳差異。因此，人與人之間的基因差異，更大概率是源于人類個(gè)體祖先進(jìn)化的不同特征，而非種族。

Ghassemi表示，這一問(wèn)題還需要進(jìn)行更多的研究才能得出明確的結(jié)論。

“我們需要暫停AI系統(tǒng)的落地，”麻省理工學(xué)院的科學(xué)家、醫(yī)生Leo Anthony Celi說(shuō)，“在確認(rèn)AI系統(tǒng)沒(méi)有做出種族主義決定或性別歧視決定之前，我們不能急于將其帶入醫(yī)院和診所?！?span style="color: #FFFFFF;">雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))

資料來(lái)源：https://www.boston.com/news/health/2022/05/18/scientists-create-ai-race-from-x-rays-dont-know-how-it-works-harvard-mit/

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。