0
| 本文作者： 李雨晨 | 2020-01-25 14:44 |
（圖片來(lái)源：Lynne Shallcross / KHN）
雷鋒網(wǎng)按：本文譯自KHN，作者Liz Szabo，雷鋒網(wǎng)對(duì)其進(jìn)行了編譯。文章的基調(diào)略顯悲觀，言語(yǔ)之中對(duì)醫(yī)療AI多有批評(píng)。誠(chéng)然，現(xiàn)階段醫(yī)療AI有很多不足的地方。想要真正獲得世人的認(rèn)可，醫(yī)療AI要做的事情還有很多，這既需要?jiǎng)?chuàng)業(yè)者能夠腳踏實(shí)地、保持初心，也需要我們對(duì)AI尤其是醫(yī)療AI這個(gè)新事物保持足夠的信心。
從虛擬醫(yī)生到可穿戴式設(shè)備和藥房里的對(duì)話機(jī)器人，基于AI的健康產(chǎn)品正在快速進(jìn)入我們的生活。
美國(guó)加州的Scripps Research公司心臟病專家兼執(zhí)行副總裁Eric Topol博士說(shuō)：“在30多年的醫(yī)學(xué)研究中，我發(fā)現(xiàn)沒(méi)有像AI一樣具有影響力和變革性的東西。AI幫助醫(yī)生解釋心臟的核磁共振圖像、頭部CT的圖像和眼底照片，還能夠處理很多瑣碎的事情，讓醫(yī)生騰出更多的時(shí)間來(lái)關(guān)護(hù)病人?！?/p>
就連過(guò)去5年批準(zhǔn)了40多種人工智能產(chǎn)品的FDA也表示，“數(shù)字健康的潛力是革命性的?！?/p>
然而，一個(gè)行業(yè)的成長(zhǎng)不是一帆風(fēng)順的，畢竟醫(yī)療AI還處于很早期的階段。因此，就有許多醫(yī)療行業(yè)專家擔(dān)心，基于AI的產(chǎn)品將無(wú)法達(dá)到宣傳的效果。許多醫(yī)生和保護(hù)用戶權(quán)益的人士擔(dān)心，以“不斷試錯(cuò)、不斷迭代”為信條的科技行業(yè)正在把病人置于危險(xiǎn)之中，而監(jiān)管機(jī)構(gòu)在保護(hù)用戶安全方面顯然做得不夠。
斯坦福大學(xué)生物醫(yī)學(xué)倫理學(xué)中心的兒科教授Mildred Cho說(shuō)，現(xiàn)在市面上的早期人工智能產(chǎn)品（的實(shí)際表現(xiàn)），提醒我們?cè)谘邪l(fā)、部署的過(guò)程中應(yīng)該謹(jǐn)慎再謹(jǐn)慎。
Cho說(shuō)，在一家醫(yī)院開(kāi)發(fā)的系統(tǒng)在另一家醫(yī)院部署時(shí)經(jīng)常會(huì)失敗。事實(shí)證明，應(yīng)用于數(shù)百萬(wàn)美國(guó)人的AI產(chǎn)品已經(jīng)顯示出對(duì)少數(shù)族裔的歧視，而且AI系統(tǒng)有時(shí)會(huì)根據(jù)與疾病無(wú)關(guān)的因素做出預(yù)測(cè)。
在一個(gè)案例中，AI軟件錯(cuò)誤地得出結(jié)論：患有哮喘的肺炎患者死亡的可能性較小。這一錯(cuò)誤可能會(huì)讓醫(yī)生對(duì)哮喘患者的病情放松警惕。
克利夫蘭診所的心臟病學(xué)主席Steven Nissen博士說(shuō)：“這種情況（AI作出錯(cuò)誤判斷）導(dǎo)致嚴(yán)重的事故只是時(shí)間問(wèn)題?！?/p>
研究公司Gartner在2019年7月份的一份報(bào)告中總結(jié)道，僅在2019年第三季度，醫(yī)療AI產(chǎn)品就吸引了16億美元的風(fēng)險(xiǎn)資金，“幾乎處于虛高預(yù)期的頂峰” 、“隨著現(xiàn)實(shí)的考驗(yàn)，醫(yī)療AI可能會(huì)陷入幻滅的低谷”。
即便是《Deep Medicine：How Artificial Intelligence Can Make Healthcare Human Again》一書(shū)的作者Topol也承認(rèn)，許多人工智能產(chǎn)品不過(guò)是空話，“這是一個(gè)大雜燴?！?/p>
風(fēng)險(xiǎn)投資公司Venrock的合伙人Bob Kocher等專家則直言不諱，“大多數(shù)人工智能產(chǎn)品幾乎沒(méi)有證據(jù)支持它們，”Kocher說(shuō)，“在人工智能系統(tǒng)被大量患者使用之前，一些風(fēng)險(xiǎn)不會(huì)變得明顯。我們將繼續(xù)發(fā)現(xiàn)在醫(yī)療數(shù)據(jù)上使用人工智能的一系列風(fēng)險(xiǎn)和意想不到的后果?！?/p>
Topol說(shuō)，在美國(guó)銷售的人工智能產(chǎn)品都沒(méi)有經(jīng)過(guò)隨機(jī)臨床試驗(yàn)的測(cè)試，而隨機(jī)臨床試驗(yàn)是最有力的醫(yī)學(xué)證據(jù)來(lái)源。第一個(gè)也是唯一一個(gè)人工智能系統(tǒng)的隨機(jī)試驗(yàn)——計(jì)算機(jī)輔助診斷的結(jié)腸鏡檢查比標(biāo)準(zhǔn)方式發(fā)現(xiàn)更多的息肉于2019年10月在線發(fā)表。
《歐洲臨床研究雜志》2019年1月發(fā)表的一篇文章稱，很少有科技初創(chuàng)公司在同行評(píng)審的期刊上發(fā)表研究成果，而同行評(píng)審的期刊可以讓其他科學(xué)家審查他們的工作。這種只在新聞稿或公開(kāi)活動(dòng)中描述的“秘密研究”，往往夸大了一家公司的成就。
軟件開(kāi)發(fā)人員可能會(huì)高估人工智能設(shè)備的準(zhǔn)確性。專家指出，這是因?yàn)?，人工智能模型大多是在?jì)算機(jī)上測(cè)試的，而不是在醫(yī)院或者其他醫(yī)療機(jī)構(gòu)。斯坦福大學(xué)醫(yī)療保健學(xué)院AI臨床整合醫(yī)學(xué)信息學(xué)總監(jiān)Ron Li博士說(shuō)，使用未經(jīng)驗(yàn)證的軟件“可能會(huì)使患者成為不知情的豚鼠”。
除此之外，學(xué)習(xí)識(shí)別數(shù)據(jù)模式的人工智能系統(tǒng)通常被描述為“黑匣子”——開(kāi)發(fā)人員也不知道是如何得出結(jié)論的。威斯康星大學(xué)麥迪遜分校法律與生物倫理學(xué)教授Pilar Ossorio表示，考慮到人工智能是如此新的事物，而且它的許多風(fēng)險(xiǎn)還不為人知道，這個(gè)領(lǐng)域需要仔細(xì)的監(jiān)管。
然而，大多數(shù)人工智能設(shè)備并不需要FDA的批準(zhǔn)。
Kocher說(shuō)：“我所投資的公司都不受FDA的監(jiān)管?！?/p>
2016年，美國(guó)國(guó)會(huì)通過(guò)了一項(xiàng)法案，將許多類型的醫(yī)療軟件排除在聯(lián)邦審查之外，其中包括某些健身應(yīng)用、電子健康記錄和幫助醫(yī)生做出醫(yī)療決定的工具，這項(xiàng)法案得到了科技行業(yè)的支持。
美國(guó)國(guó)家醫(yī)學(xué)研究院12月17日發(fā)布的一份關(guān)于人工智能的報(bào)告顯示，很少有關(guān)于目前使用的32萬(wàn)個(gè)醫(yī)療應(yīng)用是否真的能改善健康的研究。
長(zhǎng)期以來(lái)，F(xiàn)DA一直將注意力集中在對(duì)患者構(gòu)成最大威脅的設(shè)備上。消費(fèi)者權(quán)益保護(hù)人士也承認(rèn)，與診斷或治療疾病的設(shè)備相比，一些幫助人們計(jì)算日常步數(shù)的設(shè)備只需要較少的檢查。
2018年《內(nèi)科醫(yī)學(xué)年鑒》的一項(xiàng)研究顯示，即使有法律要求，一些軟件開(kāi)發(fā)人員也不用申請(qǐng)F(tuán)DA批準(zhǔn)或授權(quán)，他們對(duì)進(jìn)行昂貴而耗時(shí)的試驗(yàn)興趣不大。
博思艾倫咨詢公司的負(fù)責(zé)人、美國(guó)國(guó)家科學(xué)院報(bào)告的合著者Joachim Roski說(shuō)，“這些公司主要關(guān)心的不是將自己提交給同行評(píng)議的期刊進(jìn)行嚴(yán)格的評(píng)估?！?/p>
但西雅圖艾倫人工智能研究所(Allen Institute for AI)首席執(zhí)行官Oren Etzioni表示，從經(jīng)濟(jì)的層面來(lái)說(shuō)，人工智能的開(kāi)發(fā)商確實(shí)需要保證自己產(chǎn)品的安全性。
Etzioni說(shuō)：“如果快速失敗意味著很多人會(huì)死去，我認(rèn)為我們不希望快速失敗?！薄叭绻腥怂劳龌驀?yán)重受傷，沒(méi)有人會(huì)高興，包括投資者?！?/p>
放寬準(zhǔn)入標(biāo)準(zhǔn)，F(xiàn)DA做對(duì)了嗎？
近年來(lái)，F(xiàn)DA因允許銷售危險(xiǎn)醫(yī)療設(shè)備而備受指責(zé)。國(guó)際調(diào)查記者聯(lián)盟認(rèn)為，在過(guò)去10年里，這些危險(xiǎn)醫(yī)療設(shè)備導(dǎo)致8萬(wàn)人死亡、170萬(wàn)人受傷。
這些設(shè)備中有許多是通過(guò)一種被稱為510(k)途徑的、有爭(zhēng)議的程序獲得許可使用的。該程序允許公司在沒(méi)有臨床測(cè)試的情況下銷售“中等風(fēng)險(xiǎn)”的產(chǎn)品，只要它們被認(rèn)為與現(xiàn)有設(shè)備相似。
雷鋒網(wǎng)了解到，2011年，美國(guó)國(guó)家醫(yī)學(xué)研究院的一個(gè)委員會(huì)得出結(jié)論，認(rèn)為510(k)程序存在根本性缺陷，F(xiàn)DA應(yīng)該將其淘汰并重新開(kāi)始。
但相反的是，F(xiàn)DA正在利用這一過(guò)程為人工智能設(shè)備開(kāi)綠燈。
據(jù)《美國(guó)醫(yī)學(xué)會(huì)雜志》11月的一篇文章稱，F(xiàn)DA在2017年和2018年批準(zhǔn)的14種人工智能產(chǎn)品中，有11種通過(guò)了510(k)程序。研究稱，這些產(chǎn)品似乎都沒(méi)有進(jìn)行過(guò)新的臨床試驗(yàn)。
2018年，F(xiàn)DA批準(zhǔn)了一款人工智能設(shè)備，該設(shè)備旨在幫助診斷肝癌和肺癌，其原理與20年前批準(zhǔn)的成像軟件相似。該軟件本身已被批準(zhǔn)，因?yàn)樗灰暈椤盎旧舷喈?dāng)于”1976年以前銷售的產(chǎn)品。
FDA設(shè)備與放射衛(wèi)生中心的數(shù)字健康主管Bakul Patel說(shuō)，今天由FDA批準(zhǔn)的AI產(chǎn)品基本上是“鎖定的”，因此它們的計(jì)算和結(jié)果在進(jìn)入市場(chǎng)后不會(huì)改變，F(xiàn)DA還沒(méi)有批準(zhǔn)“解鎖”的人工智能設(shè)備。
為了應(yīng)對(duì)大量AI產(chǎn)品，F(xiàn)DA正在測(cè)試一種完全不同的數(shù)字設(shè)備監(jiān)管方法，側(cè)重于評(píng)估公司，而不是產(chǎn)品。
FDA于2017年啟動(dòng)的“預(yù)認(rèn)證”試點(diǎn)項(xiàng)目，目的在于“減少軟件開(kāi)發(fā)人員進(jìn)入市場(chǎng)的時(shí)間和成本”，盡可能采用“負(fù)擔(dān)最小”的系統(tǒng)。FDA官員表示，他們希望跟上人工智能軟件開(kāi)發(fā)商的步伐。與X光機(jī)等傳統(tǒng)設(shè)備制造商相比，人工智能軟件開(kāi)發(fā)商更新產(chǎn)品的頻率要高得多。
2017年擔(dān)任FDA局長(zhǎng)時(shí)，Scott Gottlieb曾表示，政府監(jiān)管機(jī)構(gòu)需要確保其創(chuàng)新產(chǎn)品的方法“是有效的、能夠促進(jìn)創(chuàng)新、而不是阻礙創(chuàng)新”。
根據(jù)該計(jì)劃，F(xiàn)DA將對(duì)那些“表現(xiàn)出質(zhì)量和組織卓越文化”的公司進(jìn)行預(yù)先認(rèn)證，這將使他們能夠提供較少的設(shè)備前期數(shù)據(jù)。
預(yù)先認(rèn)證的公司可以發(fā)布帶有“流線型”審查的設(shè)備——或者完全不需要FDA審查。一旦產(chǎn)品上市，公司將負(fù)責(zé)監(jiān)控自己產(chǎn)品的安全性并向FDA匯報(bào)。蘋(píng)果、FitBit、三星、強(qiáng)生、Pear Therapeutics、Phosphorus、羅氏、Tidepool和 Verily Life Sciences等九家公司已被選中進(jìn)行試點(diǎn)。
當(dāng)然，高風(fēng)險(xiǎn)產(chǎn)品如用于起搏器的軟件，仍將接受FDA的全面評(píng)估?！拔覀兘^對(duì)不希望病人受傷，”P(pán)atel說(shuō)，如果需要，通過(guò)預(yù)先認(rèn)證的設(shè)備可以被召回，“我們?nèi)匀挥泻芏唷o(hù)欄’?！?/p>
但研究表明，即使是低風(fēng)險(xiǎn)和中等風(fēng)險(xiǎn)的設(shè)備也會(huì)因?yàn)閷?duì)患者的嚴(yán)重風(fēng)險(xiǎn)而被召回，例如，強(qiáng)生公司就曾召回了髖關(guān)節(jié)植入物和外科手術(shù)網(wǎng)。
所以，在寫(xiě)給FDA的一系列信函中，美國(guó)醫(yī)學(xué)協(xié)會(huì)和其他機(jī)構(gòu)對(duì)允許企業(yè)監(jiān)控自身績(jī)效和產(chǎn)品安全的做法是否明智提出了質(zhì)疑。
“榮譽(yù)不代表就可以放松監(jiān)管的力度?！贬t(yī)師協(xié)會(huì)董事會(huì)主席Jesse Ehrenfeld博士說(shuō)。
在10月份寫(xiě)給FDA的信中，馬薩諸塞州民主黨參議員Elizabeth Warren、明尼蘇達(dá)州民主黨參議員Tina Smith和華盛頓州民主黨參議員Patty M·urray質(zhì)疑FDA是否有能力確保公司安全報(bào)告“準(zhǔn)確、及時(shí)并基于所有可獲得的信息”。
某些AI設(shè)備比其他設(shè)備經(jīng)過(guò)了更仔細(xì)的測(cè)試，就以去年獲批的IDx-DR產(chǎn)品為例，在2018年獲得批準(zhǔn)之前，研究人員對(duì)10家初級(jí)保健診所的900名患者進(jìn)行了一項(xiàng)人工智能篩選糖網(wǎng)的研究。
IDx Technologies公司的創(chuàng)始人兼執(zhí)行董事長(zhǎng)Michael Abramoff博士說(shuō)，該公司與FDA合作了八年，才把產(chǎn)品做好。
雷鋒網(wǎng)了解到，IDx-DR產(chǎn)品可以對(duì)糖網(wǎng)患者進(jìn)行篩查，并將高危患者介紹給眼科專家，由他們做出最終診斷。IDx-DR是第一個(gè)“自主”的人工智能產(chǎn)品，它可以在沒(méi)有醫(yī)生的情況下做出篩查決定。
目前，該公司正在初級(jí)保健診所和雜貨店安裝AI系統(tǒng)，可以由具有高中文憑的員工進(jìn)行操作。另外，Abramoff還購(gòu)買(mǎi)了責(zé)任險(xiǎn)來(lái)承保任何患者的風(fēng)險(xiǎn)。
然而，一些人工智能創(chuàng)新產(chǎn)品卻產(chǎn)生了相反的效果。
例如，一家加拿大公司開(kāi)發(fā)了一款人工智能軟件，根據(jù)一個(gè)人的語(yǔ)言來(lái)預(yù)測(cè)患老年癡呆癥的風(fēng)險(xiǎn)。但是，個(gè)別患者的預(yù)測(cè)卻比其他患者更準(zhǔn)確。研究報(bào)告的撰寫(xiě)者之一、多倫多大學(xué)計(jì)算機(jī)科學(xué)副教授Frank Rudzicz解釋說(shuō)：“可能是由于一些人不熟悉英語(yǔ)，不知道怎么表達(dá)，而非認(rèn)知障礙。”
第二個(gè)例子是，紐約西奈山醫(yī)院的醫(yī)生們希望AI幫助他們利用X光片，來(lái)預(yù)測(cè)哪些病人有患肺炎的高風(fēng)險(xiǎn)。盡管該系統(tǒng)可以根據(jù)在西奈山拍攝的X光片做出準(zhǔn)確的預(yù)測(cè)，但在對(duì)其他醫(yī)院拍攝的圖像進(jìn)行測(cè)試時(shí)卻失敗了。
最終，研究人員意識(shí)到計(jì)算機(jī)只是學(xué)會(huì)了辨別在病人床旁拍攝的便攜式胸部X光片與在放射科拍攝之間的X光片的區(qū)別。
而對(duì)于那些病重而無(wú)法離開(kāi)房間的患者，醫(yī)生傾向于使用便攜式胸部X射線檢查。這些患者本身的病就很重，發(fā)生肺部感染的風(fēng)險(xiǎn)更大也就不足為奇了。
再比如，谷歌旗下的DeepMind開(kāi)發(fā)了一款基于人工智能的移動(dòng)應(yīng)用程序，可以提前48小時(shí)預(yù)測(cè)哪些住院患者會(huì)出現(xiàn)急性腎衰竭。DeepMind網(wǎng)站上有文章將倫敦一家醫(yī)院使用的這一系統(tǒng)描述為“游戲規(guī)則的改變者”。
但是，根據(jù)《自然》雜志7月份的一項(xiàng)研究，人工智能系統(tǒng)也會(huì)對(duì)每一個(gè)正確的結(jié)果產(chǎn)生兩次錯(cuò)誤警報(bào)。賓夕法尼亞大學(xué)附屬醫(yī)院放射學(xué)副教授Saurabh Jha博士說(shuō)，這或許可以解釋為什么患者的腎功能沒(méi)有改善。Jha說(shuō)，早期發(fā)現(xiàn)嚴(yán)重腎臟問(wèn)題的任何好處都可能被高比例的“過(guò)度診斷”所稀釋，在這種情況下，人工智能系統(tǒng)會(huì)標(biāo)記出不需要治療的“邊緣性”腎臟問(wèn)題。
結(jié)果，谷歌對(duì)Jha的結(jié)論不予置評(píng)。
Jha說(shuō)，假陽(yáng)性可能會(huì)讓醫(yī)生進(jìn)行不必要的檢查或停止推薦的治療方法，從而對(duì)患者造成傷害。例如，醫(yī)生擔(dān)心病人的腎臟可能會(huì)停止開(kāi)布洛芬（一種對(duì)腎功能有小風(fēng)險(xiǎn)的安全止痛藥），轉(zhuǎn)而開(kāi)阿片類藥物，這種藥物有嚴(yán)重的成癮風(fēng)險(xiǎn)。
斯坦福大學(xué)的Cho說(shuō)，正如這些研究表明的那樣，在實(shí)驗(yàn)室里取得好成績(jī)的軟件在實(shí)際場(chǎng)景中可能會(huì)失敗。這是因?yàn)榧膊”仍S多計(jì)算機(jī)科學(xué)家所預(yù)期的要復(fù)雜得多，而且醫(yī)院系統(tǒng)的功能本身就不是很完善。
2019年3月，KHN發(fā)布的一項(xiàng)調(diào)查發(fā)現(xiàn)，患者的用藥清單、實(shí)驗(yàn)室檢查和過(guò)敏有時(shí)會(huì)出現(xiàn)危及生命的錯(cuò)誤。
Cho說(shuō)，許多AI開(kāi)發(fā)人員會(huì)剔除電子健康記錄，因?yàn)樗鼈儼舜罅康脑敿?xì)數(shù)據(jù)。但是這些開(kāi)發(fā)人員通常沒(méi)有意識(shí)到他們的AI是在一個(gè)不健全的系統(tǒng)上構(gòu)建的，電子健康記錄是為計(jì)費(fèi)而不是為患者護(hù)理而開(kāi)發(fā)的，并且充滿了錯(cuò)誤或丟失的數(shù)據(jù)。
非營(yíng)利組織洛恩研究所的主席、心臟病學(xué)家Vikas Saini博士說(shuō)，考慮到其中的風(fēng)險(xiǎn)，醫(yī)生需要介入，保護(hù)病人的利益。
Saini說(shuō)：“企業(yè)家的工作要有遠(yuǎn)見(jiàn)、敢于冒險(xiǎn)，而醫(yī)生的工作是保護(hù)患者?！?/p>
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
