0
| 本文作者： 李雨晨 | 2020-11-30 10:37 |
雷鋒網消息，日前，AI領域頂會EMNLP 2020落下帷幕。
今年全球僅有754篇論文被接受，接收率為24%，阿里巴巴憑借28篇論文成為入選論文數最多的中國科技公司。
據雷鋒網了解，阿里相關研究成果覆蓋情感分析、文本生成及醫(yī)療NLP等領域。
在今年疫情的大環(huán)境下，醫(yī)療領域的研究與成果產出也不斷提速。
在名為《Predicting Clinical Trial Results by Implicit Evidence Integration》的論文中，達摩院研究團隊設計了針對醫(yī)學臨床試驗的進一步預訓練任務，并提出全新的模型，幫助醫(yī)學研究工作者更好地選擇醫(yī)學臨床試驗，以更快地找到有效的治療方案。
研究團隊在COVID-evidence數據集上完成了試驗，并證明了模型的有效性。
論文鏈接：https://www.aclweb.org/anthology/2020.emnlp-main.114/
為此，該論文作者、達摩院算法專家譚傳奇進行了解讀。
自18年谷歌BERT橫空出世以來，預訓練語言模型一躍成為自然語言處理領域的研究熱點，“Pre-training + Fine-tune”也成為NLP任務的新范式，將自然語言處理由原來的手工調參、依靠機器學習專家的階段，進入到可以大規(guī)模、可復制的大工業(yè)施展的階段。
這篇論文在BioBERT（在醫(yī)學數據上訓練的BERT模型）的基礎上，設計了針對醫(yī)學臨床試驗的進一步預訓練任務（Post-Pre-training），最終在真實醫(yī)學臨床試驗數據上微調（Fine-tune）后，取得了超過10個百分點的結果提升。
而這項工作的意義在于，幫助醫(yī)學研究工作者更好地選擇醫(yī)學臨床試驗，特別在COVID-19疫情下，更好的醫(yī)學臨床試驗或許就意味著能更快地找到有效的治療方案。
在循證醫(yī)學的時代，任何的治療都要有相應的臨床證據支持。證據往往來自于高質量的臨床試驗。然而，實施臨床試驗耗時耗力，需要大量資源支持。
并且，設計有缺陷或者難以成功的臨床試驗占用了寶貴的病人資源，可能會使亟待實施的臨床試驗因招募不到足夠的患者而被迫終止。
新冠肺炎疫情中的瑞德西韋臨床試驗就是一個例子：
因其他設計有缺陷或者難以成功的臨床試驗占用了不少病人資源，該試驗沒有招募到足夠的病人資源，而沒有得到統(tǒng)計學上顯著的結果。
所以，研究者需要在設計階段就去預測臨床試驗的結果，并優(yōu)先進行成功概率較高的臨床試驗。
提出新的臨床試驗需要過往臨床證據的支持，比如WHO為新冠肺炎推薦優(yōu)先檢測氯喹/羥氯喹，瑞德西韋，干擾素和洛匹那韋/利托那韋四種藥物優(yōu)先進行臨床試驗。
推薦的理由就是，這些藥物在過往的實驗室或人體試驗中對相關冠狀病毒有效。然而，人類綜合過往臨床證據的能力有限。
譚傳奇引用了一個數據：一項研究發(fā)現大概86.2%的臨床試驗最終會失敗，WHO專家推薦的某些新冠肺炎治療方法，如氯喹/羥氯喹，也沒有得到好的結果。
臨床試驗設計難題的核心是臨床試驗的結果無法準確預測。
所以，如果能準確地預測臨床試驗的結果，就可以有針對性地進行成功概率的臨床試驗，從而大大提高臨床試驗實施的效率。
因此，譚傳奇團隊表示，在本工作中，我們的貢獻就在于：
第一、創(chuàng)新地從NLP的角度重新定義了臨床試驗結果預測任務；
第二、提出了一種基于大規(guī)模隱式臨床證據預訓練的模型EBM-Net（Evidence-Based Medicine Network）用以解決該任務，EBM-Net在各種指標上遠超醫(yī)學大規(guī)模語言模型BioBERT，如在標準數據集上有10.7%的相對F1提升，并且在新冠肺炎相關的臨床試驗上也被證明有效。
在上面這張圖中，參考醫(yī)學臨床試驗在填報提案時需要的基本信息，輸入是自然文本的形式的：
臨床試驗背景B，如“最新研究發(fā)現瑞德西韋在體外對新冠肺炎病毒有效……”；
要研究的人群P，如“重癥新冠肺炎病人”；
治療方法I，如“靜脈注射瑞德西韋”；
對照方法C，如“與瑞德西韋相匹配的安慰劑”；
測量指標O，如“死亡率”
輸出是其結果R，即在研究人群P中，治療組I和對照組C的測量結果O的比較關系，有升高、降低和不變三種。
為了解決上述臨床試驗結果預測任務，達摩院的團隊提出了針對循證醫(yī)學的EBM-Net模型，其結構如圖2所示，具體分為三步進行：
首先，用啟發(fā)式方法收集隱式證據；
然后，用隱式證據預訓練比較語言模型；
最后，用預訓練的模型進行臨床試驗結果預測。
臨床證據常常以一種比較的形式表達，如“瑞德西韋比對照組有更好的治療新冠肺炎的療效”，而找到這些證據就可以為我們提供訓練文本。
研究團隊發(fā)現，PubMed和PubMed Central是一個提供生物醫(yī)學方面的論文搜尋以及摘要，文獻資源中就包含需要的證據文本（注：醫(yī)學領域最好的大規(guī)模語言模型BioBERT的訓練數據即來自PubMed）。
這篇論文提出用關鍵詞匹配的方法，收集PubMed和PubMed Central中所有含有比較語義的句子：
為尋找表達升高和降低的語義，匹配含有“than”的句子，再進一步匹配形容詞或副詞的比較級，如“higher”，“smaller”等，同時含有“than”和一個或更多比較級的句子被收集；為尋找表達相似的語義，匹配含有“no difference between”和“similar to”模式的句子。
這些句子被稱為隱式證據，因為它們往往隱式地含有臨床證據所需要的PICO組分。他們還收集這些句子對應的文章摘要里的背景和方法的部分，作為隱式證據的背景B。
這種方法可以從PubMed和PubMed Central中提取出1180萬條隱式證據，其中240萬條表達結果降低，350萬條表達結果相似，590萬條表達結果升高。
將收集到的隱式證據中提示結果語義的詞去除，就構造了一個類似語言模型訓練的問題，通過給定上下文信息，預測去除的比較詞。
論文中改進語言模型，提出用比較語言模型預訓練一個Transformer編碼器模型，即EBM-Net，以獲取預測臨床試驗結果的能力。具體地，兩組樣本被用于預訓練：
1、用正序的隱式證據預測其結果；
2、用反序的隱式證據預測相反的結果。
加入反序的例子有利于模型學到治療組和對照組之間的比較，而不是語言模型里的共現關系。
在微調和測試時，團隊將一個新臨床試驗要研究的PICO要素拼接成E，將E和其研究背景B輸入到上述預訓練好的EBM-Net模型中，輸出其預測的比較結果，從而預測臨床試驗的結果。
EBM-Net在臨床試驗結果預測任務的標準數據集Evidence Integration試驗結果如圖3所示：
從結果中可以看出：
1、EBM-Net相比其他方法，包括隨機預測、詞袋+邏輯回歸、利用MeSH知識圖譜、信息檢索+閱讀理解模型以及目前生物醫(yī)學NLP領域的SOTA模型BioBERT，都有很大的提高：BioBERT作為最強的基線模型，也比EBM-Net低了10.7%的相對macro-F1和9.6%的準確率；
2、EBM-Net相比其他方法在對抗攻擊下更魯棒：用|Δ||Δ|，即在對抗數據集上的accuracy的相對減少的值來衡量模型的魯棒性，|Δ||Δ|越大表示模型越易受攻擊。
BioBERT的|Δ||Δ|幾乎是EBM-Net的兩倍（5.1%比2.7%），說明EBM-Net遠比BioBERT魯棒；
達摩院團隊還基于COVID-evidence數據庫提取了截止5月12日前完成的22篇臨床試驗的結果，以本工作定義的臨床試驗結果預測的格式構建了一個小型數據集。
達摩院團隊提出的EBM-Net模型在該數據集上進行留一法驗證得到的macro-F1和accuracy都遠高于BioBERT，分別是45.5%比36.1%和59.1%比50.0%，再一次驗證了EBM-Net的有效性。
為了優(yōu)化臨床試驗的設計過程，本文從NLP的角度定義了臨床試驗結果預測任務，并且提出了一種基于大規(guī)模隱式證據預訓練的EBM-Net模型來解決這個任務。
EBM-Net在標準數據集和新冠肺炎相關臨床試驗上都有較好的表現，大幅超過生物醫(yī)學NLP的SOTA模型BioBERT。
未來，臨床試驗可以在EBM-Net等相關模型的協(xié)助下進行設計：
當我們固定了想要研究的疾病人群（P）和觀察指標（O）后，可以固定以現有的標準治療為對照（C），遍歷每種可能的新型治療方式（I）以及其相關的背景介紹（B），用模型預測其成功的概率，優(yōu)先選取所有可能的治療方式中成功概率高的做臨床試驗。
當然，模型在技術上還需要進一步地提高才能更好地輔助臨床試驗設計。后續(xù)，我們可以把團隊構建的大規(guī)模醫(yī)學知識圖譜集成在模型中，使其擁有更準確和魯棒的預測能力。雷鋒網
雷峰網原創(chuàng)文章，未經授權禁止轉載。詳情見轉載須知。
