隱私計算，能否讓醫(yī)療數(shù)據(jù)釋放應(yīng)有的價值？

4月12日-15日，雷峰網(wǎng)(公眾號：雷峰網(wǎng))《醫(yī)健AI掘金志》以《隱私計算，讓AI釋放醫(yī)療數(shù)據(jù)的價值》為話題，邀請了四位隱私計算企業(yè)CXO，以線上云峰會的形式，討論隱私計算的技術(shù)路線和在醫(yī)療場景下的實際應(yīng)用前景，以及推演該產(chǎn)業(yè)的未來趨勢。

此次醫(yī)療隱私計算云峰會中，同盾科技合伙人，中科院醫(yī)學所首席科學家兼知識聯(lián)邦產(chǎn)學研聯(lián)盟理事長李曉林教授，做了首期分享。

他以《可信AI賦能醫(yī)療：讓數(shù)據(jù)流通，讓知識共享》為題，依次分享了可信AI平臺建設(shè)的背景、可信AI平臺架構(gòu)，理論及實踐、可信AI平臺產(chǎn)品、可信AI平臺在醫(yī)藥場景下的應(yīng)用等四個方面。

他表示，數(shù)據(jù)已經(jīng)成為醫(yī)療數(shù)字化轉(zhuǎn)型升級的核心要素，但在隱私計算的商業(yè)化落地中，由于不同廠商技術(shù)方案和平臺產(chǎn)品的差異，數(shù)據(jù)呈現(xiàn)出類似“聯(lián)盟A”和“聯(lián)盟B”的分裂，原本的“數(shù)據(jù)孤島”成為了新的“數(shù)據(jù)群島”。

目前，不同行業(yè)和領(lǐng)域都亟需一個通用的可信AI平臺，在保護數(shù)據(jù)隱私、合法合規(guī)、保護數(shù)據(jù)價值的前提下，打通一個個數(shù)據(jù)群島。

以下為李曉林的分享內(nèi)容，雷峰網(wǎng)&《醫(yī)健AI掘金志》作了不改變原意的編輯及整理。

可信AI平臺建設(shè)的背景

醫(yī)療領(lǐng)域有各種各樣的場景，不同場景下的醫(yī)療數(shù)據(jù)應(yīng)運而生。

具體來看，醫(yī)療數(shù)據(jù)可分為組學數(shù)據(jù)庫、藥物化學數(shù)據(jù)庫、疾病數(shù)據(jù)庫，電子病歷數(shù)據(jù)庫、醫(yī)學影像數(shù)據(jù)庫，穿戴設(shè)備數(shù)據(jù)庫等六類。

這些醫(yī)療數(shù)據(jù)被很多平臺收集和使用，但在價值產(chǎn)生的過程中，它們也需要被嚴格保護。如今，數(shù)據(jù)隱私保護已經(jīng)成為法律、政策文件的關(guān)注重點。從去年開始，數(shù)據(jù)安全法，個人信息保護法相繼出臺，數(shù)據(jù)隱私保護逐漸被社會所重視。

與此同時，數(shù)據(jù)隱私保護也加劇了醫(yī)療行業(yè)數(shù)據(jù)共享難、數(shù)據(jù)分析難的困境。

如今，我們一方面要保護數(shù)據(jù)隱私，另一方面也要打破數(shù)據(jù)屏障，尤其在以深入學習所引領(lǐng)的新一代人工智能的背景下，數(shù)據(jù)已經(jīng)成為醫(yī)療數(shù)字化轉(zhuǎn)型升級的核心要素。

但問題是，醫(yī)療數(shù)據(jù)不僅面臨數(shù)據(jù)隱私難題，同時也面臨門檻高、數(shù)據(jù)異構(gòu)、類型復雜等問題。我們要將每一個醫(yī)療領(lǐng)域積累多年的組學、基因、 DNA、影像等數(shù)據(jù)集合起來，難度非常大。

此外，在整合過程中，不同病人、不同醫(yī)院之間涉及到多方數(shù)據(jù)權(quán)益和多重數(shù)據(jù)標準，也讓數(shù)據(jù)共享變得更具挑戰(zhàn)。

那么隱私計算如何解決數(shù)據(jù)共享和數(shù)據(jù)流通的問題？

為了保護數(shù)據(jù)隱私，還要發(fā)揮數(shù)據(jù)價值，實現(xiàn)數(shù)據(jù)的安全合規(guī)流通，70年代開始，業(yè)界已經(jīng)推出了一系列的隱私計算技術(shù)手段，比如同態(tài)加密、秘密分享等一系列數(shù)據(jù)“可用不可見”的思想。80年代，則衍生出多方安全計算、MPC等思想。

而在近幾年，又出現(xiàn)了三種新思想，比如可信執(zhí)行環(huán)境（TEE，Trusted Execution Environment），聯(lián)邦學習（FL，F(xiàn)ederated Learning），知識聯(lián)邦（KF，Knowledge  Federation）。它們共同把隱私計算推到了下一代可信AI的高度。

但與此同時，在隱私計算的商業(yè)化落地中，因為不同廠商技術(shù)方案和平臺產(chǎn)品的差異，數(shù)據(jù)呈現(xiàn)出類似“聯(lián)盟A”和“聯(lián)盟B”的分裂，原本的“數(shù)據(jù)孤島”又成為了新的“數(shù)據(jù)群島”。

因此，各行各業(yè)亟需建設(shè)一個可信AI平臺。在保護數(shù)據(jù)隱私、合法合規(guī)、保護數(shù)據(jù)價值的前提下，連通數(shù)據(jù)群島。

目前，市場中的開源框架、主流研究聚焦在聯(lián)邦算法層級的研發(fā)，并不能徹底解決“群島”割裂的瓶頸。

想要充分地共享數(shù)據(jù)，共享知識，保持數(shù)據(jù)流通，首要問題是要有“一致性的保障”。

即聯(lián)邦中的多個成員節(jié)點，在約定協(xié)議的保障下，對一系列操作的處理結(jié)果達成“某種程度”的認同。比如連接上保持任務(wù)、節(jié)點、狀態(tài)一致；流通上保持參數(shù)、算法、模型、加密、應(yīng)用、監(jiān)管日志一致。

可信AI平臺架構(gòu)、理論及實踐

為解決不同聯(lián)邦系統(tǒng)的互聯(lián)互通問題，以及在更大范圍內(nèi)建立聯(lián)邦生態(tài)網(wǎng)絡(luò)，同盾科技打造了基于隱私計算的開放AI平臺。

首先是這個平臺的架構(gòu)。

為充分發(fā)揮數(shù)據(jù)流通的價值，同盾科技打造了一套基于隱私計算的開放共享智能平臺，其核心是智邦平臺iBond，底層是智邦的內(nèi)核iCore。

此外，同盾科技還打造了全面互聯(lián)互通參考模型FIRM模型（open Federated system Interconnection/ReferenceModel，即圖右框架）。

這是一個多層次的互聯(lián)互通參考模型，把互聯(lián)互通分為四個層次，包括通信層（Ionic）、數(shù)據(jù)交換層（FLEX）、算法層（Caffeine）、應(yīng)用層（SAFE）。其中，通信層、數(shù)據(jù)交換層，是參與方進行安全數(shù)據(jù)交換的基礎(chǔ)。

理論上，F(xiàn)IRM中每一層都建立在它的下層之上，向它的上一層提供一定的服務(wù)，并把如何實現(xiàn)這一服務(wù)的細節(jié)對上一層加以屏蔽。

為此，需要針對每一層定義標準化的協(xié)議規(guī)范，并在協(xié)議中詳細描述該層所提供的服務(wù)和動作，以保證提供有效的服務(wù)。

而且，每層的功能定義與實現(xiàn)細節(jié)相區(qū)分，從而使得模型具有普遍的適應(yīng)能力。

其次是這個平臺的理論--知識聯(lián)邦。

知識聯(lián)邦的理論框架包括4個層次：

底層是信息層，從數(shù)據(jù)提煉成信息，可以通過一定的計算或者查詢，甚至是一些密文的相對簡單的統(tǒng)計信息；

模型層可以做一些聯(lián)合建模，做一些相對復雜的一些機器學習模型，或者深度學習的模型；

認知層是一個中間狀態(tài)的集合層，可以支持遷移學習，集成學習，知識蒸餾等等；

知識層可以做一些知識推理和知識的發(fā)現(xiàn)表達。

這四層全方位融合了多方安全計算（MPC）、聯(lián)邦學習（FL）、可信執(zhí)行環(huán)境（TEE）等多種技術(shù)，實現(xiàn)了數(shù)據(jù)可用不可見、知識共創(chuàng)可共享，并首次將認知和知識引入隱私計算范疇，目標是實現(xiàn)下一代可信、可解釋、可推理、可決策的人工智能。

目前，知識聯(lián)邦支持安全多方查詢、計算、學習、推理等多種功能。從技術(shù)上看，知識聯(lián)邦在借鑒一些相關(guān)技術(shù)的同時，也具有一定的獨創(chuàng)性，尤其是認知層和知識層聯(lián)邦都屬于國內(nèi)自主創(chuàng)新，超越了國外的初級聯(lián)邦學習。

最后是該平臺的實踐--數(shù)據(jù)安全交換協(xié)議FLEX。

數(shù)據(jù)安全交換協(xié)議的FLEX(Federated Learning Exchange）是一套開源的標準化聯(lián)邦協(xié)議。

FLEX協(xié)議約定了聯(lián)邦過程中參與方之間數(shù)據(jù)交換順序，以及在交換前后采用的數(shù)據(jù)加解密方法。就像HTTP協(xié)議承載了我們今天看到的極度豐富的互聯(lián)網(wǎng)應(yīng)用一樣，聯(lián)邦協(xié)議也是建立聯(lián)邦學習應(yīng)用所必不可少的基礎(chǔ)協(xié)議。

有了這個協(xié)議才能使得聯(lián)邦學習應(yīng)用得以標準化，使得聯(lián)邦學習過程中的數(shù)據(jù)安全、模型性能得到有效的保障。

它的實現(xiàn)方式是通過約定聯(lián)邦過程中參與方之間數(shù)據(jù)交換順序，以及在交換前后采用地數(shù)據(jù)加解密方法，從而打破平臺孤島。

目前我們已發(fā)布《知識聯(lián)邦數(shù)據(jù)安全交換（FLEX）白皮書》，體現(xiàn)了兩層協(xié)議：

一是應(yīng)用協(xié)議，面向聯(lián)邦算法的，為聯(lián)邦算法提供多方數(shù)據(jù)交換的應(yīng)用支撐。聯(lián)邦過程中采用的通信協(xié)議也會被封裝在這里。

二是公共組件，是上層應(yīng)用協(xié)議所依賴的基礎(chǔ)密碼算法和安全協(xié)議，比如同態(tài)加密、秘密分享等。

可信AI平臺產(chǎn)品

首先，為了讓知識聯(lián)邦得到更好地應(yīng)用，我們基于知識聯(lián)邦理論框架和FLEX交換協(xié)議，打造了平臺產(chǎn)品--智邦iBond。

它包括一系列的工業(yè)界應(yīng)用場景，都以數(shù)據(jù)可用不可見的方式執(zhí)行，比如發(fā)起聯(lián)邦和MPC、調(diào)度任務(wù)、注冊數(shù)據(jù)等。

對于用戶來說，既可以從算法庫里面直接調(diào)用簡單算法，也可以自己定制。接下來，用戶可以把任務(wù)遞交給智邦平臺做調(diào)度和執(zhí)行，并對輸出的結(jié)果做出評測，比如性能評測，功能評測，日志檢查等。

此外，用戶也可以遞交應(yīng)用、數(shù)據(jù)、算法、通訊協(xié)議到我們的數(shù)據(jù)要素市場，用于替換我們的底層數(shù)據(jù)通信層。

其次，基于合規(guī)的互聯(lián)互通，我們進一步打造出數(shù)據(jù)的要素市場，即智邦iData。

各方數(shù)據(jù)可以在這個統(tǒng)一平臺上，以安全合規(guī)的方式做交換、交易，共享。

以數(shù)據(jù)交易舉例，智邦iData將不用的用戶劃分為數(shù)據(jù)提供方、數(shù)據(jù)使用方；應(yīng)用開發(fā)者、應(yīng)用提供方、使用方。各方將數(shù)據(jù)、應(yīng)用發(fā)布在iData上，按照貢獻度、使用量或者市場機制給予數(shù)據(jù)定價，從而實現(xiàn)數(shù)據(jù)價值變現(xiàn)。

比如在國內(nèi)醫(yī)罕見病的治療上，就可以將全國各地醫(yī)院和科研小組的罕見病數(shù)據(jù)都放到iData數(shù)據(jù)要素市場，從而極大提高某一罕見病的醫(yī)療數(shù)據(jù)，從而進一步提高疾病診療模型。

在這些工作的基礎(chǔ)上，我們希望能夠建成一個真正的醫(yī)療可信AI平臺：國內(nèi)各種醫(yī)療機構(gòu)能夠安全、合法合規(guī)地共享醫(yī)療數(shù)據(jù)，最大化生產(chǎn)資料的潛力，促進新的診斷算法和新的醫(yī)療生態(tài)誕生。

可信AI平臺在醫(yī)藥場景下的應(yīng)用

在智慧醫(yī)療、普惠醫(yī)療和藥物創(chuàng)新領(lǐng)域，可信AI平臺能夠提供哪些幫助？

第一個應(yīng)用案例是用密文計算做醫(yī)療輔助診斷。

對人工智能輔助診療來說，根本上是以大數(shù)據(jù)作為訓練基礎(chǔ)，不僅需要豐富多元的醫(yī)療大數(shù)據(jù)，還需要打上大量的數(shù)據(jù)標注。對小型醫(yī)療機構(gòu)或者偏遠地區(qū)的醫(yī)療機構(gòu)來說，它們并不具備模型訓練能力。

但對于很多大型醫(yī)療機構(gòu)，它們既有能力采購高精設(shè)備，還擁有豐富的患者病例，從而沉淀出高質(zhì)量標記數(shù)據(jù)和AI輔助診斷模型。

小型醫(yī)院就可以通過智邦平臺將加密數(shù)據(jù)提供給大型醫(yī)療機構(gòu)，利用大型醫(yī)療機構(gòu)的數(shù)據(jù)優(yōu)勢提升AI模型的診斷能力。

無論是通過同態(tài)加密、MPC、聯(lián)邦學習，還是大模型的共享模型做數(shù)據(jù)共享，小型醫(yī)療結(jié)構(gòu)都可以獲得相當高的數(shù)據(jù)精度，而不會受限于小數(shù)據(jù)或者小模型的難題。

第二個應(yīng)用案例是通過安全SQL來查詢，做健康險風險等級評估。

在對投保人的健康做風險評估中，查詢方為保險機構(gòu)，被查詢方是持有投保意向用戶的ID信息醫(yī)療的大數(shù)據(jù)機構(gòu)。

當評估風險時，一般需要在保護用戶隱私且保證數(shù)據(jù)安全的前提下綜合分析BMI和年齡。當“投保人BMI ≤25且年齡＜50歲”，則被認為是具有較高信用的投保人。

在實際操作中，我們就可以用到隱私計算，通過SQL語句和PSI對投保人進行風險評估。這樣既不會泄露用戶隱私，又能夠得到精確評估結(jié)果，是一舉雙得的結(jié)果。

同樣，也可以通過聯(lián)邦建模對某種疾病患者的社會行為做出風險評估。比如公安局或者衛(wèi)健委，通過多方聯(lián)合建模實現(xiàn)對重性酒精依賴疾病患者肇事肇禍動態(tài)風險評估，從而分級分類監(jiān)管，精準預判，提升居民公共安全等級。

第三個案例是通過聯(lián)邦建模，實現(xiàn)個性化智能診療。

比如很多有基礎(chǔ)病的老年人確診新冠，這時候他們會出現(xiàn)什么并發(fā)癥，每種并發(fā)癥出現(xiàn)的可能性有多大？

現(xiàn)如今，通過機器學習對患者手術(shù)前后做出個性化的并發(fā)癥預測，是一種顯著提高患者可救性的一種方式。通過對真實臨床大數(shù)據(jù)進行聯(lián)邦建模，在數(shù)據(jù)清洗、臨床特征提取和結(jié)構(gòu)化數(shù)據(jù)基礎(chǔ)上構(gòu)建預測模型，具有強大的風險預測能力，且能夠準確分類不同風險級的患者，幫助醫(yī)生科學決策。

此外，隱私計算也能適應(yīng)于罕見病的治療上。

比如每個醫(yī)院在一些罕見病數(shù)據(jù)上有一定的保密，病人信息也會涉及到個人隱私，那么我們可以通過多家醫(yī)院協(xié)同共創(chuàng)一個隱私計算大模型來共享數(shù)據(jù)，從而提高罕見病的治療能力。

目前我們已經(jīng)推出醫(yī)生專家與可信AI平臺協(xié)同互補（人機協(xié)同，human in the loop）的診斷模式，醫(yī)生專家可以在輔助診斷的基礎(chǔ)上對病人做出一些判斷，同時提升可信AI平臺上的算法或者模型的預測精度。

第四個案例是認知層的聯(lián)邦學習，通過知識蒸餾，協(xié)作藥物發(fā)現(xiàn)。

制藥領(lǐng)域也通常面臨非常復雜的知識產(chǎn)權(quán)和經(jīng)濟利益問題，使得制藥機構(gòu)之間進行數(shù)據(jù)直接共享和合作幾乎不可能。但同時，基于神經(jīng)網(wǎng)絡(luò)的藥物發(fā)現(xiàn)模型所需的參數(shù)量較大，在進行參數(shù)聚合時，模型訓練時間隨著數(shù)據(jù)量成指數(shù)倍增。

因此，藥物發(fā)現(xiàn)過程的數(shù)據(jù)變得極為珍貴和稀缺。

那么有什么方式能夠共享藥物發(fā)現(xiàn)數(shù)據(jù)？

一是通過聯(lián)邦學習，解決多個制藥機構(gòu)利用NN模型進行協(xié)作藥物發(fā)現(xiàn)的問題，效果顯著優(yōu)于單機構(gòu)僅使用私有數(shù)據(jù)本地NN建模；

二是通過蒸餾學習，解決參與聚合的模型參數(shù)量過大的問題，并獲得與直接整合各機構(gòu)藥物分子結(jié)構(gòu)數(shù)據(jù)進行NN建模相同/近似的模型效果；

三是采用認知層聯(lián)邦，對各參與方的知識進行遷移學習，可在保護藥物分子結(jié)構(gòu)隱私的前提條件下，解決領(lǐng)域適應(yīng)和數(shù)據(jù)集偏移問題。

而且，針對一些藥物失敗的案例，這部分數(shù)據(jù)也能做資源共享，從而避免廣譜地、隨機地選擇藥物試驗病人。

整體來講，通過可信AI的平臺能夠解決多個制藥機構(gòu)、藥物研發(fā)機構(gòu)，研究院所或者研究小組的數(shù)據(jù)問題，幫助各方提升自己本地的藥物發(fā)現(xiàn)的精度和成功率，甚至提高藥物臨床表現(xiàn)。

 第五個案例是通過FPGA，高效隱私保護機器學習。

多方聯(lián)合建模時，往往通過同態(tài)加密技術(shù)對傳輸/聚合的參數(shù)進行保護。但密文加解密及基于密文上的運算，計算速度常常是建模的瓶頸問題之一。

如果采用軟件+硬件(如: FPGA、 GPU、加密卡等)復合技術(shù)，構(gòu)建基于加解密芯片的聚合器，把FPGA嵌入到聯(lián)邦學習系統(tǒng)，則能夠顯著提高加密算法(如Paillier) 的執(zhí)行速度和并行度，從而提高數(shù)據(jù)加密和解密的效率，減少訓練的迭代時間。

這一方法可用于可信AI平臺在醫(yī)療領(lǐng)域的使用，比如醫(yī)療影像的數(shù)據(jù)非常龐大，如果能夠通過硬件加速來全方位提升運算效率，那么將很大程度地推進醫(yī)療隱私計算和數(shù)據(jù)安全交換等應(yīng)用。

以上就是我的分享，謝謝大家。

此外，醫(yī)健AI掘金志也上線了李曉林教授的演講視頻，感興趣的朋友可以關(guān)注公眾號 醫(yī)健AI掘金志，對話框回復關(guān)鍵詞“李曉林”，即可回看。

雷峰網(wǎng)雷峰網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。