0
本文作者: 嘉嘉 | 2022-01-28 14:19 |
1月28日,iDASH-2021國際隱私計算大賽結(jié)果正式公布,騰訊云Angel PowerFL和騰訊安全聯(lián)合項目團隊提交的方案,憑借領(lǐng)先的模型準(zhǔn)確率和最快的推理速度獲得差分隱私賽道冠軍。在2020年的iDASH 可信計算賽道上,騰訊云也斬獲冠軍,成為中國企業(yè)屆首次在可信計算(SGX)賽道上奪冠的技術(shù)團隊。
iDASH比賽是隱私計算國際最權(quán)威的比賽,已經(jīng)舉辦八屆,是由美國國立衛(wèi)生研究院 (NIH) 主辦,專注于云環(huán)境下的隱私計算問題和面向隱私保護的機器學(xué)習(xí)問題,已成為全球基因組數(shù)據(jù)隱私保護和安全共享領(lǐng)域最高規(guī)格的國際競賽。
歷年來,iDASH國際隱私計算大賽吸引了包括麻省理工學(xué)院、耶魯大學(xué)、谷歌、IBM等在內(nèi)的學(xué)界及業(yè)界的頂尖團隊參賽。今年更有EPFL、華盛頓大學(xué)、天普大學(xué)、新加坡A*STAR、IBM、三星集團、螞蟻集團等在內(nèi)的來自15個國家的69支參賽隊伍參與角逐,在區(qū)塊鏈、同態(tài)加密、差分隱私三個賽道中展開比拼。
其中,在差分隱私賽道,大賽組委會要求參賽團隊實現(xiàn)基于差分隱私的兩方橫向聯(lián)邦學(xué)習(xí)模型訓(xùn)練,用于通過已知表型樣本預(yù)測野生型轉(zhuǎn)甲狀腺素蛋白淀粉樣心肌病。這里的主要挑戰(zhàn)是要滿足差分隱私要求,訓(xùn)練數(shù)據(jù)具有很稀疏的特征,并且兩方擁有的數(shù)據(jù)是非獨立同分布的。
值得一提的是,今年iDASH-2021差分隱私賽道吸引了來自世界各地的30個頂級團隊報名參與競逐,其中有9個參賽團隊提交了技術(shù)方案和實現(xiàn)代碼,并獲得了有效的比賽成績。騰訊云Angel PowerFL和騰訊安全聯(lián)合團隊提交的技術(shù)方案在合理的時間內(nèi)完成了滿足差分隱私要求的兩方聯(lián)邦學(xué)習(xí)模型訓(xùn)練,獲得了領(lǐng)先的模型準(zhǔn)確率,且具有最快的模型推理速度。
在實際應(yīng)用中,離線模型訓(xùn)練可以在允許的時間內(nèi)完成,而在線模型推理需要最優(yōu)速度,且模型準(zhǔn)確率(或AUC)是首要指標(biāo)。在騰訊提交的方案里,首先,聯(lián)邦學(xué)習(xí)各參與方利用指數(shù)機制篩選重要特征用于建模,從而提高模型準(zhǔn)確率和加快模型推理。其次,參與方在其本地基于所選擇的特征生成多個邏輯回歸模型,并基于指數(shù)機制選擇模型發(fā)送給對方。最后,參與方通過對多個模型輸出結(jié)果進行平均的方式生成聯(lián)邦集成學(xué)習(xí)模型。傳統(tǒng)的基于聯(lián)邦平均的聯(lián)邦學(xué)習(xí)方案不能很好的處理非獨立同分布數(shù)據(jù),會導(dǎo)致聯(lián)邦模型效果差。騰訊提供的聯(lián)邦集成學(xué)習(xí)方案,可以有效應(yīng)對非獨立同分布數(shù)據(jù)問題,提升聯(lián)邦模型的準(zhǔn)確率。
據(jù)了解,騰訊Angel PowerFL團隊是國內(nèi)較早開展聯(lián)邦學(xué)習(xí)研究和應(yīng)用的團隊,在大數(shù)據(jù)、分布式計算、分布式機器學(xué)習(xí)、分布式消息中間件、安全多方計算、密碼學(xué)等領(lǐng)域都有豐富的研發(fā)和應(yīng)用經(jīng)驗,已發(fā)表近10篇聯(lián)邦學(xué)習(xí)研究論文,提交了50多件聯(lián)邦學(xué)習(xí)技術(shù)發(fā)明專利申請,完成多個商用隱私計算和聯(lián)邦學(xué)習(xí)的產(chǎn)品研發(fā)。
騰訊云安全隱私計算平臺Angel PowerFL源于騰訊的大數(shù)據(jù)和安全技術(shù)生態(tài),支持超大規(guī)模數(shù)據(jù)量的多方聯(lián)合建模和聯(lián)合統(tǒng)計分析,擁有高性能和高容錯性,且不依賴于可信中心節(jié)點,目前已經(jīng)在騰訊內(nèi)外部眾多業(yè)務(wù)場景中落地應(yīng)用,并取得了良好的效果。
雷峰網(wǎng)(公眾號:雷峰網(wǎng))
雷峰網(wǎng)版權(quán)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。