“隱私計(jì)算涉及到多種技術(shù)，包括安全多方計(jì)算，聯(lián)邦學(xué)習(xí)，差分隱私，可信執(zhí)行環(huán)境等，每個(gè)技術(shù)既在各自領(lǐng)域獨(dú)立發(fā)展，也呈現(xiàn)出融合統(tǒng)一的趨勢(shì)。為此，同盾科技提出“知識(shí)聯(lián)邦”的框架體系，支持安全多方檢索、安全多方計(jì)算、安全多方學(xué)習(xí)（聯(lián)邦學(xué)習(xí)）、安全多方推理等技術(shù)方案，將是未來(lái)通向AI3.0的必由之路”，同盾科技合伙人、副總裁兼人工智能研究院院長(zhǎng)、美國(guó)佛羅里達(dá)大學(xué)終身教授李曉林表示。

在今年《麻省理工科技評(píng)論》發(fā)布的“全球十大突破性技術(shù)”榜單中，入選的“差分隱私”技術(shù)引起了各界高度關(guān)注。美國(guó)政府希望運(yùn)用這一技術(shù)在2020年人口普查中更好地保護(hù)公民隱私。毫無(wú)疑問(wèn)，數(shù)字文明中的隱私數(shù)據(jù)保護(hù)已經(jīng)成為網(wǎng)絡(luò)空間生態(tài)安全的核心問(wèn)題。

當(dāng)下，數(shù)據(jù)已經(jīng)成為每個(gè)國(guó)家的基礎(chǔ)性戰(zhàn)略資源和生產(chǎn)要素，被稱為21世紀(jì)的“鉆石礦”。我國(guó)也正在抓緊制定《數(shù)據(jù)安全法》，從法律層面保障數(shù)據(jù)安全，促進(jìn)數(shù)據(jù)開(kāi)發(fā)利用。

而在學(xué)界，如何通過(guò)引入全新的數(shù)據(jù)保護(hù)模式來(lái)控制數(shù)據(jù)的搜集、查詢及使用，使得數(shù)據(jù)安全性、隱私性在得到保證的前提下，最大限度地支持基于數(shù)據(jù)驅(qū)動(dòng)的科學(xué)研究及商業(yè)活動(dòng)，更是科學(xué)家們努力突破的方向。

為此，本文邀請(qǐng)同盾科技合伙人、副總裁兼人工智能研究院院長(zhǎng)、美國(guó)佛羅里達(dá)大學(xué)終身教授李曉林就“隱私數(shù)據(jù)保護(hù)、隱私計(jì)算”等前沿科學(xué)領(lǐng)域及其場(chǎng)景化應(yīng)用分享觀點(diǎn)。人工智能?chē)?guó)際知名學(xué)者李曉林教授所帶領(lǐng)的研究團(tuán)隊(duì)是國(guó)際上最早將云計(jì)算、大數(shù)據(jù)、大規(guī)模深度學(xué)習(xí)、物聯(lián)網(wǎng)研究貫穿于一體的研究團(tuán)隊(duì)之一，形成了從傳感物聯(lián)/互聯(lián)網(wǎng)+、到大數(shù)據(jù)深度學(xué)習(xí)、到大規(guī)模的智能云計(jì)算平臺(tái)的閉環(huán)反饋研究體系。

Q(記者): 今年，用于隱私數(shù)據(jù)保護(hù)的“差分隱私”技術(shù)入圍MIT Technology Review“十大突破性技術(shù)”；同時(shí)我國(guó)正在抓緊制定數(shù)據(jù)安全保護(hù)相關(guān)法律。而在當(dāng)下，在隱私數(shù)據(jù)保護(hù)、隱私計(jì)算領(lǐng)域，學(xué)界業(yè)界取得了哪些突破進(jìn)展？

A(李曉林教授): 隱私計(jì)算是面向隱私信息全生命周期保護(hù)的計(jì)算理論和方法。隨著數(shù)據(jù)隱私保護(hù)的法規(guī)出臺(tái)和執(zhí)行，違反隱私罰款高達(dá)數(shù)十億。隱私計(jì)算將會(huì)得到更廣泛的關(guān)注，技術(shù)體系也將會(huì)進(jìn)一步完善，落地應(yīng)用的步伐也會(huì)加快。移動(dòng)操作系統(tǒng)數(shù)據(jù)隱私保護(hù)已經(jīng)在全球普遍落地。

隱私計(jì)算涉及到多種技術(shù)，包括：安全多方計(jì)算，聯(lián)邦學(xué)習(xí)，差分隱私，可信執(zhí)行環(huán)境等，每個(gè)技術(shù)在各自領(lǐng)域獨(dú)立發(fā)展的過(guò)程中，也慢慢呈現(xiàn)融合統(tǒng)一的趨勢(shì)。為此，同盾科技提出了“知識(shí)聯(lián)邦”的概念，作為一個(gè)統(tǒng)一的、層次化的框架體系，支持安全多方檢索、安全多方計(jì)算、安全多方學(xué)習(xí)（聯(lián)邦學(xué)習(xí)）、安全多方推理等技術(shù)方案。知識(shí)聯(lián)邦是打造數(shù)據(jù)安全的人工智能生態(tài)系統(tǒng)的基礎(chǔ)，也是未來(lái)通向AI3.0的必由之路。

Q: 差分隱私與您提到的知識(shí)聯(lián)邦理論有哪些區(qū)別，是否可以結(jié)合應(yīng)用？

A: 由微軟研究院率先提出的差分隱私是密碼學(xué)中的一種實(shí)現(xiàn)隱私保護(hù)的技術(shù)手段，主要解決脫敏數(shù)據(jù)中個(gè)人隱私泄露的問(wèn)題。差分隱私是一個(gè)概率概念，它通過(guò)加擾在統(tǒng)計(jì)數(shù)據(jù)的準(zhǔn)確性和隱私參數(shù)之間進(jìn)行權(quán)衡，可以廣泛用于數(shù)據(jù)收集、存儲(chǔ)、查詢、使用等全流程，實(shí)現(xiàn)準(zhǔn)確性與隱私的均衡。差分隱私是實(shí)現(xiàn)保護(hù)數(shù)據(jù)隱私的的一種技術(shù)手段，可以用于知識(shí)聯(lián)邦。

知識(shí)聯(lián)邦不是一種單一的技術(shù)方法，它是一套理論框架體系，是人工智能、大數(shù)據(jù)、密碼學(xué)等幾個(gè)領(lǐng)域交叉融合的產(chǎn)物。知識(shí)聯(lián)邦主要解決了數(shù)據(jù)割裂和數(shù)據(jù)安全問(wèn)題，同時(shí)實(shí)現(xiàn)知識(shí)發(fā)現(xiàn)和歸納。在知識(shí)聯(lián)邦的安全多方學(xué)習(xí)和安全多方計(jì)算應(yīng)用中都可以使用差分隱私技術(shù)，來(lái)保護(hù)聯(lián)邦參與方數(shù)據(jù)、模型等隱私相關(guān)信息。

Q: 同盾人工智能研究院主攻的知識(shí)聯(lián)邦理論體系在隱私數(shù)據(jù)保護(hù)和隱私計(jì)算領(lǐng)域，作出了哪些貢獻(xiàn)？取得了哪些進(jìn)展？

A: 在理論層面，知識(shí)聯(lián)邦包含四個(gè)層級(jí)：信息層、模型層、認(rèn)知層和知識(shí)層。在每個(gè)層級(jí)中，聯(lián)邦的對(duì)象不同，應(yīng)用目的也不相同。信息層主要是對(duì)加密數(shù)據(jù)進(jìn)行聯(lián)合，然后進(jìn)行計(jì)算或?qū)W習(xí)，可以用于安全多方計(jì)算或檢索，也可用于聯(lián)邦學(xué)習(xí)。模型層主要是發(fā)生在模型訓(xùn)練階段，用于聯(lián)邦學(xué)習(xí)階段。認(rèn)知層可以基于多種認(rèn)知表達(dá)進(jìn)行訓(xùn)練學(xué)習(xí)，主要用于聯(lián)邦學(xué)習(xí)和聯(lián)邦預(yù)測(cè)。知識(shí)層則側(cè)重在多種知識(shí)表達(dá)的聯(lián)合，進(jìn)行安全多方推理。知識(shí)聯(lián)邦是一個(gè)國(guó)產(chǎn)原創(chuàng)、自主可控、國(guó)際領(lǐng)先的框架體系。

同盾智邦平臺(tái)是基于知識(shí)聯(lián)邦體系實(shí)現(xiàn)的安全多方應(yīng)用平臺(tái)，是一個(gè)工業(yè)級(jí)應(yīng)用產(chǎn)品，已更新迭代到v2.2版本。在平臺(tái)中我們還實(shí)現(xiàn)了數(shù)據(jù)接入標(biāo)準(zhǔn)化和數(shù)據(jù)安全交換協(xié)議，可以讓數(shù)據(jù)提供者輕松地進(jìn)行聯(lián)邦合作。

此外，在技術(shù)的普及和規(guī)范上，同盾人工智能研究院最近參與了中國(guó)信通院相關(guān)標(biāo)準(zhǔn)的制定：

●《基于聯(lián)邦學(xué)習(xí)的數(shù)據(jù)流通產(chǎn)品 技術(shù)要求與測(cè)試方法》標(biāo)準(zhǔn)第一版

●《基于可信執(zhí)行環(huán)境的數(shù)據(jù)計(jì)算平臺(tái) 技術(shù)要求與測(cè)試方法》標(biāo)準(zhǔn)第一版

●《基于多方安全計(jì)算的數(shù)據(jù)流通產(chǎn)品 技術(shù)要求和測(cè)試方法》標(biāo)準(zhǔn)第二版修訂

最近，同盾科技還正在與某些合作單位一起牽頭制定金融行業(yè)的聯(lián)邦學(xué)習(xí)和隱私保護(hù)相關(guān)標(biāo)準(zhǔn)。

Q: 同盾人工智能研究院的知識(shí)聯(lián)邦理論體系，未來(lái)將在哪些領(lǐng)域落地？

A: 首先在金融領(lǐng)域，我們會(huì)探索更多的落地場(chǎng)景。金融場(chǎng)景中所有需要多方參與建模、知識(shí)共享的場(chǎng)景都可以應(yīng)用知識(shí)聯(lián)邦。尤其是針對(duì)個(gè)人的貸前風(fēng)險(xiǎn)防控和多頭共債中，因?yàn)樵诮；驔Q策中涉及個(gè)人隱私信息和合規(guī)監(jiān)管要求，更需要使用知識(shí)聯(lián)邦體系下的聯(lián)邦學(xué)習(xí)、隱私計(jì)算等技術(shù)提供有力的技術(shù)支撐。

其次，在國(guó)家關(guān)注的政務(wù)大數(shù)據(jù)上，知識(shí)聯(lián)邦是一種很好的解決方案，因?yàn)槁?lián)邦的本質(zhì)就是一種數(shù)據(jù)安全交換協(xié)議。通過(guò)知識(shí)聯(lián)邦可以幫助政府實(shí)現(xiàn)安全的數(shù)據(jù)虛擬融合，實(shí)現(xiàn)數(shù)據(jù)聯(lián)邦檢索，在保護(hù)個(gè)人信息的情況下，建立政府?dāng)?shù)據(jù)向社會(huì)開(kāi)放的安全渠道。同時(shí)，可以為各部門(mén)行政審批事項(xiàng)梳理和業(yè)務(wù)流程再造提供支持。

此外，在智慧城市建設(shè)發(fā)展中，知識(shí)聯(lián)邦同樣可以發(fā)揮重要的作用。例如在車(chē)聯(lián)網(wǎng)，通過(guò)知識(shí)聯(lián)邦可以保護(hù)車(chē)主行為習(xí)慣的前提，讓每輛車(chē)輛與周邊車(chē)輛保持安全的信息交流，為自動(dòng)駕駛形成助力。在社區(qū)監(jiān)控、疫情普查或智能門(mén)禁中，利用知識(shí)聯(lián)邦可以將區(qū)域或家庭監(jiān)控系統(tǒng)與公安的犯罪嫌疑人數(shù)據(jù)庫(kù)連通，通過(guò)本地計(jì)算分析，在保護(hù)過(guò)往行人的隱私情況下，對(duì)發(fā)現(xiàn)的潛質(zhì)嫌疑人及時(shí)報(bào)警。因此，我們也在智慧醫(yī)療、智慧城市、智能物聯(lián)網(wǎng)等領(lǐng)域布局。

雷鋒網(wǎng)雷鋒網(wǎng)

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。