丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號(hào)安全和更好的產(chǎn)品體驗(yàn),強(qiáng)烈建議使用更快更安全的瀏覽器
此為臨時(shí)鏈接,僅用于文章預(yù)覽,將在時(shí)失效
人工智能學(xué)術(shù) 正文
發(fā)私信給我在思考中
發(fā)送

0

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

本文作者: 我在思考中 2022-01-17 10:37
導(dǎo)語:數(shù)據(jù)脫敏、差分隱私、安全多方計(jì)算走到哪了?

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

作者 | 維克多

編輯 | 青暮

2021年12月17日,浙江大學(xué)求是講席教授、ACM Fellow、IEEE Fellow、浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長(zhǎng)、計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院副院長(zhǎng)任奎在CNCC 2021 “迎接數(shù)字化轉(zhuǎn)型的安全挑戰(zhàn)”論壇中做了《隱私計(jì)算:向?qū)嵱没~進(jìn)》的報(bào)告。

在報(bào)告中,任奎圍繞數(shù)據(jù)脫敏、差分隱私、安全多方計(jì)算三個(gè)方向,討論了隱私計(jì)算的前沿進(jìn)展,提出不同技術(shù)可以在數(shù)據(jù)全生命周期的不同階段發(fā)揮作用。

以下是演講全文,AI科技評(píng)論做了不改變?cè)獾膭h改和整理:

今天分享浙江大學(xué)網(wǎng)絡(luò)安全學(xué)院在隱私計(jì)算方面的思考和研究,題目是《隱私計(jì)算:向?qū)嵱没~進(jìn)》。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

目前,隨著大數(shù)據(jù)時(shí)代的到來,隱私數(shù)據(jù)泄露問題日益突出,例如國(guó)內(nèi)互聯(lián)網(wǎng)大企業(yè)由于嚴(yán)重違法違規(guī)收集使用個(gè)人信息被勒令下架整改,國(guó)外的擁有億級(jí)用戶的互聯(lián)網(wǎng)大企業(yè)的個(gè)人隱私數(shù)據(jù)被泄露。因此,無論在哪個(gè)國(guó)家、科技公司還是傳統(tǒng)行業(yè),都在面臨數(shù)據(jù)和隱私泄露問題。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

在這種背景下,世界上各個(gè)國(guó)家對(duì)監(jiān)管與合規(guī)的要求都變得越來越嚴(yán)格。從中國(guó)角度,2012年第十一屆全國(guó)人民代表大會(huì)常務(wù)委員會(huì)就通過了《關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》;2016年通過《中華人民共和國(guó)網(wǎng)絡(luò)安全法》,這部代表性的法律也體現(xiàn)了中國(guó)對(duì)數(shù)據(jù)安全隱私的重視;尤其近兩年,國(guó)家部門也從各個(gè)角度頒布相關(guān)法律,形成了比較完善的法律體系。例如《數(shù)據(jù)安全法》《個(gè)人隱私保護(hù)法》等等,其具體抓手也越來越明確。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

從世界范圍內(nèi)來看,歐盟在《通用數(shù)據(jù)保護(hù)條例》(GDPR)落地之后,開了很多大額罰單,這既體現(xiàn)了日益嚴(yán)重的數(shù)據(jù)隱私泄露問題,也體現(xiàn)了越來越嚴(yán)格的監(jiān)管合規(guī)要求,同時(shí)也給研究領(lǐng)域和產(chǎn)業(yè)領(lǐng)域帶來了很多機(jī)會(huì)。

Gartner 在2021年對(duì)數(shù)據(jù)隱私保護(hù)戰(zhàn)略做了預(yù)測(cè):到2023年底,全球75%的人口的個(gè)人數(shù)據(jù)將受到現(xiàn)代隱私法規(guī)的保護(hù);到2023年底之前,全球超過80%的公司將面臨至少一項(xiàng)以隱私為重點(diǎn)的數(shù)據(jù)保護(hù)法規(guī);到2024年,全球隱私驅(qū)動(dòng)的數(shù)據(jù)保護(hù)和合規(guī)技術(shù)支出將突破150億美元。因此,挑戰(zhàn)和機(jī)遇并存,困難與希望并存。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

日益嚴(yán)格的法律法規(guī),也提醒我們回顧一下廣義上隱私計(jì)算的涵蓋范圍與發(fā)展。廣義上的隱私計(jì)算指 “兩個(gè)或者多個(gè)參與方在不泄露各自數(shù)據(jù)的前提下,通過協(xié)作對(duì)數(shù)據(jù)進(jìn)行聯(lián)合計(jì)算處理。”

其實(shí),這里隱含“安全性”和“高效性”兩個(gè)關(guān)鍵詞。從1982年安全多方計(jì)算、1983年可信計(jì)算、1985年零知識(shí)證明、2006年差分隱私到2016年聯(lián)邦學(xué)習(xí),相關(guān)技術(shù)在不斷發(fā)展,都在圍繞安全與效率而做努力。

隱私計(jì)算滲透影響到數(shù)據(jù)全生命周期的各個(gè)階段。圍繞數(shù)據(jù)收集、處理、存儲(chǔ)、共享、傳輸、銷毀的六個(gè)過程,有各種隱私計(jì)算的相關(guān)技術(shù)可以嵌入。下面主要討論安全多方計(jì)算、差分隱私、數(shù)據(jù)脫敏三個(gè)方面。



1

安全多方計(jì)算前沿進(jìn)展

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

安全多方計(jì)算是密碼學(xué)研究的一個(gè)重要分支,通俗定義是:為解決一組互不信任的參與方之間在保護(hù)隱私信息以及沒有可信第三方的前提下協(xié)同計(jì)算問題而提出的密碼協(xié)議與理論框架。

狹義的安全多方計(jì)算主要包括以下兩種實(shí)現(xiàn)方式:

1. 針對(duì)布爾電路以姚氏混淆電路方式實(shí)現(xiàn)的兩方協(xié)議;

2. 針對(duì)布爾電路或者代數(shù)電路以秘密分享方式實(shí)現(xiàn)的兩方或者多方協(xié)議。

在廣義上,全同態(tài)加密、可信硬件以及聯(lián)邦學(xué)習(xí)都可以看做安全多方計(jì)算的技術(shù)框架。

在應(yīng)用程度上,安全多方計(jì)算可以分為通用安全多方計(jì)算,可以支持大多數(shù)計(jì)算任務(wù),實(shí)現(xiàn)常用基本計(jì)算算子協(xié)議,例如加、乘、比較、矩陣運(yùn)算,將具體計(jì)算任務(wù)分解到基本算子;專用安全多方計(jì)算,以“高效實(shí)現(xiàn)專用實(shí)用計(jì)算任務(wù)”為目標(biāo),可以針對(duì)專用計(jì)算任務(wù)和應(yīng)用場(chǎng)景定制多方安全計(jì)算協(xié)議,常見的專用協(xié)議包括隱私保護(hù)求交集、隱匿查詢、零知識(shí)證明、聯(lián)合建模等等。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

目前,業(yè)界針對(duì)安全多方計(jì)算開發(fā)出了各種產(chǎn)品,但如何進(jìn)行比較?我認(rèn)為可以通過安全假設(shè)、性能以及安全保障三個(gè)維度進(jìn)行評(píng)測(cè)。例如在安全假設(shè)中,采用的是同步、異步、半同步中的哪種網(wǎng)絡(luò)假設(shè)?敵手模型采用的是半誠(chéng)實(shí)、惡意還是隱匿作惡?

而在安全保障中,應(yīng)該考慮隱私性、正確性、公開可驗(yàn)證性、健壯性以及公平性等六個(gè)角度。此外,在“前提”和“保障”之間,技術(shù)產(chǎn)品實(shí)現(xiàn)的性能如何?例如參與方數(shù)據(jù)是否平衡、參與節(jié)點(diǎn)算力是否對(duì)稱等等。

國(guó)家也開始積極的探索,例如信通院提出《隱私計(jì)算多方安全計(jì)算產(chǎn)品性能要求和測(cè)試方法》,通過基礎(chǔ)運(yùn)算、聯(lián)合統(tǒng)計(jì)、盈利查詢、安全求交等等維度考慮產(chǎn)品性能。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

目前在學(xué)術(shù)界,安全多方計(jì)算也在穩(wěn)步發(fā)展。在基于混淆電路的安全多方計(jì)算前沿協(xié)議層面,如上圖所示,針對(duì)參與方數(shù)量、門限、敵手模型以及入侵假設(shè),都研究了對(duì)應(yīng)的“方法”。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

基于秘密分享的安全多方計(jì)算前沿協(xié)議層面,已經(jīng)有大量的開源安全多方計(jì)算框架,如CrypTFlow、 PySyft、 Rosetta等支持機(jī)器學(xué)習(xí)的框架;MP-SPDZ、 SCALE- MAMBA等通用框架。前者對(duì)性能要求更高,后者認(rèn)為安全是“第一要?jiǎng)?wù)”。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

零知識(shí)證明領(lǐng)域前沿協(xié)議層面的進(jìn)展如上圖所示,在加速、計(jì)算量、證明大小等方面各有千秋。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

隱匿查詢前沿協(xié)議層面,目前最好的技術(shù)屬于微軟和谷歌。它們完成百萬級(jí)的查詢,大概只需要2秒~4秒。在安全求交前沿協(xié)議層面,考慮150Mbps帶寬的情況下,也能達(dá)到10秒~30秒的百萬級(jí)查詢。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

聯(lián)合建模層面,Sp’17和PETS’20雖然在性能的表現(xiàn)不是最好,但是在安全層面卻是最嚴(yán)謹(jǐn)?shù)模寄鼙WC只泄露最終模型,不泄露中間結(jié)果。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

目前,浙江大學(xué)也在安全多方計(jì)算領(lǐng)域開展了一些工作。例如研究統(tǒng)一MPC隱私性度量標(biāo)準(zhǔn);研究統(tǒng)一安全假設(shè)的評(píng)分標(biāo)準(zhǔn)與各維度的權(quán)重;研究統(tǒng)一安全保障的評(píng)分標(biāo)準(zhǔn)與各維度的權(quán)重;研發(fā)安全多方計(jì)算靶場(chǎng);完善安全多方計(jì)算性能測(cè)評(píng)標(biāo)準(zhǔn)與平臺(tái)等等。



2

差分隱私前沿進(jìn)展

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

差分隱私和密碼學(xué)不太相關(guān),是較新的概念。其思想和工作原理大致可以理解為:在數(shù)據(jù)中加入噪音,使得統(tǒng)計(jì)學(xué)相關(guān)的查詢既能得到有效的數(shù)據(jù),又能保證安全。學(xué)術(shù)上的定義是:通過建模單個(gè)參與者對(duì)數(shù)據(jù)造成影響,實(shí)現(xiàn)對(duì)隱私保護(hù)(泄露)程度的量化。

目前,該方法可以分為兩種:全局差分隱私,可信的數(shù)據(jù)管理者收集數(shù)據(jù)并在數(shù)據(jù)集的統(tǒng)計(jì)結(jié)果上添加擾動(dòng);本地差分隱私,用戶在本地對(duì)數(shù)據(jù)添加擾動(dòng)后,發(fā)送給非可信的數(shù)據(jù)管理者。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

從計(jì)算角度看,差分隱私能在一定的程度上解決“密碼學(xué)手段開銷過大”的缺點(diǎn)。對(duì)比加密方法解決數(shù)據(jù)計(jì)算過程中的隱私泄露,而差分隱私方法解決計(jì)算結(jié)果的隱私泄露。目前,差分隱私的部署和使用大多為政府機(jī)構(gòu)與互聯(lián)網(wǎng)巨頭。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

例如,2016年蘋果在WWDC大會(huì)上宣布使用基于CM- Sketch和阿達(dá)馬變換的本地化差分隱私技術(shù)來保護(hù)IOS、MAC用戶隱私。相比于布隆過濾器, Count- Min Sketch更適用于頻率統(tǒng)計(jì)任務(wù);阿達(dá)馬變換也能有效降低通信開銷。但有研究人員認(rèn)為蘋果在實(shí)際應(yīng)用中設(shè)置的隱私預(yù)算參數(shù)超出了可接受的范圍,隱私保護(hù)能力不夠強(qiáng)。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

微軟也有相應(yīng)的動(dòng)作,并在2017年將差分隱私方案部署到了win 10系統(tǒng)中。此外微軟和哈佛大學(xué)合作推出了 OpenDP開源差分隱私平臺(tái),希望降低中小開發(fā)者應(yīng)用差分隱私的門檻。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

阿里巴巴也在 Datatrust隱私增強(qiáng)計(jì)算平臺(tái)中部署落地差分隱私保護(hù)的聯(lián)邦學(xué)習(xí)決策樹訓(xùn)練。

差分隱私之所以受到關(guān)注,主要是它有嚴(yán)謹(jǐn)?shù)睦碚撃P停峁┝丝沈?yàn)證的量化隱私保護(hù)機(jī)制;提供了傳統(tǒng)密碼學(xué)無法提供的隱私保護(hù)手段,具有更輕量級(jí)的計(jì)算負(fù)載,提高了隱私保護(hù)效率。

但也存在理論和應(yīng)用上的挑戰(zhàn)。例如在理論層面,數(shù)據(jù)可用性較差:差分隱私在查詢結(jié)果中加入隨機(jī)化,導(dǎo)致數(shù)據(jù)可用性下降;數(shù)據(jù)類型有限:缺乏針對(duì)復(fù)雜數(shù)據(jù)類型的有效差分隱私保護(hù)方法。

在應(yīng)用層面,差分隱私不適用于單一樣本的確切信息查詢;復(fù)雜應(yīng)用場(chǎng)景下差分隱私得到的結(jié)果誤差較大;并且,目前還缺乏測(cè)試算法(乃至自動(dòng)測(cè)試算法)是否符合差分隱私的方法。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

如今,學(xué)術(shù)界針對(duì)差分隱私的機(jī)制優(yōu)化有了一些進(jìn)展。例如上圖所示的最優(yōu)機(jī)制設(shè)計(jì)、機(jī)制后處理、最優(yōu)機(jī)制搜尋等工作。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

相應(yīng)地,Shuffle機(jī)制、Subsample機(jī)制的提出增添了差分隱私放大機(jī)制的研究。

針對(duì)應(yīng)用難題,學(xué)界也提出了差分隱私正確性測(cè)試方法,包括多輪采樣與概率論技巧相結(jié)合的方法、程序分析的方法等等。



3

數(shù)據(jù)脫敏前沿進(jìn)展

數(shù)據(jù)脫敏( Data Masking)是根據(jù)制定的脫敏規(guī)則,針對(duì)敏感信息進(jìn)行數(shù)據(jù)變形或形成遮蔽,降低數(shù)據(jù)的敏感級(jí)別,擴(kuò)大數(shù)據(jù)可共享和被使用的范圍,達(dá)到保護(hù)隱私數(shù)據(jù)安全的目的。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

根據(jù)是否脫離生產(chǎn)環(huán)境,數(shù)據(jù)脫敏可以分為動(dòng)態(tài)數(shù)據(jù)脫敏和靜態(tài)數(shù)據(jù)脫敏。前者對(duì)敏感數(shù)據(jù)的查詢和調(diào)用結(jié)果進(jìn)行實(shí)時(shí)脫敏。在訪問敏感數(shù)據(jù)的同時(shí)實(shí)時(shí)進(jìn)行脫敏處理,可以為不同角色、不同權(quán)限、不同數(shù)據(jù)類型執(zhí)行不同的脫敏方案,從而確保可用而安全。

后者(靜態(tài)數(shù)據(jù)脫敏)是指數(shù)據(jù)脫敏后分發(fā)至測(cè)試、開發(fā)、數(shù)據(jù)分析等場(chǎng)景。是數(shù)據(jù)的“搬移并仿真替換”。將數(shù)據(jù)脫敏處理后,下發(fā)給下游環(huán)節(jié)取用和讀寫。脫敏后數(shù)據(jù)與生產(chǎn)環(huán)境相隔離,滿足業(yè)務(wù)需求的同時(shí)保障生產(chǎn)數(shù)據(jù)庫(kù)的安全。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

如上圖所示,數(shù)據(jù)脫敏有很多方式。例如數(shù)據(jù)一致性脫敏、遮蔽脫敏、保持?jǐn)?shù)據(jù)格式脫敏、泛化脫敏、保持?jǐn)?shù)據(jù)特征脫敏等等。

作為數(shù)據(jù)安全防護(hù)工作的重要一環(huán),數(shù)據(jù)脫敏技術(shù)和產(chǎn)品已作為常規(guī)手段,而敏感信息依賴于實(shí)際業(yè)務(wù)場(chǎng)景和安全維度,識(shí)別和梳理具體業(yè)務(wù)場(chǎng)景的敏感字段迫在眉睫。同時(shí),目前市場(chǎng)上的數(shù)據(jù)脫敏供給商可分為信息安全服務(wù)服務(wù)商、自研自用企業(yè)以及通用數(shù)據(jù)脫敏工具開發(fā)商三類。但在全球范圍內(nèi)尚未形成脫敏的具體標(biāo)準(zhǔn)。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

目前,浙江大學(xué)與阿里巴巴合作開發(fā)了DMS數(shù)據(jù)管理系統(tǒng),包含了40萬個(gè)實(shí)例、400萬數(shù)據(jù)庫(kù)、10億張表,能夠?qū)崿F(xiàn)根據(jù)敏感數(shù)據(jù)自動(dòng)分級(jí)分類、異常訪問風(fēng)險(xiǎn)識(shí)別等等功能。

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

數(shù)據(jù)脫敏的應(yīng)用非常廣泛,但也存在一些難點(diǎn)。例如如何確定數(shù)據(jù)脫敏的目標(biāo)字段?當(dāng)前選擇脫敏數(shù)據(jù)目標(biāo)字段主要依賴于人工標(biāo)記,在準(zhǔn)確性、安全性和高效性上仍有較大缺陷 。

如何保證數(shù)據(jù)脫敏過程的安全性? 當(dāng)前主流算法的脫敏過程仍不完善,有泄露和被取擊的風(fēng)險(xiǎn)。

如何評(píng)判數(shù)據(jù)脫敏結(jié)果的脫敏程度?目前市場(chǎng)上有許多種類的脫敏工具和算法技術(shù),但是沒有一種統(tǒng)一的標(biāo)準(zhǔn)來量化和衡量脫敏結(jié)果的好壞。

總結(jié)一下,數(shù)據(jù)市場(chǎng)依托隱私計(jì)算打破數(shù)據(jù)孤島非常重要。從數(shù)據(jù)脫敏、數(shù)據(jù)溯源到數(shù)據(jù)融合,再到數(shù)據(jù)確權(quán)、數(shù)據(jù)定價(jià),隱私計(jì)算已經(jīng)發(fā)展出了非常有潛力的技術(shù),它在未來數(shù)據(jù)要素化資產(chǎn)市場(chǎng)配置過程中也會(huì)起到底座作用。

綜上所述,隨著數(shù)據(jù)安全監(jiān)管與合規(guī)要求的日益嚴(yán)格,隱私計(jì)算技術(shù)所面臨的機(jī)遇與挑戰(zhàn)、困難與希望并存,是未來迎接數(shù)字化轉(zhuǎn)型的重要安全問題之一。


推薦閱讀

群雄并起,隱私計(jì)算創(chuàng)業(yè)人的前路在哪里?——七位大咖論道 |GAIR 2021

2021-12-18

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

工程院院士孫凝暉:計(jì)算機(jī)系統(tǒng)的演進(jìn)規(guī)律,從求極致到求通用|CNCC 2021

2021-12-23

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

CNCC 2021重磅啟幕:與John Hopcroft、孫凝暉等數(shù)十位頂級(jí)學(xué)者,共饗計(jì)算機(jī)年度盛會(huì)

2021-12-17

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展


雷峰網(wǎng)(公眾號(hào):雷峰網(wǎng))雷峰網(wǎng)


雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知

浙江大學(xué)求是講席教授任奎:隱私計(jì)算的前沿進(jìn)展

分享:
相關(guān)文章

運(yùn)營(yíng)

當(dāng)月熱門文章
最新文章
請(qǐng)?zhí)顚懮暾?qǐng)人資料
姓名
電話
郵箱
微信號(hào)
作品鏈接
個(gè)人簡(jiǎn)介
為了您的賬戶安全,請(qǐng)驗(yàn)證郵箱
您的郵箱還未驗(yàn)證,完成可獲20積分喲!
請(qǐng)驗(yàn)證您的郵箱
立即驗(yàn)證
完善賬號(hào)信息
您的賬號(hào)已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
立即設(shè)置 以后再說