北京的夏天還沒(méi)來(lái)，429先來(lái)了。

今年還是熟悉的配方，甚至進(jìn)門后阿里云展臺(tái)的位置都沒(méi)變（不是打廣告）。第六屆 429 有什么新鮮議題可以分享？雷鋒網(wǎng)編輯聽了一波。

不可信的AI沒(méi)人用

AI時(shí)代無(wú)隱私。

去年2月，F(xiàn)acebook 被曝泄露5000萬(wàn)用戶信息，這些信息被劍橋分析（Cambridge Analytica）拿去加以分析，創(chuàng)建數(shù)據(jù)庫(kù)，以此在2016年美國(guó)總統(tǒng)大選期間投其所好、作有針對(duì)性的定向宣傳。

幾個(gè)月后，其又被曝出將用戶位置、設(shè)備信息、所連接Wi-Fi網(wǎng)絡(luò)的情況、觀看的視頻記錄等數(shù)據(jù)提供給廣告主進(jìn)行忠誠(chéng)度預(yù)測(cè)。這項(xiàng)基于AI的服務(wù)，通過(guò)預(yù)測(cè)用戶的未來(lái)行為，作為廣告投放的依據(jù)。 

今年2月，國(guó)內(nèi)某人臉識(shí)別公司發(fā)生大規(guī)模數(shù)據(jù)泄露事件。超過(guò)250萬(wàn)人的數(shù)據(jù)可被獲取，680萬(wàn)條記錄泄露，其中包括身份證信息，人臉識(shí)別圖像及捕捉地點(diǎn)等。

不久前結(jié)束的315晚會(huì)上也曝光了從APP安裝（隱私截?。?、探針盒子（隱私下載）、大數(shù)據(jù)分析（隱私數(shù)據(jù)整理）和AI語(yǔ)音電話騷擾（隱私變現(xiàn)）等一連串產(chǎn)業(yè)鏈成熟的黑產(chǎn)鏈。

不良商家正是利用人工智能和高科技，織就了一張無(wú)形的大網(wǎng)圍獵我們的隱私。

“AI的底線是什么？是可信，不可信的AI沒(méi)人會(huì)用，沒(méi)有任何的價(jià)值?！卑俣雀呒?jí)法律顧問(wèn)張朝說(shuō)道。

從PC到移動(dòng)、再到IoT時(shí)代，智能設(shè)備滲入生活中方方面面，積累的數(shù)據(jù)也越來(lái)越多。AI的三大基礎(chǔ)是算法、算力和數(shù)據(jù)，算法和算力的突破是AI發(fā)展的基礎(chǔ)和關(guān)鍵，但都受到瓶頸限制，而數(shù)據(jù)是決定AI競(jìng)爭(zhēng)力的一個(gè)核心要素。

全世界目前有40億人口使用手機(jī)，會(huì)在各種場(chǎng)景下通過(guò)數(shù)據(jù)進(jìn)行AI學(xué)習(xí)訓(xùn)練，進(jìn)而給人們創(chuàng)造智能和便利。 過(guò)去人們主要關(guān)注個(gè)人信息到企業(yè)的數(shù)據(jù)接收系統(tǒng)過(guò)程中的安全性，而AI是通過(guò)個(gè)人信息去復(fù)制系統(tǒng)，系統(tǒng)反過(guò)來(lái)作用到個(gè)人，此時(shí)人們開始關(guān)注系統(tǒng)通過(guò)處理信息以后對(duì)個(gè)人的反作用。 

也就是說(shuō)，AI時(shí)代要解決的個(gè)人信息問(wèn)題，既包括用戶對(duì)企業(yè)數(shù)據(jù)收集和使用的知情權(quán)及選擇權(quán)，也包括系統(tǒng)反作用于個(gè)人過(guò)程中的準(zhǔn)確和公正性的問(wèn)題。

怎樣做到AI的可信？

張朝舉了幾個(gè)產(chǎn)品場(chǎng)景。

比如在搜索引擎中，用戶可能會(huì)搜索一些私密問(wèn)題，在這種場(chǎng)景下如果選擇隱私模式，引擎就不會(huì)記錄這時(shí)候的搜索詞。

或者在使用個(gè)性化推薦的過(guò)程中，用戶認(rèn)為推薦的不夠準(zhǔn)確，這個(gè)時(shí)候用戶可以進(jìn)行反饋，并且重新收集其他的信息優(yōu)化算法對(duì)自己的理解，比如在地圖場(chǎng)景下，用戶可以讓記錄搜索軌跡，完善路徑推薦，當(dāng)然也可以一鍵刪除整個(gè)軌跡。

“這就需要我們?cè)诓煌膱?chǎng)景下考慮用戶期待的隱私權(quán)是什么，期待我們?cè)鯓颖Ｗo(hù)他的主權(quán)，同時(shí)把這種期待集合到產(chǎn)品功能中?！?/p>

百度從四個(gè)方面去保護(hù)用戶信息，包括制度、流程、技術(shù)的儲(chǔ)備以及文化的宣傳。

在制度方面百度成立了一個(gè)數(shù)據(jù)隱私保護(hù)委員會(huì)組織，負(fù)責(zé)制定法律保護(hù)策略，包括技術(shù)儲(chǔ)備，各個(gè)產(chǎn)品要以怎樣的流程進(jìn)行數(shù)據(jù)的收集使用和流轉(zhuǎn)。在流程方面，開發(fā)了很多隱私檢測(cè)的工具，利用這些工具測(cè)試產(chǎn)品是否有告知用戶收集數(shù)據(jù)。

最后，AI的產(chǎn)品需要AI的文化，隱私保護(hù)文化是整個(gè)AI文化中非常重要的一個(gè)組成部分，所以要通過(guò)技術(shù)或事宣傳教育及考核逐步灌輸給員工隱私保護(hù)的意識(shí)和能力。

據(jù)說(shuō)不少安全公司會(huì)挖坑給自己人跳，時(shí)不時(shí)發(fā)個(gè)釣魚軟件測(cè)試你有沒(méi)有警惕心，也是很會(huì)玩了。

白帽子or黑產(chǎn)大佬

今天看到一則有意思的新聞，加拿大某個(gè)不明身份的黑客入侵了一個(gè)陌生人的麥當(dāng)勞應(yīng)用程序，在4月12日至4月18日期間訂購(gòu)了近100頓飯，麥當(dāng)勞這波被坑了幾千美元，雖然不是很多，但氣啊！

不少網(wǎng)友猜測(cè)干壞事的就是這家麥當(dāng)勞附近公司的某個(gè)程序員。

這不禁讓編輯想起之前的消息，某技術(shù)人員利用軟件修改共享單車APP用戶信息，將用戶共享單車賬戶內(nèi)的余額押金退到自己掌握的賬戶上，短短的兩天時(shí)間盜取了34個(gè)用戶賬戶的資金共計(jì)兩萬(wàn)余元人民幣。

凝視深淵過(guò)久，深淵將回以凝視。技術(shù)似乎是一把雙刃劍，掌握它的勇士一方面要與惡斗爭(zhēng)，一方面也要與自我斗爭(zhēng)。這時(shí)候，法律約束的重要性油然而生。

360信息安全中心總經(jīng)理高雪峰談到，招聘安全技術(shù)人才最關(guān)鍵的就是看人品。因?yàn)樗麄兪掷镎莆罩軓?qiáng)的技術(shù)，一旦這些技術(shù)沒(méi)有法律和道德的約束，將變成潘多拉魔盒。

此前也有媒體報(bào)道過(guò)，某些企業(yè)內(nèi)部的員工將企業(yè)核心數(shù)據(jù)竊取出來(lái)進(jìn)行販賣，另外，從事黑灰產(chǎn)的不法人員也可能主動(dòng)找到某個(gè)技術(shù)人員利誘，有人在高額收入的誘惑下從事起了黑產(chǎn)工作。但在法律的約束下，安全從業(yè)人員更加清楚的了解到法律邊界以及違法帶來(lái)的懲罰，進(jìn)行了自我約束，將手中技術(shù)之劍發(fā)揮正向作用。

同樣的，法律也會(huì)推動(dòng)內(nèi)部業(yè)務(wù)安全發(fā)展。對(duì)不少互聯(lián)網(wǎng)公司來(lái)說(shuō)，問(wèn)題不及時(shí)整改和修復(fù)可能會(huì)導(dǎo)致種種后果，而借助相應(yīng)法律是對(duì)內(nèi)部做安全整改和推進(jìn)的有力幫手。

所有公司都是業(yè)務(wù)為王，安全與業(yè)務(wù)會(huì)存在一些沖突，出于安全考慮采取的措施可能對(duì)業(yè)務(wù)有阻礙。但由于法律對(duì)安全的重視，公司也會(huì)相應(yīng)的重視起來(lái)，從安全角度可以借助網(wǎng)絡(luò)安全法推動(dòng)相關(guān)業(yè)務(wù)。

另外，法律也會(huì)在治理公司業(yè)務(wù)時(shí)提供便利，尤其是互聯(lián)網(wǎng)公司的業(yè)務(wù)模型都來(lái)自不同業(yè)務(wù)部門，數(shù)據(jù)管理是非常重要的。在2016年網(wǎng)絡(luò)安全法頒布后，由公安部牽頭做了很多檢查工作。這些檢查其實(shí)對(duì)我們也有幫助。拿數(shù)據(jù)來(lái)說(shuō)，因?yàn)檫@些數(shù)據(jù)來(lái)自不同部門，重要性也不一樣，在和業(yè)務(wù)部分合作進(jìn)行安全部署時(shí)候，對(duì)方可能對(duì)于數(shù)據(jù)支持比較為難。

但有了法律文件或相應(yīng)檢查后，各個(gè)業(yè)務(wù)部門就會(huì)配合，在信息安全部門做業(yè)務(wù)整改時(shí)候會(huì)很容易梳理清楚數(shù)據(jù)類型，數(shù)據(jù)如何打通，怎么防護(hù)，怎樣幫助公司業(yè)務(wù)更好地將數(shù)據(jù)融會(huì)貫通。

總體來(lái)說(shuō)，自2016年網(wǎng)絡(luò)安全法頒布后，網(wǎng)絡(luò)安全環(huán)境是都逐漸走向健康。一方面對(duì)安全方面的執(zhí)業(yè)人員來(lái)說(shuō)更能了解哪些可以做，哪些不可以做，帶來(lái)了行為規(guī)范。另一方面對(duì)于企業(yè)內(nèi)部來(lái)說(shuō)，業(yè)務(wù)也更好推廣，互聯(lián)網(wǎng)公司也更重視安全及對(duì)用戶隱私的維護(hù)。

泄露信息的N種騷操作

如果你認(rèn)為只有黑客暗戳戳搞事情才會(huì)泄露你的隱私就錯(cuò)了，來(lái)看幾個(gè)例子：

2018年3月，網(wǎng)上傳出范冰冰和李晨購(gòu)買豪宅的新聞，文章中有精準(zhǔn)的房屋產(chǎn)權(quán)編號(hào)、產(chǎn)權(quán)價(jià)值、產(chǎn)權(quán)人姓名等。經(jīng)過(guò)青島市房管局官調(diào)查發(fā)現(xiàn)，是該市不動(dòng)產(chǎn)登記中心一名工作人員擅自查詢了范冰冰的購(gòu)房信息并發(fā)送到微信群，導(dǎo)致隱私被泄露。

上圖中幾個(gè)案例是金融行業(yè)違規(guī)查詢公民征信被判刑，可以看出查詢?nèi)硕际怯邢嚓P(guān)業(yè)務(wù)權(quán)限的，只是他們做了與工作無(wú)關(guān)的征信查詢，多數(shù)目的是商業(yè)利益，最終導(dǎo)致個(gè)人征信敏感數(shù)據(jù)泄露。

某公積金查詢APP并不直接與各地公積金中心合作，而是依靠用戶提供的賬號(hào)和密碼，通過(guò)技術(shù)手段，快速獲取該用戶的公積金繳納明細(xì)，相當(dāng)于受用戶委托的第三方。這里有幾個(gè)問(wèn)題：依靠技術(shù)手段爬取公用數(shù)據(jù)的行為并未得到監(jiān)管或者公積金中心的認(rèn)可，是否違法？該APP使用這些數(shù)據(jù)是否得到用戶的充分授權(quán)？利用綁架用戶獲得的授權(quán)是否有效？

 

這一系列案例又名泄露信息的一百種奇葩操作。在這些事件中可能并沒(méi)有任何黑客攻擊，也并非IT運(yùn)維人員的內(nèi)部數(shù)據(jù)盜取，僅是一個(gè)正常的與工作無(wú)關(guān)的業(yè)務(wù)查詢操作，就導(dǎo)致了個(gè)人隱私泄露。

來(lái)自美創(chuàng)科技北京分公司總經(jīng)理的沈武林認(rèn)為出現(xiàn)上述事件的原因主要有三個(gè)方面：

缺乏對(duì)業(yè)務(wù)人員的數(shù)據(jù)訪問(wèn)進(jìn)行檢測(cè)審計(jì)

現(xiàn)有的技術(shù)手段都在防范來(lái)自互聯(lián)網(wǎng)的黑客攻擊、勒索病毒以及來(lái)自內(nèi)部信息化人員的安全運(yùn)維，但針對(duì)業(yè)務(wù)端的數(shù)據(jù)訪問(wèn)缺乏有效檢測(cè)手段。無(wú)法避免業(yè)務(wù)人員通過(guò)看似正常的業(yè)務(wù)訪問(wèn)帶來(lái)的隱私泄露。

沒(méi)有實(shí)現(xiàn)隱私數(shù)據(jù)最小化原則

現(xiàn)有的業(yè)務(wù)系統(tǒng)都只考慮用戶使用業(yè)務(wù)系統(tǒng)的便利性，傳統(tǒng)安全只考慮業(yè)務(wù)系統(tǒng)如何避免黑客攻擊，都未考慮如何通過(guò)業(yè)務(wù)系統(tǒng)展示的隱私數(shù)據(jù)的脫敏和遮蓋，實(shí)現(xiàn)業(yè)務(wù)用戶可視隱私數(shù)據(jù)最小化，從而保護(hù)隱私數(shù)據(jù)。 

非授權(quán)的數(shù)據(jù)截圖

帶有一些附加功能的APP，比如社保查詢APP,免費(fèi)提供給用戶使用，來(lái)截取數(shù)據(jù)；另外有開發(fā)或?qū)⑹召M(fèi)的SDK逆向修改成免費(fèi)的SDK，吸引一些APP開發(fā)廠商嵌入到自己APP的里面，通過(guò)用戶的使用，再?gòu)闹薪亓魯?shù)據(jù)。還有一些數(shù)據(jù)公司，幫助一些有數(shù)據(jù)的部門提供對(duì)外的數(shù)據(jù)服務(wù)，然后截留數(shù)據(jù)。

如何防護(hù)上述信息泄露事件？

沈武林提出三個(gè)解決方案，分別是異常數(shù)據(jù)訪問(wèn)檢測(cè)、業(yè)務(wù)動(dòng)態(tài)脫敏以及網(wǎng)絡(luò)防爬蟲。

異常數(shù)據(jù)訪問(wèn)檢測(cè)其中包括異常登錄賬號(hào)訪問(wèn)數(shù)據(jù)（可利用用戶畫像有效識(shí)別異常登錄的用戶帳號(hào)，并針對(duì)這些帳號(hào)的數(shù)據(jù)訪問(wèn)進(jìn)行檢測(cè)和告警）、業(yè)務(wù)賬號(hào)高頻訪問(wèn)敏感數(shù)據(jù)（可利用機(jī)器學(xué)習(xí)有效識(shí)別某些業(yè)務(wù)帳號(hào)頻繁的訪問(wèn)敏感數(shù)據(jù)，并針對(duì)這些高頻的訪問(wèn)進(jìn)行檢測(cè)和告警）、來(lái)自于應(yīng)用程序的數(shù)據(jù)訪問(wèn)（APP利用用戶信任，獲得用戶的用戶名和帳號(hào)來(lái)自動(dòng)訪問(wèn)數(shù)據(jù)后臺(tái)，并將訪問(wèn)獲得的數(shù)據(jù)展示給用戶的同時(shí)保留一份到本地，從而形成大量未經(jīng)授權(quán)的數(shù)據(jù)）、自定義高危數(shù)據(jù)訪問(wèn)（針對(duì)業(yè)務(wù)需要的真實(shí)情況，定義出一些高危的數(shù)據(jù)訪問(wèn)，嚴(yán)格限制這類數(shù)據(jù)訪問(wèn)的執(zhí)行）、業(yè)務(wù)帳號(hào)的數(shù)據(jù)訪問(wèn)全審計(jì)（所有業(yè)務(wù)帳號(hào)訪問(wèn)業(yè)務(wù)數(shù)據(jù)的行為應(yīng)該都被詳細(xì)的記錄下來(lái)，做到事后可追溯審計(jì)）幾個(gè)方面。

而業(yè)務(wù)動(dòng)態(tài)脫敏是實(shí)現(xiàn)敏感數(shù)據(jù)最小化的最有效手段，在用戶訪問(wèn)業(yè)務(wù)系統(tǒng)時(shí)，業(yè)務(wù)系統(tǒng)頁(yè)面上有一些不需要對(duì)全部用戶展示的隱私信息，需要針對(duì)不同的用戶或用戶組，在訪問(wèn)業(yè)務(wù)系統(tǒng)頁(yè)面時(shí)進(jìn)行脫敏和遮蓋，從而減少隱私信息泄露的風(fēng)險(xiǎn)。當(dāng)不同的應(yīng)用程序通過(guò)接口訪問(wèn)數(shù)據(jù)平臺(tái)抽取數(shù)據(jù)時(shí)，也要求根據(jù)不同的應(yīng)用程序設(shè)置不同的脫敏策略，讓應(yīng)用程序獲得最小化的隱私數(shù)據(jù)。

雷鋒網(wǎng)注：第六屆“4.29首都網(wǎng)絡(luò)安全日”由北京市人民政府指導(dǎo)，北京市委網(wǎng)信辦、北京市公安局主辦，中國(guó)電子國(guó)際展覽廣告有限責(zé)任公司承辦，于4月28日-30日在北京展覽館舉行。

雷鋒網(wǎng)

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。