雷鋒網(wǎng) AI 開(kāi)發(fā)者按：在 AI 換臉技術(shù)飽受各界質(zhì)疑當(dāng)兒，社交巨頭 Facebook 宣布投入超過(guò)1000萬(wàn)美元打造deepfake （一種流行的AI換臉技術(shù)）檢測(cè)競(jìng)賽，以便創(chuàng)建能用于“打假”模型訓(xùn)練的數(shù)據(jù)集。據(jù)官網(wǎng)介紹，競(jìng)賽結(jié)果與完整數(shù)據(jù)集將于今年12月份舉行的 NeurIPS 會(huì)議上公布。

雷鋒網(wǎng) AI 開(kāi)發(fā)者將賽事介紹編譯如下。

目前，競(jìng)賽官網(wǎng)已正式上線：https://deepfakedetectionchallenge.ai/

數(shù)據(jù)集和基準(zhǔn)是加速人工智能發(fā)展的最有效工具。我們目前在深度學(xué)習(xí)方面的復(fù)興在一定程度上是由ImageNet  benchmark所推動(dòng)的。GLUE 和SuperGLUE  benchmark加速了自然語(yǔ)言處理的進(jìn)展。

“deepfake”技術(shù)能夠呈現(xiàn)人工智能生成的逼真視頻，用虛構(gòu)出來(lái)的人做和說(shuō)看起來(lái)真實(shí)的事情，對(duì)確定網(wǎng)上呈現(xiàn)的信息的合法性具有重要意義。然而，這個(gè)行業(yè)并沒(méi)有一個(gè)很好的數(shù)據(jù)集或benchmark來(lái)檢測(cè)它們。我們希望促進(jìn)這一領(lǐng)域的研究和開(kāi)發(fā)，并確保有更好的開(kāi)源工具來(lái)檢測(cè)deepfake。這就是為什么Facebook，微軟，以及來(lái)自康奈爾科技，麻省理工，牛津大學(xué)，加州大學(xué)伯克利分校，馬里蘭大學(xué)，學(xué)院公園，和奧爾巴尼大學(xué)蘇尼分校的學(xué)者們一起建立了“deepfake檢測(cè)挑戰(zhàn)賽”（Deepfake Detection Challenge，DFDC）。

這項(xiàng)挑戰(zhàn)的目標(biāo)是開(kāi)發(fā)出一種每個(gè)人都可以使用的技術(shù)，它可以更好地檢測(cè)人工智能何時(shí)被用來(lái)篡改視頻，誤導(dǎo)觀眾。DFDC將包括一個(gè)數(shù)據(jù)集和排行榜，同時(shí)還會(huì)有撥款和獎(jiǎng)勵(lì)，以刺激行業(yè)創(chuàng)造新的方式來(lái)檢測(cè)出并防止被人工智能操縱的媒體用來(lái)誤導(dǎo)他人。人工智能和媒體誠(chéng)信指導(dǎo)委員會(huì)的伙伴將促進(jìn)和監(jiān)督這一挑戰(zhàn)賽，該委員會(huì)由一個(gè)廣泛的跨部門(mén)組織聯(lián)盟組成，包括Facebook、Witness、Microsoft和民間、技術(shù)界的其他組織、媒體和學(xué)術(shù)團(tuán)體。

最重要的是要有可供社區(qū)免費(fèi)使用的數(shù)據(jù)，并有足夠的參與者，而且在使用上不能有很多限制。這就是為什么Facebook正在構(gòu)建一個(gè)現(xiàn)實(shí)的數(shù)據(jù)集，參與者將可以免費(fèi)使用，并為這一挑戰(zhàn)做出貢獻(xiàn)。此數(shù)據(jù)集中不會(huì)使用Facebook用戶數(shù)據(jù)。為了鼓勵(lì)更多參與，我們還設(shè)立了研究合作和挑戰(zhàn)獎(jiǎng)?？偟膩?lái)說(shuō)，我們將投入超過(guò)1000萬(wàn)美元來(lái)支持這項(xiàng)全行業(yè)的努力。

為了確保數(shù)據(jù)集和挑戰(zhàn)參數(shù)的質(zhì)量，這些參數(shù)將在今年10月的國(guó)際計(jì)算機(jī)視覺(jué)會(huì)議（ICCV）上，通過(guò)有專業(yè)的技術(shù)工作會(huì)議進(jìn)行初步測(cè)試。完整的數(shù)據(jù)集和DFDC的發(fā)布將在今年12月的NeurIPS會(huì)議上進(jìn)行。Facebook也將參與挑戰(zhàn)賽，但不接受任何經(jīng)濟(jì)獎(jiǎng)勵(lì)。請(qǐng)?jiān)L問(wèn)我們的網(wǎng)站（https://deepfakedetectionchallenge.ai/）以獲取定期更新。

和垃圾郵件以及其他挑戰(zhàn)一樣，這是一個(gè)不斷演變的問(wèn)題，我們希望將行業(yè)和人工智能社區(qū)的力量結(jié)合在一起，取得更快的進(jìn)展。

（via https://ai.facebook.com/blog/deepfake-detection-challenge/）

9 月 4 日，據(jù)國(guó)外媒體報(bào)道，F(xiàn)acebook 宣布整改，將停止在用戶的照片和標(biāo)簽建議中默認(rèn)使用面部識(shí)別功能。在本周發(fā)表的一篇博客文章中，F(xiàn)acebook 表示，注冊(cè)的新用戶和那些開(kāi)啟了標(biāo)簽建議設(shè)置的用戶將會(huì)收到一份關(guān)于該平臺(tái)如何使用人臉識(shí)別這項(xiàng)技術(shù)的通知。

Facebook 這一舉動(dòng)的背后，反應(yīng)出的正是大眾對(duì)個(gè)人隱私的重視；類似的還有近來(lái)的「zao」事件、人臉識(shí)別課堂考勤、換臉 FakeSwap 開(kāi)源等。不斷革新的技術(shù)就像一把雙刃劍，它們給生活帶來(lái)便利的同時(shí)，也為個(gè)人隱私帶來(lái)了一定困擾。

不過(guò)可喜的是，從大眾對(duì)這些事件的回應(yīng)來(lái)看，我們能感受國(guó)民隱私意識(shí)的覺(jué)醒。那么，針對(duì)隱私保護(hù)，個(gè)人、企業(yè)、國(guó)家能做什么呢？特此，雷鋒網(wǎng) AI 開(kāi)發(fā)者將隱私保護(hù)相關(guān)事件以及技術(shù)防范措施整理編輯如下。

臉可換，隱私不可侵

前幾天的「ZAO」一經(jīng)發(fā)布，就得到了超高的反響，朋友圈到處都是「歡樂(lè)的換臉生活」。這款 APP 可以將用戶上傳的人臉，和影視作品里的明星臉無(wú)縫切換?？蓻](méi)過(guò)多久，便有人發(fā)現(xiàn)「ZAO」背后的重重隱患。

首先是「ZAO」的霸王條款。在 APP 使用協(xié)議中，「ZAO」規(guī)定：

• 在您上傳及/或發(fā)布用戶內(nèi)容之前，您同意或者確保實(shí)際權(quán)利人同意授予「ZAO」及其關(guān)聯(lián)公司以及「ZAO」用戶全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于可以對(duì)用戶內(nèi)容進(jìn)行全部或部分的修改與編輯。

• 如果您把用戶內(nèi)容中的人臉換成您或者其他人的臉，您同意或確保肖像權(quán)利人同意授予「ZAO」及其關(guān)聯(lián)公司以及「ZAO」用戶全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于：人臉照片、圖片、視頻資料等。

總之就是一經(jīng)上傳，照片中的人立即失去肖像權(quán)；不僅可供「ZAO」免費(fèi)使用，而且還能無(wú)條件任意修改。要是你用的是別人的臉，比如明星什么的，那還都是你的責(zé)任，「ZAO」依舊可以無(wú)條件免費(fèi)使用與修改，甚至是隨意授權(quán)給第三方，作為信息販賣。

而「ZAO」這一設(shè)定，正是抓住了我們通常因?yàn)橄勇闊?，而不?huì)仔細(xì)閱讀「協(xié)議條款」的心理，才讓它抱著一種僥幸心理，大肆侵犯我們的個(gè)人隱私。不過(guò)也正是因?yàn)殛P(guān)乎隱私，「ZAO」因該用戶協(xié)議涉嫌過(guò)度收集用戶信息、及隱私安全爭(zhēng)議，被工業(yè)和信息化部網(wǎng)絡(luò)安全管理局約談，并要求其嚴(yán)格按照國(guó)家法律法規(guī)以及相關(guān)主管部門(mén)要求，組織開(kāi)展自查整改，依法依規(guī)手機(jī)使用用戶個(gè)人信息，規(guī)范協(xié)議條款。

「ZAO」運(yùn)營(yíng)團(tuán)隊(duì)隨即也發(fā)布了致歉聲明，并表示「ZAO」不會(huì)存儲(chǔ)個(gè)人面部生物識(shí)別特征信息；并且用戶刪除信息或注銷賬號(hào)，「ZAO」均會(huì)依據(jù)相關(guān)法律法規(guī)的規(guī)定刪除相應(yīng)信息。

數(shù)據(jù)時(shí)代，隱私由誰(shuí)守護(hù)？

由數(shù)據(jù)引發(fā)的隱私問(wèn)題還有人臉識(shí)別監(jiān)管、瀏覽器記錄數(shù)據(jù)、數(shù)據(jù)人肉等等，甚至現(xiàn)在連逛淘寶店，都可能泄露我們的電話信息，而收到垃圾短信。因此有部分人調(diào)侃到：大數(shù)據(jù)時(shí)代無(wú)隱私。

政府部門(mén)的強(qiáng)有力監(jiān)管，企業(yè)的積極配合，個(gè)人的道德規(guī)范；都能夠在一定程度上加強(qiáng)對(duì)個(gè)人隱私的保護(hù)。

Fecebook此次重金投入換臉技術(shù)檢測(cè)競(jìng)賽，無(wú)非也是想讓我們?cè)跀?shù)據(jù)隱私上能夠掌握更多的主動(dòng)權(quán)。

當(dāng)然除此之外，我們也可以從技術(shù)方面來(lái)有意識(shí)規(guī)避隱私侵犯，從而維護(hù)個(gè)人的安全。

比如大數(shù)據(jù)分析共享方面，我們不要忽視隱私基準(zhǔn)評(píng)估、隱私數(shù)據(jù)識(shí)別、數(shù)據(jù)監(jiān)控掃描、數(shù)據(jù)加密、安全存儲(chǔ)，通道加密、傳輸行為審計(jì)，數(shù)據(jù)脫敏，數(shù)據(jù)鎖等多方面工作，從而可以從隱私數(shù)據(jù)的紅線、網(wǎng)絡(luò)行為模型、實(shí)時(shí)監(jiān)測(cè)等方式來(lái)更好地維護(hù)隱私安全。而在數(shù)據(jù)加密上，目前也有多種技術(shù)，包括：傳統(tǒng)的 DES/AES 對(duì)稱加密技術(shù)、同態(tài)加密隱私保護(hù)技術(shù)、差分隱私保護(hù)技術(shù)等。

其中，同態(tài)加密的核心是能夠直接在密文上做運(yùn)算，在機(jī)器學(xué)習(xí)和深度學(xué)習(xí)過(guò)程中使用同態(tài)加密對(duì)數(shù)據(jù)加密然后分析計(jì)算，能夠很好地解決許多領(lǐng)域要求數(shù)據(jù)保密、安全的問(wèn)題。差分隱私的任務(wù)則是提供一種關(guān)于輸出的概率分布的機(jī)制或者協(xié)議，允許用戶對(duì)數(shù)據(jù)進(jìn)行一定程度的修改，但不影響總體輸出，從而使得攻擊者無(wú)法知道數(shù)據(jù)集中關(guān)于個(gè)人的信息，達(dá)到隱私保護(hù)的作用。

在這個(gè)「沒(méi)有秘密」的時(shí)代，盡管我們無(wú)法左右數(shù)據(jù)革新浪潮；但是我們可以更加謹(jǐn)慎地去維護(hù)屬于我們的合法隱私權(quán)益。

雷鋒網(wǎng) AI 開(kāi)發(fā)者

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。