0
| 本文作者： 付靜 | 2020-06-13 15:39 |
不否認(rèn)已有的成績(jī)，但問(wèn)題還沒(méi)解決。
為應(yīng)對(duì)自 2017 年起引起全球恐慌的「AI 大毒瘤」Deepfake，政府、企業(yè)、學(xué)界聯(lián)合發(fā)力。
2019 年，F(xiàn)acebook 斥巨資發(fā)起“Deepfake 檢測(cè)挑戰(zhàn)賽”（Deepfake Detection Challenge，DFDC）。最近，Deepfake 檢測(cè)挑戰(zhàn)賽首個(gè)結(jié)果新鮮出爐，識(shí)別準(zhǔn)確率最高可達(dá) 82.56%，黑盒測(cè)試準(zhǔn)確率最高為 65.18%。
故事源于 2017 年。
美國(guó)社交新聞網(wǎng)站 Reddit 一位名為 Deepfakes 的用戶利用 AI 把《神奇女俠》女主角 Cal Gadot 的臉嫁接到一個(gè)成人電影女主身上，偽造了一段色情視頻 po 上網(wǎng)絡(luò)。
視頻火了，Deepfake 技術(shù)也火了。
從技術(shù)角度來(lái)看，Deepfake 是種深度自動(dòng)編解碼器模型（Autoencoder-Decoder），通過(guò)用源人物和目標(biāo)人物的至少幾百?gòu)堈掌?，?xùn)練模型分別識(shí)別、還原兩人面部的能力，最后用源人物的照片搭配目標(biāo)人物的解碼器，從而完成轉(zhuǎn)換。
毫無(wú)疑問(wèn)，用戶 Deepfakes 上傳的視頻涉及色情內(nèi)容，且侵犯到了他人隱私，Reddit 官方自然而然地將其封號(hào)。不過(guò)，Deepfakes 也很剛，作為報(bào)復(fù)，直接把視頻的 AI 代碼免費(fèi)公開。
此后，AI 大毒瘤開始迅速發(fā)酵——荷蘭網(wǎng)絡(luò)安全初創(chuàng)公司 Deeptrace 2019 年 10 月發(fā)布的關(guān)于 Deepfake 現(xiàn)狀的報(bào)告指出，Deepfake 視頻中 96% 涉及色情，在各大色情網(wǎng)站上瘋傳，所有受害者均為女性，娛樂(lè)圈名人成為主要被惡搞的對(duì)象。
可見(jiàn)，Deepfake 有著極其惡劣的影響，指不定哪天登上奇奇怪怪的網(wǎng)站連自己都不知道，真是細(xì)思極恐。
這還沒(méi)完，Deepfake 也被卷入了政治中——比如，由于同性性關(guān)系在馬來(lái)西亞屬違法行為，2019 年一段馬來(lái)西亞經(jīng)濟(jì)部長(zhǎng) Azmin Ali 與男性發(fā)生性關(guān)系的視頻曝光后攪動(dòng)了政局，不過(guò) Azmin Ali 表示視頻屬 Deepfake 技術(shù)偽造，認(rèn)為“這是場(chǎng)政治陰謀”。
基于此，政府、企業(yè)、學(xué)界下定決心聯(lián)合起來(lái)清除毒瘤。
2019 年 9 月 5 日，F(xiàn)acebook CTO Mike Schroepfer 宣布，F(xiàn)acebook 正與微軟聯(lián)合包括麻省理工學(xué)院、牛津大學(xué)、康奈爾科技校區(qū)和伯克利大學(xué)在內(nèi)的多所大學(xué)研究檢測(cè) Deepfake 的方法，同時(shí)非營(yíng)利性研究組織 Partnership on AI 也參與其中，該組織的成員包括 Google、蘋果、亞馬遜、IBM 等大型科技公司。
同時(shí)，F(xiàn)acebook 投入了 1000 萬(wàn)美元發(fā)起“Deepfake 檢測(cè)挑戰(zhàn)賽”（Deepfake Detection Challenge，DFDC），競(jìng)賽于 2019 年末在溫哥華舉行的 NeurIPS 2019 上正式啟動(dòng)，旨在激勵(lì)研究人員以及業(yè)余愛(ài)好者尋找能夠識(shí)別出由 AI 操縱的視頻算法。
具體來(lái)講，F(xiàn)acebook 雇傭了 3000 多名不同性別、膚色、種族、年齡的演員錄制了大約 10 萬(wàn)個(gè)視頻片段數(shù)據(jù)集，其中一部分經(jīng)過(guò)了 AI 的修改，把別人的臉貼在視頻里。
雷鋒網(wǎng)了解到，F(xiàn)acebook 利用了多種 Deepfake 生成模型、諸如圖像增強(qiáng)之類的細(xì)化技術(shù)以及諸如模糊、幀率修改和覆蓋之類的增強(qiáng)和干擾。這樣做的目的就是，使數(shù)據(jù)集能夠涵蓋實(shí)際可能存在的任何類型視頻。
為確保挑戰(zhàn)賽能達(dá)到預(yù)期的效果，F(xiàn)acebook 與康奈爾大學(xué)、麻省理工學(xué)院、慕尼黑技術(shù)大學(xué)、加州大學(xué)伯克利分校、奧爾巴尼桑尼大學(xué)、馬里蘭大學(xué)、那不勒斯費(fèi)德里科二世大學(xué)以及牛津大學(xué)的專家合作，收集反饋和建議。
下圖是 Facebook AI 官方給出的挑戰(zhàn)賽時(shí)間節(jié)點(diǎn)。
可以看出，自 2019 年 12 月 11 日正式啟動(dòng)以來(lái)，比賽如火如荼地展開，截止 2020 年 3 月 31 日，約 2114 名參賽者提交了超過(guò) 35000 種檢測(cè)算法。隨后的 4-5 月，研究人員對(duì)參賽者識(shí)別視頻的能力進(jìn)行測(cè)試，從而評(píng)選獲勝者。
終于，當(dāng)?shù)貢r(shí)間 2020 年 6 月 12 日，F(xiàn)acebook AI 團(tuán)隊(duì)公布 Deepfake 檢測(cè)挑戰(zhàn)賽首個(gè)結(jié)果——視頻識(shí)別算法準(zhǔn)確率最高可達(dá) 82.56%，不過(guò)在黑盒測(cè)試（black box）中準(zhǔn)確率最高為 65.18%，這表明特定場(chǎng)景的 Deepfake 視頻仍具有挑戰(zhàn)性。
實(shí)際上，檢測(cè) Deepfake 的一個(gè)核心挑戰(zhàn)就是將新的場(chǎng)景歸到已知的例子中，因此難度升級(jí)，參賽者須設(shè)計(jì)即使在不可預(yù)見(jiàn)的情況下也可能有效的模型。每個(gè)參賽隊(duì)伍的方案都必須經(jīng)過(guò)黑盒測(cè)試，黑盒數(shù)據(jù)集包括 10000 個(gè)比賽參與者無(wú)法獲得的視頻，既有可以在網(wǎng)上找到的視頻（有真有假），也包含專門為挑戰(zhàn)賽制作的視頻。
經(jīng)過(guò) 2 個(gè)月重重篩選，排名總算出爐。
獲勝者的 ID 都不簡(jiǎn)單，比如第四名【Eighteen years old】一不小心暴露了年齡，第七名【All Faces Are Real】表達(dá)了美好愿望，第九名【名偵探柯西】也是業(yè)務(wù)能力過(guò)硬。
還有推特小伙激動(dòng)地表示：
仍然不敢相信我們榜上有名！
與此同時(shí)，F(xiàn)acebook AI 官方表示，參賽者已經(jīng)做出了喜人的成績(jī)，但離自動(dòng)化系統(tǒng)可靠地識(shí)別出 Deepfake 內(nèi)容確實(shí)還有一段距離。
Facebook CTO Mike Schroepfer 也在新聞發(fā)布會(huì)上表示，他對(duì)這項(xiàng)挑戰(zhàn)賽的結(jié)果感到滿意，他認(rèn)為這將為研究人員建立標(biāo)準(zhǔn)，有利于之后的進(jìn)一步研究：
老實(shí)說(shuō)，這場(chǎng)比賽比我想象的更成功。
實(shí)際上，Mike Schroepfer 還表示：
Facebook 目前正在獨(dú)立開發(fā)自己的 Deepfake 檢測(cè)技術(shù)，我們也會(huì)根據(jù)比賽過(guò)程中得到的一些經(jīng)驗(yàn)對(duì)我們的技術(shù)進(jìn)行改進(jìn)。
另外雷鋒網(wǎng)了解到，在即將到來(lái)的的計(jì)算機(jī)視覺(jué)領(lǐng)域“奧斯卡”CVPR 2020（2020 年國(guó)際計(jì)算機(jī)視覺(jué)與模式識(shí)別會(huì)議）上，F(xiàn)acebook 還將分享后續(xù)的計(jì)劃、公開挑戰(zhàn)賽的原始數(shù)據(jù)集，并開放獲勝算法的源代碼，從而為其他參賽隊(duì)伍提供借鑒，但 Facebook 將對(duì)自己的檢測(cè)技術(shù)保密，防止逆向工程。
目前看來(lái)，想要完全關(guān)上 Deepfake 潘多拉的魔盒，還有很長(zhǎng)的路要走。后續(xù)研究進(jìn)展如何，雷鋒網(wǎng)將持續(xù)關(guān)注。
引用來(lái)源：
https://ai.facebook.com/blog/deepfake-detection-challenge-results-an-open-initiative-to-advance-ai
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
