Deepfakes 并不是一個陌生的詞，在人們?yōu)槠渌尸F(xiàn)出來的逼真效果驚嘆之余，它所帶來的負面影響也逐漸蔓延全球（參見雷鋒網(wǎng)此前報道）。

為了與惡意的 Deepfake 視頻對抗，F(xiàn)acebook 在今年 9 月份牽頭，聯(lián)合學術和企業(yè)兩個領域的力量，共同發(fā)起了以低成本的方式檢測出 Deepfakes 視頻的挑戰(zhàn)賽。項目的參與者還包括康奈爾科技校區(qū)（Cornell Tech）、麻省理工學院（MIT）、牛津大學（University of Oxford）和伯克利大學（UC Berkeley）等，以及非營利性研究組織 Partnership on AI——該組織的成員有 Google 、蘋果、亞馬遜、IBM 等大型科技公司。

在本周的于溫哥華舉行的 NeurIPS 2019 大會上，這項關于 Deepfakes 檢測工具的競賽將正式啟動，競賽到 2020 年 3 月才會結束。Facebook 人工智能總監(jiān)、該挑戰(zhàn)賽的負責人之一 Irina Kofman 表示：

看到多個領域的伙伴一起合作是鼓舞人心的，無論是來自企業(yè)界還是學術界，我們每個人都帶來了各自領域的見解，因此，我們可以考慮得更廣泛周全。

據(jù)悉，從今天開始，注冊的參賽者可以下載語料庫來訓練自己的檢測工具。一旦他們完成了最終設計，就可以將檢測工具的代碼提交到一個黑盒中驗證。在驗證的過程中，官方系統(tǒng)會根據(jù)檢測工具的有效性進行評分。參賽者無需共享自己的工具模型，但他們必須同意開源其工作，只有這樣才能夠獲得挑戰(zhàn)賽的獎勵。

為了這場競賽的順利進行，各大科技巨頭也紛紛貢獻出自己的力量：Facebook 方面表示，他們已經(jīng)投入了超過 1000 萬美元來鼓勵人們參與競爭；亞馬遜則為參賽者提供可選的模型；Google 旗下的 Kaggle 數(shù)據(jù)科學與機器學習平臺將主辦挑戰(zhàn)賽并負責排行榜（用來評定 Deepfakes 檢測系統(tǒng)的能力）的相關事項。

Facebook 首席技術官 Mike Schroepfer 在一篇博客文章中指出：

Deepfakes 技術是基于 AI 技術合成的視頻，它的真實性和合法性受到了一定的質疑。但截止目前，人們并沒有相應的數(shù)據(jù)集或基準來幫助檢測 Deepfakes 視頻。所以，我們希望能找到一個解決方案，幫助人們發(fā)現(xiàn)這些被篡改過的視頻，從而避免被誤導。

為了加快數(shù)據(jù)集的創(chuàng)立，F(xiàn)acebook 不僅委托研究人員生成逼真的 Deepfakes 視頻來充當訓練材料，以便于測試檢測工具的效果。與此同時，F(xiàn)acebook 也表示，這些視頻邀請了一組“多樣化”的付費演員出演，大約 54％ 的女性和 46％ 的男性。

Facebook AI 研究經(jīng)理 Christian Ferrer 表示，該數(shù)據(jù)集（總共包含超過 10 萬個視頻）在 10 月份的國際計算機視覺會議上進行了測試。而且，它不包括任何用戶數(shù)據(jù)，并且只有已簽訂使用協(xié)議的團隊才能訪問。

雖然，目前加州大學伯克利分校（University of California, Berkeley）和南加州大學（University of Southern California）共同開發(fā)的一種工具已經(jīng)提前發(fā)布，它的識別準確率超過 90%。但與此同時，Deepfakes 技術也在不斷變化發(fā)展，這也讓檢測變得越來越困難。

紐約大學坦登學校計算機工程助理教授 Siddharth Garg 對此表示，“這就像一場貓鼠游戲，如果我們設計了一個 Deepfakes 的檢測器，就等于給了黑客一個新的模擬器進行反測試?！?/p>

總而言之，想要打贏與 Deepfakes 制作者之間的“軍備競賽”看起來長路漫漫，但這場關于檢測工具的競賽馬上就要全面展開，來自各方的力量將一同抗衡作惡的 Deepfakes——我們應該樂觀一點。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權禁止轉載。詳情見轉載須知。