0
Deepfake，這一 AI 領(lǐng)域的“大毒瘤”，正在引起越來越多來自行業(yè)的反擊。
當(dāng)?shù)貢r(shí)間 2020 年 1 月 6 日，F(xiàn)acebook 全球政策管理副總裁 Monika Bickert 在博客中表示，F(xiàn)acebook 將刪除滿足其標(biāo)準(zhǔn)的 Deepfake 視頻。這是 Facebook 打擊平臺(tái)上「操縱媒體」（Manipulated Media）的最新動(dòng)作。
【 圖片來源：華盛頓郵報(bào) 所有者：華盛頓郵報(bào) 】
Monika Bickert 表示：
雖然 Deepfake 視頻當(dāng)前在互聯(lián)網(wǎng)上仍然很少見，但其數(shù)量的增加將會(huì)對(duì)行業(yè)和社會(huì)構(gòu)成重大挑戰(zhàn)。
Deepfake，大家可能或多或少聽過名字。
2017 年底，美國社交新聞網(wǎng)站 Reddit 的一位用戶 Deepfakes 運(yùn)用人工智能技術(shù)，制作了一段“假”色情視頻，把《神奇女俠》女主角 Cal Gadot 的臉嫁接到一個(gè)成人電影女星身上，一時(shí)間引起轟動(dòng)。
實(shí)際上，換臉在計(jì)算機(jī)視覺領(lǐng)域頗為常見，提到 AI 換臉的方法，一個(gè)繞不開的話題便是 Cycle GAN——人臉轉(zhuǎn)換在早期的一個(gè)重要嘗試。 Cycle GAN 由深度學(xué)習(xí)模型 GAN（Generative Adversarial Networks，即生成對(duì)抗網(wǎng)絡(luò)）衍生而來，可以便捷地學(xué)習(xí)兩個(gè)類別之間的轉(zhuǎn)換關(guān)系，因而天然地適用于「圖像到圖像轉(zhuǎn)換」。
不過，Cycle GAN 保證了語義上的轉(zhuǎn)變，卻沒法保證一些細(xì)節(jié)問題，而最主要的兩點(diǎn)便是表情無法一一對(duì)應(yīng)、會(huì)出現(xiàn)混雜無意義的像素。
不同于 Cycle GAN，Deepfake 是一種深度自動(dòng)編解碼器模型（Autoencoder-Decoder），通過用源人物和目標(biāo)人物的至少幾百張照片，訓(xùn)練模型分別識(shí)別、還原兩人面部的能力，最后用源人物的照片搭配目標(biāo)人物的解碼器，從而完成轉(zhuǎn)換。（詳見雷鋒網(wǎng)此前報(bào)道）
【 圖片來源：GitHub 所有者：GitHub 】
當(dāng)然，Deepfake 也有局限——無法在小樣本上工作，也就是說無法憑一兩張照片就替換兩張臉，模型的訓(xùn)練過程也需要消耗大量資源。
雷鋒網(wǎng)了解到，由于用戶 Deepfakes 制作并上傳的換臉視頻涉及色情內(nèi)容，且侵犯了他人隱私，Reddit 官方將其封號(hào)，而作為報(bào)復(fù)，Deepfakes 也將換臉視頻的 AI 代碼免費(fèi)公開。
潘多拉的魔盒一打開，Deepfake 開始憑借著驚人的發(fā)展速度、逼真的換臉效果，并最終造成了惡劣的社會(huì)的消極影響。荷蘭網(wǎng)絡(luò)安全初創(chuàng)公司 Deeptrace 曾于 2019 年 10 月發(fā)布了一份關(guān)于 Deepfake 現(xiàn)狀的報(bào)告（詳見雷鋒網(wǎng)此前報(bào)道），并指出網(wǎng)絡(luò)上現(xiàn)有的 Deepfake 視頻中有 96% 涉及色情，各大色情網(wǎng)站上流傳的 Deepfake 視頻中，所有受害者均為女性；同時(shí)，娛樂圈名人成為 Deepfake 視頻的主要惡搞對(duì)象。
另外，Deepfake 對(duì)政局的影響也不容小覷，其中最為典型的兩個(gè)例子是：
2018 年，由 Deepfake 合成的加蓬總統(tǒng) Ali Bongo 新年致辭視頻曾引起了兵變；
2019 年，馬來西亞經(jīng)濟(jì)部長 Azmin Ali 與男性發(fā)生性關(guān)系的視頻攪動(dòng)了馬來西亞政局（雷鋒網(wǎng)注：同性性關(guān)系在馬來西亞屬違法行為，Azmin Ali 聲稱視頻是由 Deepfake 技術(shù)偽造，屬政治陰謀）；
正如荷蘭網(wǎng)絡(luò)安全初創(chuàng)公司 Deeptrace 創(chuàng)始人兼首席科學(xué)官 Giorgio Patrini 所說：
無論是視頻、音頻還是文本，我們一直以來依賴和信任的多個(gè)數(shù)字通信渠道都已遭到了顛覆。
Deepfake 視頻的發(fā)展自然而然引發(fā)了人們的恐慌與深思。因此，各大科技企業(yè)也開始聯(lián)合學(xué)術(shù)界做出行動(dòng)，避免造成更深的負(fù)面影響。
正如紐約州立大學(xué)工程與應(yīng)用科學(xué)學(xué)院呂思偉教授所說：
解決這一問題需要技術(shù)人員、政府機(jī)構(gòu)、媒體、公司以及每一個(gè)在線用戶的共同努力。
2019 年 9 月 5 日，F(xiàn)acebook CTO Mike Schroepfer 宣布，F(xiàn)acebook 正與微軟公司聯(lián)合包括麻省理工學(xué)院、牛津大學(xué)、康奈爾科技校區(qū)和伯克利大學(xué)在內(nèi)的多所大學(xué)研究檢測(cè) Deepfake 的方法，同時(shí)非營利性研究組織 Partnership on AI 也參與其中，該組織的成員包括 Google、蘋果、亞馬遜、IBM 等大型科技公司。
另外，F(xiàn)acebook 投入了 1000 萬美元發(fā)起“Deepfake 檢測(cè)挑戰(zhàn)賽”（Deepfake Detection Challenge，DFDC），競賽于 2019 年末在溫哥華舉行的 NeurIPS 2019 上正式啟動(dòng)，并于 2020 年春季結(jié)束，進(jìn)而激勵(lì)研究人員以及業(yè)余愛好者尋找解決方案。
當(dāng)月，Google AI 開源 Deepfake 視頻檢測(cè)數(shù)據(jù)集，該數(shù)據(jù)集共包含來自 28 個(gè)不同場景的由真人演員歷時(shí) 1 年現(xiàn)場拍攝的 3000 多段視頻。
2019 年 10 月初，美國參議院情報(bào)委員會(huì)的 Mark Warner 和 Marco Rubio 召集了包括 Facebook、Twitter、YouTube、Reddit 和領(lǐng)英在內(nèi)的 11 家科技公司負(fù)責(zé)人，旨在加快制定行業(yè)標(biāo)準(zhǔn)，規(guī)范 AI 合成內(nèi)容的分享、移除及存檔。月末，Twitter 發(fā)布了平臺(tái)擬將執(zhí)行的草案，并公開征集用戶意見。
正如本文開頭提到的，F(xiàn)acebook 近日發(fā)布博客，公開了針對(duì) Deepfake 視頻的新政策。
博客提到，F(xiàn)acebook 將刪除符合以下標(biāo)準(zhǔn)的操縱媒體：
過度編輯或合成的視頻，誤導(dǎo)觀眾以為視頻中的人物說了他們實(shí)際并沒有說過的話；
通過 AI 或機(jī)器學(xué)習(xí)技術(shù)對(duì)原有視頻素材進(jìn)行整合、替換或疊加生成的視頻。
值得一提的是，對(duì)于不符合上述標(biāo)準(zhǔn)的視頻，第三方事實(shí)核查員也會(huì)審查（包括 Facebook 的全球 50 多個(gè)合作伙伴，將使用 40 多種語言進(jìn)行核查）。如果視頻被評(píng)定為虛假或部分虛假，F(xiàn)acebook 將明顯減少其在 News Feed 信息流中的傳播，用戶在分享該視頻時(shí)也會(huì)收到提醒。
同時(shí)，F(xiàn)acebook 指出，新政策不適用于涉及模仿或諷刺內(nèi)容的視頻，以及僅作了刪減或改變了說話順序的視頻。
美智庫新美國安全中心 CNAS 技術(shù)與國家安全項(xiàng)目主任 Paul Scharre 曾警告說：
Deepfake 具有極大的破壞性，利用它來操控選舉只是時(shí)間問題。
因此，進(jìn)入 2020 年，隨著本屆美國總統(tǒng)大選臨近，作為全球最大的社交媒體平臺(tái)，F(xiàn)acebook 此舉自然也考慮了政治方面的因素。
雷鋒網(wǎng)了解到，Monika Bickert 的博客于她即將出席國會(huì)關(guān)于網(wǎng)絡(luò)操縱和欺騙的聽證會(huì)之前發(fā)出，這可能并非巧合——距離 2020 年大選只剩 10 個(gè)月時(shí)間，很少有哪個(gè)政治階層的人對(duì) Facebook 在民主進(jìn)程中發(fā)揮的作用感到滿意，此次政策的宣布似乎是 Facebook 在向當(dāng)局證明自己的能力。
談到政治，猶記得，2019 年一段美國民主黨議員 Nancy Pelosi 的演講視頻遭到惡搞（視頻倍速降低至 0.75X，Nancy Pelosi 音調(diào)也被調(diào)高），使其看上去很像是醉酒狀態(tài)。很快，這段視頻就傳遍了各大社交網(wǎng)絡(luò)，對(duì)當(dāng)事人形象造成了極大影響。
對(duì)此，F(xiàn)acebook 表示，由于視頻屬于常規(guī)剪輯，并未違反平臺(tái)的任何規(guī)定，因此不會(huì)刪除；不過鑒于其負(fù)面影響，F(xiàn)acebook 減少了該視頻在平臺(tái)的傳播。
這一做法招致了廣泛批評(píng)，而 Facebook 此次推出的“新政”也未針對(duì)類似去年 Nancy Pelosi 視頻的虛假內(nèi)容給出令人信服的策略，因此充滿爭議，爭議的主要原因有以下幾條：
第一，第 1 條標(biāo)準(zhǔn)只適用于那些「讓觀眾誤以為視頻中的人物說了他們實(shí)際上沒有說過的話」的視頻，也就是說不包含那些讓觀眾誤以為視頻中的人物做了他們實(shí)際上沒有做過的事情的 Deepfake 視頻。
其實(shí)這是個(gè)很大的漏洞。按照 Facebook 的說法，哪怕一個(gè) Deepfake 視頻里面有政客焚燒美國國旗，參加白人民族主義集會(huì)，或與恐怖分子握手，F(xiàn)acebook 也不會(huì)刪除視頻。雖然以上都是「極端情況」，但在外交政策、國家安全和選舉誠信方面，這些往往是最緊要的。尷尬的是，F(xiàn)acebook 一位發(fā)言人的確向美國付費(fèi)媒體 OneZero 證實(shí)，這些情況下平臺(tái)不會(huì)刪除視頻。
第二，第 2 條標(biāo)準(zhǔn)對(duì)于控制虛假信息的傳播效果有限，因?yàn)楝F(xiàn)階段絕大多數(shù)此類視頻依然是通過視頻剪輯軟件來編輯的，通過手動(dòng)刪除背景信息或調(diào)整語序，視頻剪輯者便到達(dá)了“斷章取義”的目的。正如紐約大學(xué)斯特恩商業(yè)和人權(quán)中心副主任、政治虛假信息專家 Paul Barrett 所說：
根據(jù) Facebook 的新政策，即便是虛假視頻，但因?yàn)榇鄹牡氖侄尾幌冗M(jìn)，所以不會(huì)被刪除。
第三，Facebook 在博客里提到的「事實(shí)核查政策」有嚴(yán)重的局限性。美國《連線》雜志作家 Renée DiResta 認(rèn)為：
事實(shí)核查政策的一個(gè)主要問題就是太慢了，在查明事實(shí)之前，視頻一直在病毒式傳播；而且如果涉及到政治，大多數(shù)人并不會(huì)相信事實(shí)核查的結(jié)果，這甚至還會(huì)升級(jí)為黨派之爭。
一個(gè)很好的例證便是——2019 年 Facebook 的事實(shí)核查機(jī)制啟動(dòng)時(shí)，Nancy Pelosi 的視頻已經(jīng)廣為傳播，而且最終也沒被刪除，負(fù)面影響并未降低；面對(duì)網(wǎng)絡(luò)暴力，Nancy Pelosi 還指責(zé) Donald Trump 團(tuán)隊(duì)也有不可推卸的責(zé)任（雷鋒網(wǎng)注：視頻中 Nancy Pelosi 在談?wù)?Donald Trump）。
第四，該政策僅針對(duì)視頻。近日，美國亞利桑那州共和黨眾議員 Paul Gosar 在 Twitter 上發(fā)了一張前總統(tǒng) Barack Obama 與伊朗總統(tǒng)握手的偽造照片。Facebook 證實(shí)，這確實(shí)也不在新政策針對(duì)的范圍內(nèi)。
第五，該政策最大的漏洞是不適用于涉及模仿或諷刺的視頻。實(shí)際上，虛假信息制造者往往是利用“諷刺”的標(biāo)簽做幌子，一次次順利通過 Facebook 的事實(shí)核查，病毒式傳播著帶有明顯誤導(dǎo)性的消息。除非 Facebook 明確定義什么才算“諷刺”，否則 Deepfake 視頻借著“諷刺”的名號(hào)蒙混過關(guān)也不是不可能。
第六，該政策可能有向權(quán)貴低頭之嫌。據(jù)《紐約時(shí)報(bào)》報(bào)道，F(xiàn)acebook 的一位發(fā)言人發(fā)郵件稱：
如果政治演講符合公眾利益，F(xiàn)acebook 不會(huì)對(duì)其進(jìn)行審查。 如果是政治人物違反了平臺(tái)規(guī)定，我們將通過權(quán)衡「公共利益價(jià)值和損害風(fēng)險(xiǎn)」來進(jìn)行評(píng)估。
對(duì)此，《紐約時(shí)報(bào)》認(rèn)為，所謂的「公共利益價(jià)值和損害風(fēng)險(xiǎn)」定義模糊，但可以確定的是，政治人物是受到保護(hù)的階級(jí)。如此看來，政治人物操縱社交媒體，似乎比普通人更容易。
在批評(píng)聲不絕于耳之時(shí)，也有一些人士表示了對(duì)這一政策的肯定。
比如非營利組織 WITNESS 的項(xiàng)目主管 Sam Gregory 表示：
我認(rèn)為這個(gè)政策很好，在 Deepfake 成為一個(gè)普遍的問題之前，社交平臺(tái)首先要清楚地表明立場，宣布他們的具體政策，這是很重要的。
另外 OneZero 認(rèn)為，做得不夠好總比什么都沒做要好，至少 Facebook 的新政策考慮到了一些可能出現(xiàn)的典型 Deepfake 視頻，這對(duì)政治是有積極意義的。誠然，如今絕大多數(shù) Deepfake 涉及色情，而非政治，但 Facebook 一直以來禁止裸露和色情的規(guī)定其實(shí)也已經(jīng)有了不錯(cuò)的效果。
在雷鋒網(wǎng)編輯看來，F(xiàn)acebook 一直以來聯(lián)合企業(yè)、學(xué)術(shù)界、政府做出的努力，的確表現(xiàn)出了它作為全球最大社交媒體的社會(huì)責(zé)任感；但不得不說，面對(duì)讓眾多女性、名人深受其害的 Deepfake，F(xiàn)acebook 的博客像是一份考慮不周的、匆匆交上的答卷。
要有效地避免受害者群體更加龐大，或許還得三思而后行。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
