0
因美國大選，Deepfake再一次引發(fā)關注。
Deepfake的深度造假能力自不必多說，支持換臉、換頭、對口型，逼真程度已經(jīng)達到肉眼無法察覺的地步。由于該技術被廣泛用于制造虛假色情視頻，學術界、企業(yè)界開始聯(lián)合發(fā)力研發(fā)Deepfake檢測工具。
近日，微軟推出了兩項最新Deepfake檢測技術，不過，其目的是保護美國大選免受虛假信息威脅。
近幾年，有關政界的虛假信息已經(jīng)充斥于社交網(wǎng)絡。
據(jù)普林斯頓大學教授Jacob Shapiro最新研究結果顯示，2013年至2019年期間，社交媒體已累計發(fā)起96次政治運動，其行為多為詆毀政客、誤導公眾、激化辯論等。
在涉及的30多個國家中，美國占據(jù)了26%，其他國家包括亞美尼亞、澳大利亞、巴西、加拿大、法國、德國、荷蘭、波蘭、沙特阿拉伯、南非、臺灣、烏克蘭、英國和也門等。
重要的是，在這些運動中，93%為原創(chuàng)內(nèi)容，86%放大了已有內(nèi)容，74%歪曲了客觀事實。報告還顯示，關于COVID-19大流行的虛假信息已經(jīng)導致大量人們死亡和感染。
而Deepfake的出現(xiàn)和發(fā)展，再次為制造虛假信息提供了更便捷的途徑。在Youtube上，有關Donald Trump、Barack Hussein Obama, Elon Musk等名人政客的虛假換臉視頻已屢見不鮮。
如圖中，特朗普的面部被無縫轉(zhuǎn)換到一名演員（Alec Baldwin）身上，發(fā)表著與本人不相關的言論。
這些視頻雖為網(wǎng)友惡搞，但美國大選在即，難免有人利用這項技術擾動政局。而Deepfake的深度造假能力，以及對政界可能產(chǎn)生的影響力，也早有先例：
2018年，加蓬（非洲中西部國家）總統(tǒng)Ali Bongo因病消失數(shù)月，為了打消外界圖謀不軌的猜測，政府發(fā)布了一段 Ali Bongo 錄制的新年致辭的視頻，而這則由Deepfakes技術合成的視頻，差點引發(fā)軍方兵變。
2019 年，一段關于馬來西亞經(jīng)濟部長Azmin Ali 與男性發(fā)生性關系的視頻在網(wǎng)絡上瘋傳。（同性性關系在馬來西亞屬違法行為）。雖然 Azmin Ali 聲稱這段視頻是通過Deepfakes技術偽造的，是政治陰謀，但是，國際專家聲稱找不到偽造跡象。
CNAS 技術與國家安全項目主任 Paul Scharre 曾發(fā)出警告稱，
Deepfakes 具有極大的破壞性，利用它來操控選舉只是時間問題。
另外，今年美因冠疫情肆虐，美國大選期間所有活動幾乎都在線上進行，而這無疑為偽造政客虛假言論提供了機會。
不過，微軟近日宣稱其最新研發(fā)的Deepfake檢測工具，可以有效幫助用戶識別虛假信息，目前已經(jīng)與多家媒體達成合作，用以保護美國大選期間免受信息虛假帶來的威脅。
Deepfake檢測，是微軟“保護民主”計劃中的一項。這項計劃于2018年開始啟動，截止目前已陸續(xù)推出了Election Guard、Account Guard，Microsoft 365 for Campaigns 和Election等多項技術，并廣泛用于政治活動中。
除了以上技術外，他們針對Deepfake可能帶來的政治威脅，研發(fā)了兩項最新檢測技術。
其中的一項技術為：視頻認證器（Video Authenticator）。Deepfake被廣泛用于圖像、音頻和視頻造假，其中視頻是一種常用且可信度更高的方式。視頻認證器可以在視頻播放的每個幀與原圖進行實時對比，并給出數(shù)據(jù)分析，它的工作原理是檢測人眼可能無法察覺到的深偽、細微褪色或灰度元素的混合邊界。
視頻認證器已通過了DeepFake Detection Challenge數(shù)據(jù)集測試，該數(shù)據(jù)集是訓練和測試DeepFake檢測技術的領先模型。
值得一提的是，在今年的Deepfake挑戰(zhàn)賽上，參賽團隊基于該數(shù)據(jù)集在識別虛假的準確性方面最高達到了80%以上，黑盒測試準確率最高達到了65%。
但是由于該數(shù)據(jù)集的使用存在一定的限制，視頻認證器的訓練是通過創(chuàng)建Face Forensic ++數(shù)據(jù)集完成的。
目前這項技術已與AI基金會達成合作，AI基金會是一家位于舊金山的商業(yè)和非營利性企業(yè)，其使命是將AI的力量和保護帶給全世界的每個人。通過這種合作關系，視頻認證器可供參與民主進程的組織（包括新聞媒體和政治運動）廣泛使用。
不過，視頻認證器僅通過RD2020（Reality Defender 2020)可用，因為它將指導組織通過任何Deepfake檢測技術固有的局限性和道德考量。
除了對已有信息的檢測，微軟推出的另一項技術，支持從信息源頭杜絕偽造。微軟在博客中寫道，
從長遠來看，我們必須尋求更有力的方法來維護和證明社交媒體信息的真實性。 目前幾乎沒有任何工具可以幫助讀者確信其在網(wǎng)上看到的信息來源可靠，且沒有被篡改。而今天我們宣布的這項技術，它既可以檢測被操縱的內(nèi)容，又可以向人們保證所觀看的媒體是真實的。
具體來說，這項技術有兩個組成部分。 第一個是內(nèi)置于Microsoft Azure中的一個工具，它使內(nèi)容制作者能夠向內(nèi)容片段添加數(shù)字哈希（Digital hashes，又稱數(shù)字散列）和證書（Certificates）。哈希和證書將內(nèi)容作為元數(shù)據(jù)存在于任何在線傳播的地方。
第二個是閱讀器，它可以作為瀏覽器擴展或其他形式存在，用于檢查證書并匹配哈希值，讓人們高度準確地知道內(nèi)容是真實的，沒有被更改，并提供關于誰制作的詳細信息。
這項技術是由微軟研究院、微軟Azure與捍衛(wèi)民主計劃（Defending Democracy Program）合作開發(fā)，并且已經(jīng)與包括英國廣播公司（BBC），加拿大廣播電臺和《紐約時報》等多家媒體公司組成合作伙伴關系。
引用鏈接：雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
https://fossbytes.com/microsofts-deepfake-detection-tool-confidence-score/
https://interestingengineering.com/microsoft-debuts-deepfake-detection-tool-to-combat-disinformation
https://techcrunch.com/2020/09/02/microsoft-launches-a-deepfake-detector-tool-ahead-of-us-election/
https://blogs.microsoft.com/on-the-issues/2020/09/01/disinformation-deepfakes-newsguard-video-authenticator/
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
