0
| 本文作者： 貝爽 | 2020-09-03 18:40 |
因美國大選，Deepfake再一次引發(fā)關(guān)注。
Deepfake的深度造假能力自不必多說，支持換臉、換頭、對口型，逼真程度已經(jīng)達(dá)到肉眼無法察覺的地步。由于該技術(shù)被廣泛用于制造虛假色情視頻，學(xué)術(shù)界、企業(yè)界開始聯(lián)合發(fā)力研發(fā)Deepfake檢測工具。
近日，微軟推出了兩項(xiàng)最新Deepfake檢測技術(shù)，不過，其目的是保護(hù)美國大選免受虛假信息威脅。
近幾年，有關(guān)政界的虛假信息已經(jīng)充斥于社交網(wǎng)絡(luò)。
據(jù)普林斯頓大學(xué)教授Jacob Shapiro最新研究結(jié)果顯示，2013年至2019年期間，社交媒體已累計(jì)發(fā)起96次政治運(yùn)動(dòng)，其行為多為詆毀政客、誤導(dǎo)公眾、激化辯論等。
在涉及的30多個(gè)國家中，美國占據(jù)了26%，其他國家包括亞美尼亞、澳大利亞、巴西、加拿大、法國、德國、荷蘭、波蘭、沙特阿拉伯、南非、臺灣、烏克蘭、英國和也門等。
重要的是，在這些運(yùn)動(dòng)中，93%為原創(chuàng)內(nèi)容，86%放大了已有內(nèi)容，74%歪曲了客觀事實(shí)。報(bào)告還顯示，關(guān)于COVID-19大流行的虛假信息已經(jīng)導(dǎo)致大量人們死亡和感染。
而Deepfake的出現(xiàn)和發(fā)展，再次為制造虛假信息提供了更便捷的途徑。在Youtube上，有關(guān)Donald Trump、Barack Hussein Obama, Elon Musk等名人政客的虛假換臉視頻已屢見不鮮。
如圖中，特朗普的面部被無縫轉(zhuǎn)換到一名演員（Alec Baldwin）身上，發(fā)表著與本人不相關(guān)的言論。
這些視頻雖為網(wǎng)友惡搞，但美國大選在即，難免有人利用這項(xiàng)技術(shù)擾動(dòng)政局。而Deepfake的深度造假能力，以及對政界可能產(chǎn)生的影響力，也早有先例：
2018年，加蓬（非洲中西部國家）總統(tǒng)Ali Bongo因病消失數(shù)月，為了打消外界圖謀不軌的猜測，政府發(fā)布了一段 Ali Bongo 錄制的新年致辭的視頻，而這則由Deepfakes技術(shù)合成的視頻，差點(diǎn)引發(fā)軍方兵變。
2019 年，一段關(guān)于馬來西亞經(jīng)濟(jì)部長Azmin Ali 與男性發(fā)生性關(guān)系的視頻在網(wǎng)絡(luò)上瘋傳。（同性性關(guān)系在馬來西亞屬違法行為）。雖然 Azmin Ali 聲稱這段視頻是通過Deepfakes技術(shù)偽造的，是政治陰謀，但是，國際專家聲稱找不到偽造跡象。
CNAS 技術(shù)與國家安全項(xiàng)目主任 Paul Scharre 曾發(fā)出警告稱，
Deepfakes 具有極大的破壞性，利用它來操控選舉只是時(shí)間問題。
另外，今年美因冠疫情肆虐，美國大選期間所有活動(dòng)幾乎都在線上進(jìn)行，而這無疑為偽造政客虛假言論提供了機(jī)會。
不過，微軟近日宣稱其最新研發(fā)的Deepfake檢測工具，可以有效幫助用戶識別虛假信息，目前已經(jīng)與多家媒體達(dá)成合作，用以保護(hù)美國大選期間免受信息虛假帶來的威脅。
Deepfake檢測，是微軟“保護(hù)民主”計(jì)劃中的一項(xiàng)。這項(xiàng)計(jì)劃于2018年開始啟動(dòng)，截止目前已陸續(xù)推出了Election Guard、Account Guard，Microsoft 365 for Campaigns 和Election等多項(xiàng)技術(shù)，并廣泛用于政治活動(dòng)中。
除了以上技術(shù)外，他們針對Deepfake可能帶來的政治威脅，研發(fā)了兩項(xiàng)最新檢測技術(shù)。
其中的一項(xiàng)技術(shù)為：視頻認(rèn)證器（Video Authenticator）。Deepfake被廣泛用于圖像、音頻和視頻造假，其中視頻是一種常用且可信度更高的方式。視頻認(rèn)證器可以在視頻播放的每個(gè)幀與原圖進(jìn)行實(shí)時(shí)對比，并給出數(shù)據(jù)分析，它的工作原理是檢測人眼可能無法察覺到的深偽、細(xì)微褪色或灰度元素的混合邊界。
視頻認(rèn)證器已通過了DeepFake Detection Challenge數(shù)據(jù)集測試，該數(shù)據(jù)集是訓(xùn)練和測試DeepFake檢測技術(shù)的領(lǐng)先模型。
值得一提的是，在今年的Deepfake挑戰(zhàn)賽上，參賽團(tuán)隊(duì)基于該數(shù)據(jù)集在識別虛假的準(zhǔn)確性方面最高達(dá)到了80%以上，黑盒測試準(zhǔn)確率最高達(dá)到了65%。
但是由于該數(shù)據(jù)集的使用存在一定的限制，視頻認(rèn)證器的訓(xùn)練是通過創(chuàng)建Face Forensic ++數(shù)據(jù)集完成的。
目前這項(xiàng)技術(shù)已與AI基金會達(dá)成合作，AI基金會是一家位于舊金山的商業(yè)和非營利性企業(yè)，其使命是將AI的力量和保護(hù)帶給全世界的每個(gè)人。通過這種合作關(guān)系，視頻認(rèn)證器可供參與民主進(jìn)程的組織（包括新聞媒體和政治運(yùn)動(dòng)）廣泛使用。
不過，視頻認(rèn)證器僅通過RD2020（Reality Defender 2020)可用，因?yàn)樗鼘⒅笇?dǎo)組織通過任何Deepfake檢測技術(shù)固有的局限性和道德考量。
除了對已有信息的檢測，微軟推出的另一項(xiàng)技術(shù)，支持從信息源頭杜絕偽造。微軟在博客中寫道，
從長遠(yuǎn)來看，我們必須尋求更有力的方法來維護(hù)和證明社交媒體信息的真實(shí)性。 目前幾乎沒有任何工具可以幫助讀者確信其在網(wǎng)上看到的信息來源可靠，且沒有被篡改。而今天我們宣布的這項(xiàng)技術(shù)，它既可以檢測被操縱的內(nèi)容，又可以向人們保證所觀看的媒體是真實(shí)的。
具體來說，這項(xiàng)技術(shù)有兩個(gè)組成部分。 第一個(gè)是內(nèi)置于Microsoft Azure中的一個(gè)工具，它使內(nèi)容制作者能夠向內(nèi)容片段添加數(shù)字哈希（Digital hashes，又稱數(shù)字散列）和證書（Certificates）。哈希和證書將內(nèi)容作為元數(shù)據(jù)存在于任何在線傳播的地方。
第二個(gè)是閱讀器，它可以作為瀏覽器擴(kuò)展或其他形式存在，用于檢查證書并匹配哈希值，讓人們高度準(zhǔn)確地知道內(nèi)容是真實(shí)的，沒有被更改，并提供關(guān)于誰制作的詳細(xì)信息。
這項(xiàng)技術(shù)是由微軟研究院、微軟Azure與捍衛(wèi)民主計(jì)劃（Defending Democracy Program）合作開發(fā)，并且已經(jīng)與包括英國廣播公司（BBC），加拿大廣播電臺和《紐約時(shí)報(bào)》等多家媒體公司組成合作伙伴關(guān)系。
引用鏈接：雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
https://fossbytes.com/microsofts-deepfake-detection-tool-confidence-score/
https://interestingengineering.com/microsoft-debuts-deepfake-detection-tool-to-combat-disinformation
https://techcrunch.com/2020/09/02/microsoft-launches-a-deepfake-detector-tool-ahead-of-us-election/
https://blogs.microsoft.com/on-the-issues/2020/09/01/disinformation-deepfakes-newsguard-video-authenticator/
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
