雷鋒網(wǎng)AI科技評(píng)論編者按：命運(yùn)是天定的，顏值可是自己的。前段時(shí)間風(fēng)靡的換臉小程序已經(jīng)讓一部分人娛樂(lè)了一把，你知道嗎？現(xiàn)在又出新技術(shù)了，deepfakes不僅可以換臉，還能將面部表情、動(dòng)作都與另一張臉完美地融合在了一起。在技術(shù)革命到來(lái)的同時(shí)，濫用風(fēng)險(xiǎn)依然不可小覷······

本文來(lái)自Google AI的《contributing data to deepfake detection》在不改變?cè)囊馑嫉幕A(chǔ)上，雷鋒網(wǎng)AI科技評(píng)論的編譯如下：

深度學(xué)習(xí)已經(jīng)產(chǎn)生出了在幾年前還被認(rèn)為是不可能實(shí)現(xiàn)的技術(shù)?，F(xiàn)代生成模型就是其中的一個(gè)例子，它能夠合成超現(xiàn)實(shí)的圖像，語(yǔ)音，音樂(lè)，甚至是視頻。這些模型在廣泛的應(yīng)用程序中得到了應(yīng)用，包括通過(guò)文本到語(yǔ)音轉(zhuǎn)換使世界更親近，以及協(xié)助生成用于醫(yī)學(xué)成像的培訓(xùn)數(shù)據(jù)。

與任何變革性技術(shù)一樣，這也帶來(lái)了全新的挑戰(zhàn)。其中一種就是所謂的“ deepfakes”（由可操縱視頻和音頻剪輯的深度生成模型產(chǎn)生）。自2017年年底首次面世以來(lái)，已經(jīng)出現(xiàn)了很多開源的Deepfake生成方法，導(dǎo)致合成媒體剪輯的數(shù)量不斷增長(zhǎng)。雖然很多人可能是想用一種幽默的方式展現(xiàn)自己，但也不排除有些人可能會(huì)利用這樣的技術(shù)做出對(duì)他人和社會(huì)有害的事情。

谷歌認(rèn)真的考慮了這些問(wèn)題。正如我們?nèi)ツ暝凇度斯ぶ悄茉瓌t》(AI Principles)中發(fā)表的，我們致力于開發(fā)人工智能最佳實(shí)踐，以減少潛在的傷害和濫用。去年1月，我們發(fā)布了一個(gè)合成語(yǔ)音數(shù)據(jù)集，以支持開發(fā)高性能假音頻檢測(cè)器的國(guó)際挑戰(zhàn)。作為這項(xiàng)挑戰(zhàn)的一部分，150多個(gè)研究機(jī)構(gòu)和行業(yè)組織下載了該數(shù)據(jù)集，現(xiàn)在可以免費(fèi)向公眾提供。

今天，我們與Jigsaw攜手，宣布發(fā)布一個(gè)由我們制作的大型的視覺(jué)deepfakes數(shù)據(jù)集，該數(shù)據(jù)集已被納入慕尼黑工業(yè)大學(xué)和那不勒斯大學(xué)費(fèi)德里科二世的新FaceForensics基準(zhǔn)中，谷歌作為共同發(fā)起方見(jiàn)證了這場(chǎng)付出各方諸多努力終于有所收獲活動(dòng)。將這些數(shù)據(jù)納入Faceforensics視頻基準(zhǔn)測(cè)試是與包含Matthias Niessner教授, Luisa Verdoliva教授和FaceForensics團(tuán)隊(duì)在內(nèi)的領(lǐng)先的研究人員合作進(jìn)行的，你可以在FaceForensics GitHub頁(yè)面上下載數(shù)據(jù)。

圖1：Google參與FaceForensics基準(zhǔn)測(cè)試的視頻樣本。為了生成這些，隨機(jī)選擇了幾組演員，深度神經(jīng)網(wǎng)絡(luò)將一個(gè)演員的臉換到了另一個(gè)演員的頭上。

為了制作這個(gè)數(shù)據(jù)集，在過(guò)去的一年中，我們與雇傭的演員和志愿者演員合作錄制了數(shù)百個(gè)視頻。 然后，使用公開可用的Deepfake生成方法，我們從這些視頻中創(chuàng)建了數(shù)千個(gè)Deepfake。 由此生成的真實(shí)和虛假的視頻都傾注了我們的心血，我們創(chuàng)建這些視頻是為了支持Deepfake的檢測(cè)工作。 作為FaceForensics基準(zhǔn)測(cè)試的一部分，這個(gè)數(shù)據(jù)集現(xiàn)在可供研究社區(qū)免費(fèi)使用，可用于開發(fā)合成視頻的檢測(cè)方法。

圖2：演員們?cè)诟鞣N場(chǎng)景中的拍攝情況。其中一些演員在這里(頂部)使用Deepfake技術(shù)換臉的樣本出現(xiàn)在 (底部)，這可能存在微妙的或劇烈的變化，取決于創(chuàng)建他們的其他演員。

由于這個(gè)領(lǐng)域的發(fā)展速度極快，我們將隨著Deepfake技術(shù)的發(fā)展將其添加到該數(shù)據(jù)集中，并且我們將繼續(xù)與該領(lǐng)域的合作伙伴合作。 我們堅(jiān)信，要為蓬勃發(fā)展的研究社區(qū)提供支持，以減輕因?yàn)E用合成媒體而造成的潛在危害，而今天在FaceForensics基準(zhǔn)測(cè)試中發(fā)布的Deepfake數(shù)據(jù)集正是朝著這個(gè)方向邁出的重要一步。

雷鋒網(wǎng)注：原文鏈接：https://ai.googleblog.com/2019/09/contributing-data-to-deepfake-detection.html

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。