0
Deepfake負(fù)面應(yīng)用正在愈演愈烈。
上個月，“一鍵脫衣”AI（DeepNude）盜用社交網(wǎng)絡(luò)自拍照生成裸體刷爆網(wǎng)絡(luò)，短短幾天，致使68萬女性受害。近日，再次有外媒爆出在Reddit社區(qū)中，一個名為r / GeneratedPorn Subreddit正在散播大量色情淫穢作品，而制作這些色情作品的正是造假軟件—Deepfake。
這些虛假的色情作品已在Twitter，F(xiàn)acebook，Reddit多個社交網(wǎng)絡(luò)，以及XVideos，Pornhub等色情網(wǎng)站上被瘋狂傳播。
不同于DeepNude利用社交網(wǎng)絡(luò)中的私人照片，這次Deepfake造假軟件利用的是現(xiàn)有的成人色情作品。創(chuàng)建者認(rèn)為在原有色情作品上，利用Deepfake生成不存在的人臉進(jìn)行二次創(chuàng)作可以避免法律上的懲罰和道德上的譴責(zé)。
但事實可能并非如此，目前Reddit、XHamster等多個網(wǎng)站已經(jīng)將該軟件封殺，并強(qiáng)調(diào)，
Reddit網(wǎng)站政策禁止非自愿色情內(nèi)容的分享和傳播，包括Deepfake作品。
Deepfake的深度造假能力到底有多強(qiáng)？它除了支持換頭、換臉、對口型，以及脫衣外，甚至還可以生成一張完全不存在的人臉。像這樣，連頭發(fā)絲都顯得逼真自然。
然而，正是這項原本被廣泛用于影視業(yè)的逼真造假技術(shù)，被一名博士生用來創(chuàng)建了大量淫穢視頻。
這款Deepfake造假軟件被命名為GeneratedPorn，簡稱GP。GP所利用的色情數(shù)據(jù)集全部來自于捷克的一家色情制造公司——Czech Casting。
多年來，該公司拍攝了成千上萬的女性視頻，并托管在共享網(wǎng)站支持免費(fèi)下載。視頻中每個女性都被數(shù)字編號，并站在白色背景下進(jìn)行360°無死角拍攝，甚至包括局部生殖器官的鏡頭特寫。
這些高清、無死角的視頻內(nèi)容非常符合機(jī)器學(xué)習(xí)算法的訓(xùn)練要求。GP的創(chuàng)建者從中提取了7500張圖像，他說，
之所以選擇該數(shù)據(jù)源是因為，生成式對抗模型（GAN）需要學(xué)習(xí)生成對象類的圖像結(jié)構(gòu)，如果圖像在結(jié)構(gòu)上相似，則模型可以了解有關(guān)對象類的更精確的細(xì)節(jié)，比如精確到臉上的酒窩或雀斑，這樣可以獲得更高質(zhì)量的結(jié)果。
GAN，全稱 Generative Adversarial Networks ，是一種深度學(xué)習(xí)模型，是近年來復(fù)雜分布上無監(jiān)督學(xué)習(xí)最具前景的方法之一。該模型分為生成模型和鑒別模型，兩個模型在相互博弈中，可以獲得逼真的圖像輸出結(jié)果。
繼2016年GAN首次被提出之后，英偉達(dá)在此基礎(chǔ)上研發(fā)出了StleGAN，并在2019年升級為StyleGAN2.如之前所說，StyleGAN2在生成人臉，尤其是生存逼真且不存在的人臉方面已經(jīng)達(dá)到了最高性能，更重要的是，該模型已經(jīng)在GitHub開源。
https://github.com/NVlabs/stylegan2
GP創(chuàng)建者表示，它利用的就是開源的StyleGAN2模型，并用色情數(shù)據(jù)集加載到其中進(jìn)行訓(xùn)練。這一過程與其他換臉Deepfake相似，但不同的是，GP使用的不是一張人臉多種表情組成的數(shù)據(jù)集，而是多個數(shù)據(jù)集中提取的數(shù)據(jù)。
同時，他也強(qiáng)調(diào)雖然GP生成的色情內(nèi)容非常逼真，甚至肉眼看不出任何破綻，但它生成的是不存在的人臉。
今年9月份，這位博士生在Reddit上開設(shè)論壇，開始炫耀其用GP軟件生成的色情作品。按他的說法，在創(chuàng)建GP之初，已經(jīng)曾考慮過道德層面的問題了。
最后之所以選擇現(xiàn)有色情作品作為訓(xùn)練數(shù)據(jù)集，部分原因也是出于道德層面的考慮。
這位博士生是一位計算機(jī)專業(yè)的學(xué)生，同時也一位AI技術(shù)狂熱愛好者。他說，
這一切的開始都是出于對技術(shù)的好奇和熱愛，尤其是轉(zhuǎn)向生成色情作品以后，這是一項非?？岬募夹g(shù)。
一開始，他計劃制作一個OnlyFans，提供定制化的AI裸體視頻，但是這一想法遭到了好友的反對，因此，他將目標(biāo)轉(zhuǎn)向了色情公司的作品集。在他看來，利用成人色情作品，并切換成不存在的人臉圖像，創(chuàng)建的色情圖像可以避免道德上的譴責(zé)。
但事實可能并非如此。盡管是成人作品，但涉及到的女性并未給與授權(quán)，因此依然屬于非法盜用。此外，其數(shù)據(jù)集所屬公司Czech Casting正在面臨刑事訴訟。
警方指控該公司通過販賣人口和強(qiáng)奸來非法獲取女性色情圖像和視頻，并勒令其向22名視頻中的女性支付近1300萬美元的精神賠償。同時，其創(chuàng)始人也正被聯(lián)邦調(diào)查局（FBI）通緝。
而他對此并非不了解，對此，他解釋了兩點(diǎn)：
一是要通過算法生成完整的裸露身體，需要更多真實且裸露的圖像和視頻，而Czech Casting的視頻無疑是最佳資源。
二是有些女性是專門從事這項工作的，我無法通過圖片判斷其背后的故事，因此只能假設(shè)這些資源是可以利用的。
此外，雖然一再強(qiáng)調(diào)已經(jīng)盡力在規(guī)避道德問題，但他還是在XVideos，Pornhub，XHamster，Twitter，F(xiàn)acebook多個網(wǎng)站上開通了個人賬戶并分享其色情作品。
目前，多個社交平臺已經(jīng)將其賬號封禁。其中，XHamster已刪除GP用戶資料的，同時也表示，
這些類型的內(nèi)容確實屬于灰色地帶，我們需要與自己的機(jī)器學(xué)習(xí)團(tuán)隊以及TOS團(tuán)隊一起審查，以確定該如何評估和預(yù)防。
除了GP，DeepNude創(chuàng)建者也是出于對技術(shù)研究的熱忱。
但無論是出于什么原因，他們的做法確實濫用AI技術(shù)產(chǎn)生了惡劣的影響。而且如果從技術(shù)的角度來講，他們應(yīng)該處理好數(shù)據(jù)隱私問題，包括數(shù)據(jù)集授權(quán)以及社交網(wǎng)絡(luò)分享。
這一點(diǎn)可以借鑒Facebook的做法。
2019年，F(xiàn)acebook為應(yīng)對社交網(wǎng)絡(luò)中充斥的色情視頻造假問題，發(fā)起了Deepfake挑戰(zhàn)賽 （Deepfakes Detection Challenge）。
該挑戰(zhàn)賽的所用數(shù)據(jù)集就包含了100,000張色情演員的表演視頻，供研究人員使用。但重點(diǎn)是，該數(shù)據(jù)集已付費(fèi)并獲得了授權(quán)，同時技術(shù)測試內(nèi)容也禁止任何社交平臺分享。正如數(shù)據(jù)科學(xué)家喬杜里（Chowdhury）所說：“在未經(jīng)授權(quán)的情況下使用數(shù)據(jù)庫圖像的AI是不道德的”。
但事實上，除了專業(yè)機(jī)構(gòu)外，大部分利用AI生成的虛假視頻均未獲得授權(quán)，而且其中色情視頻占比最高達(dá)到了96%。據(jù)了解，F(xiàn)acebook托管在Kaggle的色情數(shù)據(jù)集也曾多次被盜取。（Kaggle是為開發(fā)商，數(shù)據(jù)科學(xué)家提供舉辦機(jī)器學(xué)習(xí)競賽、托管數(shù)據(jù)庫、編寫和分享代碼的專業(yè)平臺）
正因如此，Deepfake也逐漸淪為了一個臭名昭著的造假軟件。為遏制虛假內(nèi)容的生成，F(xiàn)acebook的努力已經(jīng)初見成效（識別準(zhǔn)確率可達(dá) 82.56%）。但要想完全關(guān)上潘多拉魔盒，還需要更多企業(yè)、學(xué)界以及開發(fā)者的共同努力。
引用鏈接：
https://www.vice.com/en/article/bjye8a/reddit-fake-porn-app-daisy-ridley
雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
