0
Ins、抖音上的網(wǎng)紅一定都是真人嗎？
答案還真不一定。
最近國外出現(xiàn)了一批售賣“假人”的網(wǎng)站，面向所有人開放，只要付費就能通過API快速獲取一個假人IP，而且也不貴，2.99美元（不到20元）一個。
先來看下它們的成品。
這些擁有光滑皮膚的人臉照是不是像極了社交平臺的網(wǎng)紅照？
可能你會懷疑他用了美顏相機一鍵磨皮瘦臉了，但肯定想不到他們都是不存在的“假人”
不止如此，這個名為Generated.Photos的網(wǎng)站還為購買者提供了極大的發(fā)揮空間，如果對年齡、容貌、膚色、種族、性別，甚至情緒不滿意，統(tǒng)統(tǒng)都可以根據(jù)需求自己調(diào)整，而調(diào)整方法就像使用美顏APP一樣簡單。
比如想要變大雙眼，直接滑動下面的滾動按鈕即可。
從青年直接跨到老年，頭發(fā)、神情、皺紋，過渡的相當自然，還應景地配了副眼鏡。
情緒變化也毫無違和感，正經(jīng)臉一秒變職業(yè)假笑。
如果一張假人照不足為奇，那么一個名為Rosebud.ai的網(wǎng)站還能讓他們“動”起來。
從說話的口型，五官的輕微移動，確實很難辨真假。
從網(wǎng)站介紹來看，任何帶有面孔的照片都可以變成視頻效果，其中說話的文本，可自定義，也可由系統(tǒng)自動提供，同時，說話者的聲音有多種選擇模式。
那么，如此逼真的深度造假網(wǎng)站，是不是已經(jīng)被封殺？
然而并沒有，這是一家正經(jīng)公司的正經(jīng)網(wǎng)站，網(wǎng)站上還掛出了他們的客戶—歐萊雅（L‘OREAL），電商平臺（shopify）、YC中國（Y-Combinator）等大牌企業(yè)Logo。
想必很多AI開發(fā)者或愛好者，對上述“假人”的生成效果并不感到意外。
自從2014年GAN（生成式對抗網(wǎng)絡）首次被提出以來，基于人臉的圖像合成效果便得到了驚人的發(fā)展，尤其是其升級版StylGAN2推出后，在人臉處理方面，已經(jīng)能夠支持換臉、換頭、修改五官，甚至生成不存在的新人臉。
而且這項技術已經(jīng)支持圖像、視頻、語音多種形式。據(jù)Rosebud.ai官網(wǎng)介紹，其“假人”制造正是基于GAN技術，而其視音頻的處理上利用的是自然語言模型GPT-3.
GPT-3具有超強的文本生成能力，內(nèi)含1750億參數(shù)量，是有史以來最大的NLP模型，也是OpenAI耗資四百多萬美元打造的模型。從6月份開通API服務后，被網(wǎng)友們挖掘出了50多種新玩法，如寫詩作詞、畫圖做PPT，生成代碼等等，效果也十分驚人。
基于這兩項超強AI技術，Rosebud.ai可以達到的效果不難想象。而為何提供這樣一種“假人”服務，該網(wǎng)站也給出了明確說明：
Rosebud ai是一款生成文本、圖像、視頻和語音的工具，它對于生成性媒體完成故事創(chuàng)作非常重要。比如，小說故事中的人物形象總是很豐富多彩，我們可以通過AI技術呈現(xiàn)與之最相符合人物容貌。同時，GPT3能夠進一步通過人物特點合成了具有親和力和情感豐富的獨白，這些獨白在刻畫人物形象，豐富故事內(nèi)容方式也發(fā)揮了非常重要的作用。
也就是說，這項技術原意是被用來輔助藝術創(chuàng)作。事實上，無論是GPT-3，還是GAN技術都是以科技向善為初衷研發(fā)的，比如GAN在人臉融合方面的驚人效果，可以被廣泛應用于娛樂、電影制作等行業(yè)。
但有人曾說過，“技術本沒有錯，錯的是利用技術的人?！盙AN技術被不少不良分子用來創(chuàng)造了大量Deepfake視頻，或是色情內(nèi)容或是偽造政客言論，此前雷鋒網(wǎng)也有多次報道。
Rosebud ai等工具也一樣。
Rosebud ai主要被人用來身份造假。相關案例也不再少數(shù)，其中最大的一起案例要屬2019年某間諜利用假面孔混入華盛頓政治領域事件。
當時一名凱蒂·瓊斯（Katie Jones）的紅發(fā)女郎以網(wǎng)絡專家的身份，與美國副國務卿助理，高級參議員助手以及經(jīng)濟學家保羅·溫弗里（Paul Winfree）都建立了密切聯(lián)系，Winfree當時正在競選美聯(lián)儲的職位。
后來經(jīng)調(diào)查發(fā)現(xiàn)，這位30歲的女性是由AI創(chuàng)建的“假人”，她在職業(yè)社交平臺Linkedin上的個人資料和照片全部虛構。
美國國家反情報與安全中心主任威廉·埃文納（William Evanina）曾表示，
“這是在專業(yè)社交網(wǎng)站上進行間諜活動的典型案例，很多外國間諜通常會使用虛假的社交媒體資料把自己包裝成美國知名專家，并進行大規(guī)模間諜活動，對他們而言，相比于派間諜到某一個國家，不如坐在家里的計算機后面，向30000個目標好友發(fā)送請求效果更高?！?/p>
不過，因及時發(fā)現(xiàn)該事件并沒有產(chǎn)生更惡劣的影響。同樣是在LinkedIn平臺，今年7月份也發(fā)生了一起重大身份造假事件。
這位“假人”名為拉斐爾·巴達尼（Raphael Badani），他將自己包裝成美國知名新聞平臺Newsmax的內(nèi)部人員，從事“政治風險顧問、國際關系高級分析師”相關工作。
利用這一身份他發(fā)表過有關“伊拉克如何伊朗的控制”，“迪拜為何如此動蕩”等多篇文章。這些文章還被美國Washington Examiner、RealClear Markets,、American Thinker以及The National Interest等多家媒體轉載。
但后來發(fā)現(xiàn)此人并不存在，其個人資料全部為偽造，文章也竊取自圣地亞哥創(chuàng)業(yè)公司創(chuàng)始人的博客。
此外，與以上有政治意圖的造假案例相比，該技術可能被廣泛的應用于日常社交，雖然不會涉及違法犯罪，但它確實在構建一個虛假的世界。例如有網(wǎng)友稱，
不難想象，未來我們會經(jīng)?？吹酱祟惙窒碚铡c“假朋友”聚會，與“假狗”閑逛，抱著他們的“假嬰兒”。
當然，隨著造假信息的泛濫，相關反識別技術也在陸續(xù)推出。
目前的主流技術包括人臉X射線（ Face X-ray）檢測、背景差異檢測（Background Difference）、情緒識別網(wǎng)絡（Emotion Recognition Network）檢測，以及生物學信號（Biological Signals）檢測，最高識別率可達到99%以上。
此外目前的人臉造假，無論是視頻還是圖像方面，還遠未達到毫無差錯的地步。
如果用肉眼觀察，也能夠發(fā)現(xiàn)一些痕跡。比如通過一些配飾，
圖中的耳環(huán)看起來很相似，但細心一點可以發(fā)現(xiàn)有明顯區(qū)別。另外眼鏡也是一個常用的衡量配飾，GAN創(chuàng)建的眼睛，框架兩端經(jīng)常會不對稱，或有輕微變形。
在對稱方面，GAN在耳朵、眼睛的生成上也會有不一致出現(xiàn)。
最后，最明顯的痕跡就是偽影和背景。
偽影就是在原圖像上出現(xiàn)了并不存在的各種形態(tài)的混色影像，這一點最容易識別。偽影也是衡量合成圖像質量的關鍵指標。此外，目標人臉之外的背景也是重點，如變形的樹木、錯位的草坪等。
引用鏈接：
https://apnews.com/article/bc2f19097a4c4fffaa00de6770b8a60d
https://www.thedailybeast.com/right-wing-media-outlets-duped-by-a-middle-east-propaganda-campaign
雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權禁止轉載。詳情見轉載須知。
