最近，#AI詐騙正在全國爆發(fā)#的話題沖上微博熱搜第一，引發(fā)了網(wǎng)友廣泛關(guān)注。

據(jù)“平安包頭”微信公眾號消息，近日，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙 的案件，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元 。該騙子通過智能AI換臉和擬聲技術(shù) ，佯裝好友對他實(shí)施了詐騙。

另據(jù)湖北網(wǎng)警巡查執(zhí)法5月6日消息，AI技術(shù)正在改變詐騙模式，新騙局來襲后，詐騙成功率竟接近100%。

AI詐騙猖獗已久，深偽鑒別技術(shù)成為遏制武器

前兩年，中年婦女迷戀短視頻平臺上的“假靳東”事件，讓人記憶猶新。隨著技術(shù)的發(fā)展，不法分子已經(jīng)可以通過深度合成AI技術(shù),進(jìn)行變聲、變臉的“深度偽造”，讓“假靳東”們更加逼真，難以辨別真假，進(jìn)行新型詐騙。合肥警方在“凈網(wǎng)2021”專項(xiàng)行動中打掉一個利用深度合成技術(shù)進(jìn)行犯罪的團(tuán)伙，不法分子把一張照片輸入軟件，只要數(shù)十秒就能生成人臉動態(tài)視頻，能做“張嘴、眨眼、搖頭”等指令性動作，還能實(shí)時念數(shù)字，這一個團(tuán)伙就掌握了十幾個G的人臉數(shù)據(jù),為黑灰產(chǎn)業(yè)鏈提供注冊手機(jī)卡等技術(shù)支撐。

去年3月，俄烏沖突不久，一則烏克蘭總統(tǒng)澤連斯基宣布投降的AI“深度偽造”視頻，出現(xiàn)在社交媒體平臺，隨后被瘋傳，造成嚴(yán)重影響。

對此，奇安信人工智能研究院負(fù)責(zé)人表示，目前流行的AI詐騙常用手法，主要分為兩大類：第一種是聲音合成的語音詐騙，國外某公司公布的最新報告顯示，基于人工智能（AI）的語音詐騙日益猖獗，在接到詐騙電話的群體中，77% 的人會導(dǎo)致經(jīng)濟(jì)損失；第二類就是AI換臉，就是騙子在視頻通話中利用AI換臉，騙取信任。在此基礎(chǔ)之上，現(xiàn)在的技術(shù)已經(jīng)可以演進(jìn)為兩種方式的多模態(tài)融合，并可能成為未來的主流AI詐騙方式。

該負(fù)責(zé)人認(rèn)為，相對于單純的聲音合成，融合了視頻合成（如AI換臉）+音頻合成的新型詐騙模式，更易取得對方信任，成功率更高、危害更大。因?yàn)轵_子用AI技術(shù)換臉，可以偽裝成任何人，再通過視頻方式進(jìn)行信息確認(rèn)。但同時，人臉識別的鑒別門檻更高、難度更大，從技術(shù)角度，更難防范。

據(jù)介紹，深度偽造技術(shù)泛指用AI的方法偽造圖像/視頻、語音、文本的技術(shù)，但目前影響最廣泛的還是人臉圖像/視頻合成的技術(shù)，其中最具代表性的兩個方向即人臉重演偽造和人臉替換偽造。尤其是深度偽造技術(shù)的迅速發(fā)展，在帶來娛樂性的同時，也為經(jīng)濟(jì)犯罪、軍事欺騙、甚至恐怖主義行動等提供了新工具，給政治安全、經(jīng)濟(jì)安全、社會安全等領(lǐng)域帶來了諸多風(fēng)險。在這樣的情形下，深偽鑒別也在如火如荼地發(fā)展中。

為此，奇安信通過在人工智能安全領(lǐng)域的多年不斷投入，基于自身積累海量知識和大數(shù)據(jù)，在深度偽造、深度鑒偽等技術(shù)取得了突破進(jìn)展，已經(jīng)能夠準(zhǔn)確識別數(shù)十種前沿偽造技術(shù)生成的虛假視頻，可以成為防止AI換臉詐騙等人工智能生成虛假信息的有力武器。

AI技術(shù)濫用亟待強(qiáng)化監(jiān)管落地

AI詐騙橫行，技術(shù)固然重要，但法律法規(guī)的強(qiáng)力監(jiān)管，更是必不可少。目前，國內(nèi)相關(guān)部門及企業(yè)，已經(jīng)高度重視AI技術(shù)濫用導(dǎo)致的風(fēng)險，并推出了監(jiān)管措施。

去年12月，國家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，明確了合成數(shù)據(jù)和技術(shù)管理規(guī)范。其中提到：深度合成服務(wù)提供者對使用其服務(wù)生成或編輯的信息內(nèi)容，應(yīng)當(dāng)添加不影響使用的標(biāo)識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識，避免公眾混淆或者誤認(rèn)。

4月初，國家網(wǎng)信辦起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，向社會公開征求意見，旨在促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用

不久前，抖音平臺發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識產(chǎn)權(quán)等，一經(jīng)發(fā)現(xiàn)，平臺將嚴(yán)格處罰。

奇安信安全專家表示，網(wǎng)絡(luò)不安全，生活不踏實(shí)，人工智能勢不可擋，解決人工智能安全難題的最好辦法，還是需要技術(shù)和監(jiān)管雙管齊下。目前，奇安信正在基于AI技術(shù)和自身積累的海量安全知識和數(shù)據(jù)，訓(xùn)練奇安信專有的類ChatGPT安全大模型。預(yù)計(jì)將廣泛應(yīng)用于安全產(chǎn)品開發(fā)、威脅檢測、漏洞挖掘、安全運(yùn)營及自動化、攻防對抗、反病毒、威脅情報分析和運(yùn)營、涉網(wǎng)犯罪分析等領(lǐng)域。

雷峰網(wǎng)(公眾號：雷峰網(wǎng))

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。