通話1：叮鈴鈴~

某公司老總：歪~小李子，咱公司今年財務(wù)收入多少？啊~嗯，不是很多嘛，你把它全都轉(zhuǎn)到我賬上來，我要用來運轉(zhuǎn)子公司。

小李子：得嘞，老板就是太上皇，您說啥就是啥~

通話2：叮鈴鈴~

小李子：歪~老板，俺已經(jīng)按照吩咐把錢打過去了，您收到木？

某公司老總：納尼？啥錢？你個鱉孫兒，我啥時候讓你打錢嘞？

小李子：......（懵圈中）

看到這里，想必聰明的你已經(jīng)猜到了，上面兩次通話中出現(xiàn)的“某公司老總”里有一個定是假的。講真，不是小李子太笨，而是這AI合成的聲音已然達到以假亂真的程度。

近日，據(jù)華爾街日報報道，犯罪分子通過商業(yè)化的人工智能語音生成軟件，向一家英國能源公司多位同事及合作伙伴騙取錢財，使得該公司一天內(nèi)損失220000歐元（約合173萬元人民幣）。

AI假扮領(lǐng)導(dǎo)聲音，只能跪著被騙

和上面故事描述的一樣，這家英國能源公司CEO接到了來自德國母公司領(lǐng)導(dǎo)的電話。

電話中，這位“首席執(zhí)行官”要求他將資金發(fā)送給匈牙利供應(yīng)商，并聲稱這是緊急事件要求在一小時內(nèi)付款。

“當時在聽電話的，除了我還有我的其他同事們。在整個對話中，我們幾乎認定電話對面的這個人就是德國母公司的首席執(zhí)行官，至少從聲音來判斷是這樣的。”

于是，該公司CEO毫不猶豫地按照對方要求將錢打了過去，在這之后他又連續(xù)接到了三通要求打款的電話，這才引起了他們的警惕。

華爾街日報引述該CEO的話說，我的“老板”在一天內(nèi)打了三通電話，都聲稱供應(yīng)商那邊需要進行緊急打款以確保雙方接下來穩(wěn)固的合作關(guān)系。

顯然，在220000歐元到手后對方使用同樣的套路繼續(xù)進行詐騙，在之后的兩通電話中對方提及其德國母公司需要轉(zhuǎn)移資金償還英國公司的費用。

他們注意到，這幾通電話均來自奧地利并且都是如此頻繁的電話催款，這引起了該公司行政部門的懷疑，因此并沒有進行第二次的打款操作。

據(jù)悉，后續(xù)調(diào)查中發(fā)現(xiàn)罪犯將收到的錢從匈牙利轉(zhuǎn)移到墨西哥和其他地方。由于此次事件是基于人工智能的網(wǎng)絡(luò)攻擊行為，因此查找罪犯要更加困難。

截至目前，警方并未確定其罪魁禍首，被詐騙的220000歐元將全部由該公司的投保公司 Euler Hermes（裕利安宜）集團承擔(dān)全部損失。

AI演進，語音克隆成新騙術(shù)

AI技術(shù)的突飛猛進，使得語音克隆變得日漸平常。無論是聽書軟件、地圖導(dǎo)航還是社交軟件中都會有所使用。最典型的就是QQ里“變聲”功能，無論你是男是女，都能讓你發(fā)出各種明星大腕的聲音來。

另一邊，越來越擬真的AI語音讓人們無法分清電話中的彼此。去年10月，谷歌在開發(fā)者大會上演示了一個頗受爭議的功能——AI撥打/接聽電話。

隨著引入了更深的layer的卷積網(wǎng)絡(luò)模型，這些模型能編碼更高維度和可解釋的特征（ neural style）。從原理上來說，語音克隆就是從neural style算法中汲取靈感，實現(xiàn)一個好的隱空間模型來生成raw audio，并用于進行語音Style Transfer。

在谷歌的NSynth中，對合并兩種樂器聲音的工作中已經(jīng)對Style Transfer進行了研究。一般認為voice style transfer更容易評估，語音克隆則更具挑戰(zhàn)性，因為語音在模型的隱空間中更難被表征。

通常情況下，目標風(fēng)格的聲音和可能會說出的原聲音內(nèi)容完全不同。為了實現(xiàn)語音克隆，會設(shè)計出這樣一種模型——該模型能夠在更高維信息的隱空間內(nèi)對語音編碼的方式進行修改，并能概括到目標語言風(fēng)格，而無需在內(nèi)容語音中可能出現(xiàn)的所有音素（最小語音單元）上進行訓(xùn)練。

上述模型設(shè)想，可以簡稱為voice transfer（CTI技術(shù)中一種語音傳輸方法的設(shè)計與實現(xiàn)），它能夠讓語音助理，擁有所有的不同風(fēng)格，甚至創(chuàng)造一個擁有自己聲音的語音助手。

芯盾時代合伙人杜旭稱，現(xiàn)階段使用AI的攻擊手段主要有人臉識仿冒（又稱：數(shù)字整容）語音克隆兩類，其實現(xiàn)難度并不大。簡單來講，攻擊者會通過AI技術(shù)對現(xiàn)有錄音的嗓音、音階范圍等進行模擬，即可模擬發(fā)聲。

這是一種基于AI的實時變音技術(shù)，在知道了聲音的頻率和聲線等數(shù)據(jù)后，即可根據(jù)提前設(shè)定好的文字內(nèi)容與庫中的文字（帶有音調(diào)信息）進行比對，然后按照希望模擬的人的聲音進行發(fā)聲。這種發(fā)聲方式的擬真度極高，對方很難辨識。此外，該事件的場景是企業(yè)場景，即老板給員工打電話，這就更加強了通話方的信任度。

值得一提的是，攻擊者之所以如此輕松得手，還有一個原因不容忽視——轉(zhuǎn)賬方為第三方公司而非該公司本身。也就是說，很有可能攻擊者通過攻擊郵箱提前得知了近日會有相當金額轉(zhuǎn)賬的情況，而恰好又遇到第三方公司的安全認證機制不夠完善這才給攻擊者鉆了空子。

“這實際上是一個精心設(shè)計的騙局，對于一名企業(yè)員工來說，如此場景下再加上信息泄露，攻擊者完全可以偽裝出所謂‘老板’的形態(tài)，其辨識度的難度也已超出了純粹的AI語音克隆，”杜旭補充道。

別看這樣一個精心設(shè)計的局，但整個過程對于攻擊者來說似乎并沒有太高的成本付出，盡管AI語音攻擊尚屬于新型攻擊手段，但杜旭相信未來這類攻擊手法只會越發(fā)頻繁出現(xiàn)。

至于防護手段，其實方法也很簡單。杜旭稱，最簡單可行的辦法就是啟動多因素認證的體系。無論是三方還是企業(yè)本身，多重認證得以確保資產(chǎn)留出前的身份確認。譬如，如果該公司加入了轉(zhuǎn)賬前會發(fā)送老板本人進行短信驗證的機制，那么這次攻擊就不攻自破了。

“目前來看，存在這種安全風(fēng)險的企業(yè)并非少數(shù)，隨著AI語音攻擊手段的逐漸頻繁，國家將大力推廣多因素認證機制，因此對于國內(nèi)企業(yè)的安全性我并不十分擔(dān)心?！?span style="color: #FFFFFF;">雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)

刀用哪一刃，在于人

在之前的采訪中，有安全從業(yè)者這樣告訴雷鋒網(wǎng)，黑白兩道之間其實并沒有太大的技術(shù)隔閡，最大區(qū)別在于初衷的不同。

對于攻擊者來說，人工智能技術(shù)僅是更加方便牟利的工具：隨著技術(shù)的演進，方便大眾的同時必會有不法分子采用vishing（“語音網(wǎng)絡(luò)釣魚”的縮寫）這種新型詐騙方式企圖獲利；對于安全人員來說，人工智能是加固防線的盾牌：無監(jiān)督學(xué)習(xí)、AI情報監(jiān)測等新的工具提升了安全防護的效率。

正所謂刀有兩刃，用哪一面還得看人。

參考鏈接： DeepTech深科技；知乎丨巧克力工廠的查理

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。