當(dāng)普通用戶(hù)驚訝于最新的GPT-4o和Gemini 1.5 Pro多模態(tài)AI助手的強(qiáng)大能力時(shí)。

嗅覺(jué)靈敏的黑客們也已經(jīng)借助生成式AI開(kāi)啟了新的“狂歡”。

今年初，黑客攻擊了一個(gè)美國(guó)的AI基礎(chǔ)設(shè)施平臺(tái)，并將GPU用于挖比特幣獲益。

“黑客已經(jīng)慢慢增加或轉(zhuǎn)移攻擊目標(biāo)，除了傳統(tǒng)資產(chǎn)，保護(hù)企業(yè)的資產(chǎn)演進(jìn)為保護(hù)企業(yè)的AI中心。”亞信安全高級(jí)副總裁陳奮同時(shí)提醒，“個(gè)人和家庭安全，也從原來(lái)的終端演進(jìn)為保護(hù)包括智能家居和智能網(wǎng)聯(lián)汽車(chē)在內(nèi)的家庭AI中心?！?/p>

網(wǎng)絡(luò)安全的攻防已經(jīng)從人和人之間的對(duì)抗，升級(jí)為AI和AI的對(duì)抗，只有AI驅(qū)動(dòng)的網(wǎng)絡(luò)安全防護(hù)檢測(cè)技術(shù)才能識(shí)別AI驅(qū)動(dòng)的黑客攻擊技術(shù)。

安全大模型應(yīng)運(yùn)而生。

近期舉辦的以“安全AI未來(lái)”為主題的C3安全大會(huì)·2024上，亞信安全發(fā)布了網(wǎng)絡(luò)安全行業(yè)領(lǐng)域自研大模型——信立方，能夠用于網(wǎng)絡(luò)安全行業(yè)的精準(zhǔn)問(wèn)答、復(fù)雜的告警日志解讀、深度的網(wǎng)絡(luò)安全事件分析等專(zhuān)用場(chǎng)景。

未來(lái)網(wǎng)絡(luò)安全公司和黑客的AI攻防賽將會(huì)如何？ 

黑客用AI攻擊，效率高，基礎(chǔ)設(shè)施成新目標(biāo)

ChatGPT發(fā)布后，全球的黑客們的網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)犯罪也隨之升級(jí)。

過(guò)去，一個(gè)黑客生產(chǎn)一個(gè)攻擊病毒需要數(shù)月時(shí)間?，F(xiàn)在，通過(guò)生成式AI的工具，可能幾個(gè)小時(shí)，甚至幾分鐘就能生成一個(gè)攻擊病毒，效率大幅提升。

陳奮同時(shí)發(fā)現(xiàn)，“大模型對(duì)于編程語(yǔ)言的理解也非常強(qiáng)，攻擊者可以利用大模型迅速發(fā)現(xiàn)軟件的漏洞，漏洞是黑客攻擊系統(tǒng)的核武器?！?/p>

那些“商業(yè)嗅覺(jué)”靈敏的黑客，已經(jīng)用AI攻擊獲利。

比如，有黑客利用AI算法，快速在視頻中做人臉的深度偽造，新型的網(wǎng)絡(luò)詐騙犯罪隨之涌現(xiàn)。

還有，黑客的攻擊目標(biāo)除了傳統(tǒng)資產(chǎn)，還盯上了高價(jià)值的以GPU為基礎(chǔ)的AI算力基礎(chǔ)設(shè)施和大模型，這是網(wǎng)絡(luò)安全領(lǐng)域出現(xiàn)的新變化。

“去年短短一年時(shí)間，針對(duì)大模型的攻擊手段已經(jīng)涌現(xiàn)出數(shù)十種不同的類(lèi)型?！标悐^表示。

針對(duì)大模型的攻擊，影響巨大。

陳奮和團(tuán)隊(duì)在實(shí)驗(yàn)室中搭建了Llama2的環(huán)境，模擬去年發(fā)現(xiàn)的海綿樣本攻擊，大致原理是通過(guò)向大模型發(fā)布特殊的樣本，讓大模型的算力消耗急劇上升，原來(lái)短時(shí)間能做出響應(yīng)的需求，現(xiàn)在可能需要大量時(shí)間去計(jì)算。

讓原來(lái)幾秒就可以返回結(jié)果的大模型，受到攻擊后60秒以上才能返回結(jié)果，慢了20倍以上。

“如果未來(lái)核心應(yīng)用都是大模型驅(qū)動(dòng)的AI原生應(yīng)用，基本上就會(huì)癱瘓?！?/strong>陳奮同時(shí)說(shuō)，“這只是一個(gè)相對(duì)比較基礎(chǔ)的攻擊事例，針對(duì)大模型的攻擊很快會(huì)到來(lái)?！?/p>

整個(gè)網(wǎng)絡(luò)安全行業(yè)增在革新，全球安全公司都在行動(dòng)。

微軟在今年5月份正式商用了Security Copilot，并聲稱(chēng)在未來(lái)要投入千億美金。谷歌去年發(fā)布了網(wǎng)絡(luò)安全專(zhuān)有大模型，已經(jīng)應(yīng)用到云安全能力中心中。 

如何用AI對(duì)抗AI？

亞信安全沒(méi)有搶著第一時(shí)間發(fā)布安全大模型，近期才發(fā)布了信立方。

“沒(méi)有第一時(shí)間發(fā)布，是因?yàn)?strong>我們?cè)谒伎即竽Ｐ湍芊褡兂晌覀儺a(chǎn)品的原生能力。我們希望把底層通用框架建設(shè)好，MaaS服務(wù)平臺(tái)，模型級(jí)服務(wù)平臺(tái)，再疊加上層的智能體框架?！标悐^分享，“我們發(fā)布的信立方更多是從原生的角度思考如何與各個(gè)產(chǎn)業(yè)整合，而不是簡(jiǎn)單去做運(yùn)維效率的提升或者運(yùn)維的解析。”

“隨著信立方的發(fā)布，這個(gè)目標(biāo)已經(jīng)基本達(dá)成，MaaS服務(wù)和多智能體應(yīng)用已經(jīng)向亞信安全全線(xiàn)產(chǎn)品進(jìn)行開(kāi)放，所有的安全產(chǎn)品能夠快速集成大模型的能力，構(gòu)建網(wǎng)絡(luò)安全智能體應(yīng)用?！标悐^進(jìn)一步表示。

亞信安全的MaaS服務(wù)平臺(tái)提供了豐富的API接口和Agent框架，集成了數(shù)十種的場(chǎng)景，包括安全日志告警分析，安全態(tài)勢(shì)的智能分析，安全運(yùn)營(yíng)數(shù)字人小信同學(xué)等。

信立方大模型發(fā)布的同時(shí)，亞信安全也提出了“信計(jì)劃”（XPLAN）暨安全為AI（Security for AI）和AI為安全（AI for Security）。

“安全為AI”包含了全新研發(fā)的保護(hù)算力云基礎(chǔ)設(shè)施安全、大模型應(yīng)用安全防護(hù)、大模型紅藍(lán)對(duì)抗測(cè)試等服務(wù)；“AI為安全”聚焦網(wǎng)絡(luò)安全行業(yè)垂直大模型的研發(fā)及運(yùn)行于其上的智能體和安全應(yīng)用。

雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))了解到，信計(jì)劃分為兩大部分：

第一部分是專(zhuān)注給算力基礎(chǔ)設(shè)施，給大模型提供安全解決方案。

陳奮透露，“針對(duì)AI算力基礎(chǔ)設(shè)施的安全，目前落地了東數(shù)西算成都的節(jié)點(diǎn)，以及算力云的安全保護(hù)。我們還在跟進(jìn)國(guó)家東數(shù)西算算力節(jié)點(diǎn)安全項(xiàng)目。”

第二部分，是和大模型生態(tài)公司合作，為他們提供大模型安全的紅隊(duì)測(cè)試、大模型安全防護(hù)的產(chǎn)品。

紅隊(duì)測(cè)試指的是在大模型上線(xiàn)前，紅隊(duì)專(zhuān)家通過(guò)提示安全、應(yīng)用安全測(cè)試、Agent安全、MaaS服務(wù)平臺(tái)安全等八個(gè)方向，對(duì)大模型進(jìn)行紅隊(duì)安全檢查。

OpenAI每次發(fā)布全新版本大模型前，都會(huì)找頂尖紅隊(duì)進(jìn)行測(cè)試，幫他發(fā)現(xiàn)大模型安全風(fēng)險(xiǎn)。

那AI到底如何保護(hù)包括云基礎(chǔ)設(shè)施在內(nèi)的AI算力基礎(chǔ)設(shè)施安全？

針對(duì)AI基礎(chǔ)設(shè)施的攻擊原理和傳統(tǒng)的攻擊類(lèi)似，會(huì)用到一些算力算法的漏洞。

“防護(hù)的難度沒(méi)有出現(xiàn)指數(shù)級(jí)增加，只是需要我們?cè)诜雷o(hù)規(guī)則上能夠適配這一場(chǎng)景，能夠識(shí)別出威脅。”陳奮對(duì)雷峰網(wǎng)表示，“有些檢測(cè)算法用傳統(tǒng)的模型，有些算法需要安全大模型，所以我們采用混合調(diào)度架構(gòu)更加靈活。”

面向AI基礎(chǔ)設(shè)施安全，亞信安全也推出了全棧一體化解決方案。

陳奮介紹，AI算力基礎(chǔ)設(shè)施的底層硬件是GPU服務(wù)器，不能用傳統(tǒng)虛擬化技術(shù)做算力資源池，大部分算力平臺(tái)是基于K8S云原生化的平臺(tái)把算力放到云原生資源池里面進(jìn)行調(diào)度，亞信安全今年推出全棧一體化云安全覆蓋的范圍。

亞信安全的算力云安全保護(hù)整體解決方案，在適配算力云特點(diǎn)的基礎(chǔ)上，覆蓋了從云底層安全、云工作負(fù)載安全到云原生應(yīng)用安全等全棧一體化云安全能力。

AI時(shí)代的安全更需要產(chǎn)業(yè)鏈合作

C3安全大會(huì)·2024上，美的集團(tuán)首席信息安全官兼軟件工程院院長(zhǎng)劉向陽(yáng)透露，“我們做安全運(yùn)營(yíng)時(shí)，安全日志每天80億條，僅告警就有20萬(wàn)條，很難用人力處理。引入安全大模型后，把安全告警需要人工研判的數(shù)量從20萬(wàn)條降到了100~200條，這就是人工能夠處理的程度了?！?/p>

看到安全大模型顯著效果的同時(shí)，也要意識(shí)到只做大模型的安全，解決不了大模型安全的問(wèn)題。

“之前我們做云安全就有體會(huì)，整個(gè)供應(yīng)鏈，包括數(shù)據(jù)方面，很多企業(yè)都不愿意將數(shù)據(jù)放到公共算力上。到大模型時(shí)代也一樣，僅僅把大模型安全做好沒(méi)用?！眮喰虐踩呒?jí)副總裁兼CDO吳湘寧說(shuō)，“現(xiàn)在大家都還在探索大模型生態(tài)安全的建設(shè)，可以明確的是整個(gè)生態(tài)鏈打開(kāi)后，很多技術(shù)使用場(chǎng)景都會(huì)發(fā)生改變?！?/p>

亞信安全會(huì)從4個(gè)層面和生態(tài)合作伙伴合作，打造更具競(jìng)爭(zhēng)力的AI安全解決方案。

大模型算法層面，“我們認(rèn)為在行業(yè)場(chǎng)景，閉源大模型的能力比開(kāi)源模型更好，我們堅(jiān)持閉源和開(kāi)源兩條相合作路線(xiàn)?！标悐^說(shuō)，“亞信安全做了一層專(zhuān)家混合模式調(diào)度模式，可以根據(jù)用戶(hù)的需求場(chǎng)景和預(yù)算靈活選擇用開(kāi)源還是閉源模型?！?/p>

算力生態(tài)層面，亞信安全和算力公司合作，租用算力節(jié)點(diǎn)。反過(guò)來(lái)云計(jì)算提供商也可以買(mǎi)亞信安全的算力云安全解決方案。

“我們還和清華大學(xué)和中科院深度合作，亞信安全&清華大學(xué)智能產(chǎn)業(yè)研究院聯(lián)合研發(fā)行動(dòng)升級(jí)計(jì)劃也在C3安全大會(huì)上發(fā)布。”陳奮指出，企業(yè)在應(yīng)用場(chǎng)景做得更好，比較深度算法的優(yōu)化，需要發(fā)揮科研者的力量。

在國(guó)際合作方面，亞信安全也會(huì)發(fā)揮優(yōu)勢(shì)，把國(guó)際一流的技術(shù)引入國(guó)內(nèi)。

“安全最終保護(hù)的是網(wǎng)絡(luò)和操作系統(tǒng)，大模型本質(zhì)上就是未來(lái)的操作系統(tǒng)?！?/strong>吳湘寧說(shuō)，“亞信會(huì)持續(xù)在這兩個(gè)領(lǐng)域方向重點(diǎn)投入?！?/p>

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。