0
作者：郭思
編輯：陳彩嫻
在大模型不斷成熟的背景下，企業(yè)也日益傾向于在云端大規(guī)模應(yīng)用AI技術(shù)。這一進(jìn)程中，以往可能忽視的數(shù)據(jù)資源，突顯出了前所未有的戰(zhàn)略意義，數(shù)據(jù)的價值評估隨之動態(tài)調(diào)整。與此同時，企業(yè)上云后，其安全架構(gòu)與業(yè)務(wù)運(yùn)作模式同步轉(zhuǎn)型升級，由此衍生出一系列全新的安全需求。
猶如“健康乃一切之本”的生活哲學(xué)，對于企業(yè)而言，數(shù)字安全同樣扮演著基石角色——無安全，則萬業(yè)皆空。構(gòu)建強(qiáng)大的數(shù)字安全免疫系統(tǒng)并非臨時起意，而是企業(yè)長遠(yuǎn)發(fā)展的必要工程。
1月17日，由工業(yè)和信息化部新聞宣傳中心（人民郵電報社）指導(dǎo)，騰訊安全、騰訊研究院、中國信息安全聯(lián)合三十余位業(yè)內(nèi)專家、學(xué)者、企業(yè)領(lǐng)袖共同編制的《數(shù)字安全免疫力建設(shè)指南》正式發(fā)布。
正如最高決策層所指出：“安全是發(fā)展的前提，發(fā)展是安全的保障”。鑒于大模型等先進(jìn)技術(shù)在企業(yè)運(yùn)營中的普及應(yīng)用，騰訊安全提出“數(shù)字安全免疫力”框架，致力于為企業(yè)構(gòu)建一套立足于數(shù)據(jù)與業(yè)務(wù)雙核心、兼顧安全與發(fā)展策略的整合型理論與工具平臺。
在本次行業(yè)研討會上最新出爐的《數(shù)字安全免疫力建設(shè)指南》，便是這一框架在實踐層面的具體實施工具，如同探險者手中的導(dǎo)航圖，幫助企業(yè)穿越復(fù)雜多變的數(shù)字安全叢林，確保前進(jìn)道路明晰，有效抵御各種安全風(fēng)險。
隨著數(shù)字化進(jìn)程在全球范圍內(nèi)以前所未有的速度推進(jìn)，各行各業(yè)都在享受著信息技術(shù)帶來的便利與效率提升，但同時也面臨著日趨嚴(yán)峻的安全隱患和挑戰(zhàn)。
數(shù)字化的快速發(fā)展不僅極大地拓展了數(shù)據(jù)的疆界，使得海量信息在網(wǎng)絡(luò)空間中高速流轉(zhuǎn)，而且為潛在的惡意攻擊者提供了更多的切入點(diǎn)和隱蔽途徑，這無疑對企業(yè)現(xiàn)有的安全防護(hù)機(jī)制構(gòu)成了巨大的壓力。
傳統(tǒng)的安全建設(shè)思路主要依賴于物理邊界的“嚴(yán)防死守”和對已知安全事件的事后響應(yīng)機(jī)制。
然而，在企業(yè)資產(chǎn)快速數(shù)字化的階段，邊界的概念正在淡化與模糊。這種靜態(tài)的、基于邊界防護(hù)的方法，已經(jīng)不能有效應(yīng)對組織內(nèi)部的信息泄露和外部發(fā)起的復(fù)雜攻擊。黑客通過高級持續(xù)性威脅（APT）等方式，能夠繞過傳統(tǒng)防火墻，潛入企業(yè)網(wǎng)絡(luò)核心區(qū)域，竊取敏感信息或者破壞關(guān)鍵業(yè)務(wù)流程。
無論是2017年爆發(fā)的NotPetya勒索軟件事件以及2020年爆發(fā)的SolarWinds供應(yīng)鏈攻擊事件都是基于APT手段影響力非常之大的攻擊事件，2021年，針對Microsoft Exchange Server的零日漏洞攻擊更是震動全球，影響了至少十個國家的數(shù)千家機(jī)構(gòu)。
如今，隨著AIGC技術(shù)的演進(jìn)，數(shù)字安全更是面臨著非常多動態(tài)、未知的威脅。首先，數(shù)據(jù)規(guī)?？涨褒嫶螅┝γ缹W(xué)般的數(shù)據(jù)投喂模式，本身就構(gòu)成了巨大的審核難題；其次，隨著AI處理內(nèi)容的復(fù)雜性不斷提升，在模型搭建環(huán)節(jié)，不僅需要對基礎(chǔ)特征進(jìn)行精細(xì)化標(biāo)注，而且對于生成文本的連貫性、邏輯合理性和整體一致性有了前所未有的高標(biāo)準(zhǔn)要求。
在內(nèi)容創(chuàng)作應(yīng)用階段，先進(jìn)的AI技術(shù)加速了各類違規(guī)內(nèi)容的滋生，比如深度偽造產(chǎn)物、虛假新聞、違背倫理道德的素材，尤其是數(shù)據(jù)泄露事故發(fā)生的頻次正急劇增長。
與此同時，AI驅(qū)動的問答系統(tǒng)能生成高度專業(yè)化的文本內(nèi)容，這進(jìn)一步擴(kuò)大了傳統(tǒng)內(nèi)容風(fēng)控的范疇，使得現(xiàn)有風(fēng)控機(jī)制面臨嚴(yán)峻考驗，亟需擴(kuò)展應(yīng)對能力以覆蓋這些新興的風(fēng)險領(lǐng)域。
此前，Cyberhaven 就曾針對160萬名員工使用ChatGPT的情況進(jìn)行了統(tǒng)計分析，結(jié)果顯示有3.1%的員工選擇將企業(yè)內(nèi)部數(shù)據(jù)直接輸入ChatGPT以提升工作效率或?qū)で蠼鉀Q方案。在此背景下，曾發(fā)生過一起典型事件：三星公司的員工因試圖借助ChatGPT提高工作效能，不慎將包含敏感代碼資料與內(nèi)部會議詳情的信息提交給了該AI模型，在短短幾周內(nèi)即導(dǎo)致了三起機(jī)密數(shù)據(jù)泄露事故。
另一方面，在業(yè)內(nèi)人士看來，不同規(guī)模、行業(yè)、數(shù)字化程度企業(yè)遭遇的個性化安全挑戰(zhàn)不一而同，同時伴隨著外部威脅和市場環(huán)境的快速變化，能動態(tài)掌握自身的安全水位的數(shù)字安全免疫力成為了重中之重。
在AIGC迅速席卷市場的同時，接踵而至的數(shù)據(jù)安全問題引發(fā)了公眾的深切關(guān)注。除了我們所提及的AIGC 技術(shù)被惡意用來進(jìn)行安全攻擊外。
還有另一個維度的問題也很自然地引發(fā)了大眾的思考，AIGC技術(shù)能否用于安全防護(hù)？在研討《數(shù)字安全免疫力建設(shè)指南》過程中，多位專家對AIGC引發(fā)的安全攻防變革做了深度思考。
東華軟件集團(tuán)高級副總裁、東華云計算有限公司董事長兼CEO 郭浩哲指出，業(yè)界無法坐等大模型發(fā)展至全球普及時才采取行動。相反，在這一轉(zhuǎn)型初期，就應(yīng)該積極地將業(yè)務(wù)系統(tǒng)的構(gòu)建與大模型技術(shù)緊密結(jié)合。盡管在此過程中可能出現(xiàn)的安全隱患與漏洞監(jiān)管是一項不容忽視的挑戰(zhàn)，但關(guān)鍵在于勇于實踐和探索。需要有漏洞監(jiān)管，這是另外一個問題，關(guān)鍵是要去做。
這也預(yù)示著未來擺在行業(yè)面前的其實只有做與不做兩種抉擇。而企業(yè)如果選擇了全力以赴，其所面臨的困難其實也可想而知。
AIGC在攻防層面及其在廣義開放性網(wǎng)絡(luò)安全的應(yīng)用，由于其極高的開放性特點(diǎn)，導(dǎo)致其在策略指向性上的表現(xiàn)相對較弱。不論是傳統(tǒng)AI技術(shù)還是大模型，目前在精確度和訓(xùn)練優(yōu)化方面尚存在一定的不成熟之處。
這意味著，在較窄領(lǐng)域的數(shù)據(jù)安全方面，由于攻防對抗具有高度不確定性，如攻擊來源、目標(biāo)、行為和特征均未知，大模型在此類開放性攻防場景下應(yīng)用頗具挑戰(zhàn)。
攻擊來源的不確定性意味著攻擊者可能來自任何一個角落：可能是內(nèi)部員工的意外操作、可能是外部黑客的蓄意襲擊，甚至可能是國家級的APT（高級持續(xù)性威脅）行動。由于攻擊者可能采取各種方法隱藏真實身份和位置，追蹤和預(yù)防變得異常艱難。
另一方面，攻擊者可能針對不同的數(shù)據(jù)類型、不同的系統(tǒng)組件或不同的業(yè)務(wù)流程發(fā)起攻擊，這使得防護(hù)措施難以面面俱到，大模型在預(yù)測和防范未知目標(biāo)時可能存在盲區(qū)。
此外，攻擊行為的多樣性與復(fù)雜性也是挑戰(zhàn)之一。攻擊者可能采取多種新穎且難以識別的攻擊手段，如零日漏洞利用、社會工程學(xué)攻擊等，這些手段在大模型尚未接觸到的樣本集中并無體現(xiàn)，因此難以通過歷史數(shù)據(jù)訓(xùn)練出精準(zhǔn)的防御策略。
攻擊特征的未知性則意味著即便是最先進(jìn)的大模型，也無法完全預(yù)見所有可能的攻擊模式。尤其是在數(shù)據(jù)安全領(lǐng)域，許多攻擊手法和漏洞利用都是首次出現(xiàn)，傳統(tǒng)的特征匹配方法難以奏效，大模型需要具備更強(qiáng)的學(xué)習(xí)能力和泛化性能才能適應(yīng)這種不斷變化的威脅環(huán)境。
盡管大模型在特定情境下展現(xiàn)出了卓越的性能，但在面對高度動態(tài)且充滿不確定性的攻防對抗環(huán)境時，仍需持續(xù)研發(fā)與優(yōu)化，以期更好地結(jié)合專家智慧、實時威脅情報及高效異常檢測機(jī)制，這樣才能有效地破解一系列安全挑戰(zhàn)，充分釋放大模型在數(shù)據(jù)安全領(lǐng)域的潛能。
不過在研討會現(xiàn)場，現(xiàn)任騰訊云安全總經(jīng)理李濱也指出，在數(shù)據(jù)安全應(yīng)用場景中，當(dāng)訪問主體、客體及行為規(guī)律具備足夠的可理解性和預(yù)見性時，會為大模型技術(shù)的落地應(yīng)用創(chuàng)造極其有利的前提。目前，騰訊已經(jīng)在這一領(lǐng)域取得實質(zhì)性的突破，利用大模型對數(shù)據(jù)進(jìn)行細(xì)致的分類與分級優(yōu)化工作，特別是在語義識別維度上，顯著提升了分類準(zhǔn)確率。這項已經(jīng)趨于成熟的技術(shù)已被成功地整合進(jìn)騰訊的產(chǎn)品安全服務(wù)體系，有力推動了數(shù)據(jù)安全保障能力的進(jìn)步與發(fā)展。
針對數(shù)據(jù)安全與數(shù)據(jù)流通性之間的平衡問題，傳統(tǒng)的應(yīng)對策略通常依賴于插裝技術(shù)配合大規(guī)模標(biāo)簽庫進(jìn)行數(shù)據(jù)對比，但這無疑加重了系統(tǒng)的負(fù)荷。相較之下，騰訊通過運(yùn)用大模型對數(shù)據(jù)語義屬性進(jìn)行深度解析，成功實現(xiàn)了近實時的無需標(biāo)簽、無需插件的數(shù)據(jù)關(guān)系抽取，極大地提升了數(shù)據(jù)安全保障工作的效能。
在聚焦于有限可控范圍內(nèi)的數(shù)據(jù)安全事件分析時，由于數(shù)據(jù)領(lǐng)域中的合法主體與客體相對明確，騰訊通過融合多元技術(shù)手段，在該特定范圍內(nèi)實現(xiàn)了數(shù)據(jù)安全分析準(zhǔn)確度的大幅躍升。
在數(shù)據(jù)安全方面，數(shù)字安全免疫力建設(shè)指南提出數(shù)據(jù)分類、分級是數(shù)據(jù)安全建設(shè)的關(guān)鍵。同時要建立數(shù)據(jù)安全防護(hù)基線、建立統(tǒng)一化運(yùn)營體系；業(yè)務(wù)安全方面，指南提出缺乏安全能力護(hù)航的業(yè)務(wù)可能成為黑灰產(chǎn)的“提款機(jī)”，人機(jī)識別、風(fēng)控引擎、內(nèi)容安全、業(yè)務(wù)安全合規(guī)等是必要的投入。
在數(shù)據(jù)安全領(lǐng)域，盡管大模型的應(yīng)用正在帶來顯著效果，但在高度不確定的攻防對抗場景中，依然需要不斷深化研發(fā)與優(yōu)化，結(jié)合專家知識、實時威脅情報以及高效的異常檢測機(jī)制，以應(yīng)對新的安全挑戰(zhàn)，最大化挖掘大模型在數(shù)據(jù)安全領(lǐng)域的潛力。
《數(shù)字安全免疫力建設(shè)指南》就好比醫(yī)生為病人定制了一套健康保養(yǎng)計劃。這套體系鼓勵企業(yè)構(gòu)建起一個能自動偵測、快速抵抗和從攻擊中恢復(fù)的“數(shù)字護(hù)盾”。一旦遇到內(nèi)外部的“數(shù)字病菌”（即安全威脅），企業(yè)就能如同人體免疫系統(tǒng)般，迅速作出反應(yīng)，不僅能及時修復(fù)損害，還能從中吸取教訓(xùn)，不斷提升自身的安全防御力，確保企業(yè)在數(shù)字化旅程中穩(wěn)步前行，健康壯大。
風(fēng)會熄滅蠟燭，卻能使火越燒越旺。對隨機(jī)性、不確定性和混沌也是一樣：要利用它們，而不是躲避它們。要成為火，渴望得到風(fēng)的吹拂，大模型技術(shù)帶給數(shù)據(jù)安全防護(hù)的除了效率極大提升之外，更多的是對未知風(fēng)險的不確定性，在這個交匯點(diǎn)上，騰訊以其獨(dú)特的方法論和工具集，帶給了行業(yè)一個絕佳啟示，無論是人還是企業(yè)遇到危險，真正的安全從本質(zhì)上而言，其實是自己擁有的自發(fā)免疫力，面對不確定性，人人皆害怕，但從不確定性中獲益，或許才是騰訊安全的真正的競爭力。
雷峰網(wǎng) 雷峰網(wǎng) 雷峰網(wǎng)(公眾號：雷峰網(wǎng))
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
