6月5日，在2025全球數(shù)字經(jīng)濟大會數(shù)字安全主論壇暨第七屆北京網(wǎng)絡安全大會（BCS）期間舉辦的第六屆金融數(shù)字化轉(zhuǎn)型與網(wǎng)絡安全論壇上，來自運營商、金融科技、網(wǎng)絡安全和學術(shù)界的七位頂尖專家齊聚一堂，展開了題為“人工智能時代的網(wǎng)絡安全新變局”的圓桌對話。

  圓桌對話由北大國發(fā)院傳播中心主任王賢青主持，對話專家分別從各自領(lǐng)域的專業(yè)視角出發(fā)，深入探討了AI技術(shù)飛速發(fā)展給網(wǎng)絡安全領(lǐng)域帶來的深刻挑戰(zhàn)與戰(zhàn)略機遇。與會專家普遍認為，AI重塑了網(wǎng)絡攻防格局，需要業(yè)界協(xié)同以智能對抗智能，構(gòu)建以人為本、安全內(nèi)生的發(fā)展新范式。

對話嘉賓包括王賢青、張建桁、譚曉生、董青馬、況文川、高曉飛、江愛軍（由左至右）

 

  AI伴生安全風險，催生系統(tǒng)性挑戰(zhàn)

  專家們指出，AI技術(shù)在降低攻擊門檻、提升攻擊效率的同時，也帶來了前所未有的風險維度。

北大國發(fā)院傳播中心主任王賢青

  首先是攻擊平民化的挑戰(zhàn)。北京賽博英杰科技有限公司創(chuàng)始人、董事長譚曉生強調(diào)，大模型的出現(xiàn)讓攻擊者無需深厚編程功底，“精心設計的提示詞可以突破系統(tǒng)防線，誘導AI泄露受保護的敏感信息，造成嚴重后果。”聯(lián)通數(shù)字科技有限公司安全事業(yè)部副總經(jīng)理張建桁認為，利用智能體可以大大提高網(wǎng)絡攻擊的效率。國內(nèi)DeepSeek推出之后，把AI推向通用化。這意味著針對運營商、云服務商，包括政企用戶的更廣泛攻擊，這是對運營商來說下一步面臨的最大挑戰(zhàn)。主持人王賢青也補充，AI普及導致對編程等方面的要求降低，降低了網(wǎng)絡攻擊的門檻，這意味著AI使非專業(yè)人士也能發(fā)動高效攻擊。

北京賽博英杰科技有限公司創(chuàng)始人、董事長譚曉生

聯(lián)通數(shù)字科技有限公司安全事業(yè)部副總經(jīng)理張建桁

  其次是模型自身安全的挑戰(zhàn)。譚曉生進一步指出，由數(shù)學思維主導構(gòu)建的AI系統(tǒng)，缺乏對安全編碼規(guī)范的重視，可能導致系統(tǒng)崩潰或被完全控制，從而可以導致篡改決策的風險。此外，AI本身缺乏權(quán)限管理和訪問控制，易引發(fā)核心數(shù)據(jù)泄露風險。奇安信集團AI高級研究員江愛軍補充認為，目前人工智能垂域大模型中的核心信息資產(chǎn)泄露風險；AI應用模糊傳統(tǒng)軟件邏輯層與數(shù)據(jù)層，打破權(quán)限控制，這是當前重要的風險點。

奇安信集團AI高級研究員江愛軍

  第三是趨同性與風險傳染。西南財經(jīng)大學中國金融研究院副院長董青馬聚焦金融行業(yè)，揭示了AI應用的潛在系統(tǒng)風險：“當金融機構(gòu)普遍采用大模型，使用相似的底層邏輯和基礎語料庫，會導致決策趨同的問題，缺乏生態(tài)的多樣性。”同時，AI加速信息傳播也使得風險傳遞和虛假信息擴散速度遠超以往。中國電子首席科學家、中電金信研究院院長況文川指出，金融機構(gòu)在利用生成式人工智能快速理解客戶特質(zhì)和交互數(shù)據(jù)以提供個性化服務的同時，也需要應對趨同性問題，即大家使用相似模型是否可能導致服務同質(zhì)化，金融機構(gòu)需要充分運用自己的私有數(shù)據(jù)、個性化語料、專業(yè)知識庫以及與自身業(yè)務邏輯的結(jié)合，來體現(xiàn)出自己的競爭優(yōu)勢。

西南財經(jīng)大學中國金融研究院副院長董青馬

 

中國電子首席科學家、中電金信研究院院長況文川

 

  最后是數(shù)據(jù)安全風險與算力瓶頸。中國長城市場合作部副總經(jīng)理高曉飛直指當前我國人工智能面臨兩大痛點：AI訓練和應用對數(shù)據(jù)的渴求突破了傳統(tǒng)數(shù)據(jù)安全防線；同時，關(guān)鍵算力芯片（如高端GPU）的供應保障及國產(chǎn)AI軟件生態(tài)的成熟度，構(gòu)成國家層面AI安全發(fā)展的現(xiàn)實瓶頸。

 

中國長城市場合作部副總經(jīng)理高曉飛

 

  以“AI”筑盾，構(gòu)建主動防御體系

  面對AI帶來的風險與挑戰(zhàn)，安全防護面臨范式的轉(zhuǎn)變。與會專家建議用AI對抗AI風險。AI同樣為網(wǎng)絡安全防御帶來革命性工具和方法。

  首先是效率躍升。譚曉生分享了AI的積極面：“過去安全運維人員疲于應對日均數(shù)千萬條告警，往往只能依靠規(guī)則強壓告警，難免漏報與錯報?，F(xiàn)在，借助AI強大的推理與分析能力，能夠高效處理海量告警，大幅提升防御效率和精準度，部分替代中低端安全分析師工作?！?/p>

  其次是“智能對抗智能”新范式。聯(lián)通數(shù)字科技有限公司安全事業(yè)部副總經(jīng)理張建桁介紹了運營商的應對策略：面對云網(wǎng)基礎設施面臨的規(guī)?；?、智能化攻擊威脅，聯(lián)通正構(gòu)建‘主動防御’體系，核心就是以AI對抗AI，在自身安全運營體系中部署智能體?！彼麖娬{(diào)了運營商在“云網(wǎng)端”協(xié)同防護與快速溯源處置方面的獨特優(yōu)勢。

  最后是賦能安全運營與研發(fā)。江愛軍指出，包括奇安信在內(nèi)的網(wǎng)絡安全廠商正積極應用AI技術(shù)應對新型攻擊向量，優(yōu)化產(chǎn)品研發(fā)工作的效率與成本，并賦能網(wǎng)絡安全運營。

 

  破局之道：協(xié)同構(gòu)建智能安全新生態(tài)

   針對如何在AI時代筑牢安全防線，專家們提出關(guān)鍵路徑。

“人在閉環(huán)”與責任明晰：況文川指出，必須在關(guān)鍵決策點（如涉及道德、重大風險）保留人工判斷，“智能體適用于規(guī)則明確、重復性任務，但人仍是最終責任主體”。張建桁補充，需建立健全AI被劫持時的應急處置預案和責任追溯機制。

   推進安全內(nèi)生：況文川強調(diào)，安全應內(nèi)生于AI系統(tǒng)設計和業(yè)務運營中。他提出“三明治”策略：嚴格區(qū)分公共訓練數(shù)據(jù)、企業(yè)私有知識庫和用戶核心隱私數(shù)據(jù)，并通過物理或邏輯隔離，防止交叉污染與違規(guī)訪問。江愛軍則指出，網(wǎng)絡安全廠商需審視產(chǎn)品工作流程是否適應AI變化，關(guān)注防護效果、效率和成本，推進安全內(nèi)生。他還強調(diào)利用AI賦能企業(yè)研發(fā)、安全運營和服務，提升整體安全能力。

   守住風險底線與自主可控：董青馬呼吁在金融安全等關(guān)鍵領(lǐng)域，要守住系統(tǒng)性風險底線，首要任務是確保不發(fā)生系統(tǒng)性風險。此外，要確保AI的自主可控。AI是關(guān)乎未來國際競爭的國家級戰(zhàn)略資源和武器。必須建立自主可控的AI體系，從源頭（技術(shù)、數(shù)據(jù)、標準等）確保其安全可靠，不受制于人。高曉飛則強調(diào)產(chǎn)業(yè)鏈協(xié)同解決算力“卡脖子”問題的緊迫性。

   本次圓桌討論為應對人工智能時代的網(wǎng)絡安全新變局提供了豐富的思想碰撞和實踐指引。AI在放大攻擊能力的同時，為防御體系升級提供新工具。為此，須通過AI對抗AI、管理重構(gòu)、生態(tài)安全三層聯(lián)動，在發(fā)展中平衡效率與風險。最終構(gòu)建"可控的智能"，使技術(shù)服務于人的解放而非威脅人類安全底線。

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。