7月28日，世界人工智能大會（WAIC）期間，在由中國信息通信研究院舉辦的“大模型智塑全球產(chǎn)業(yè)新秩序論壇”上，螞蟻集團(tuán)大模型安全解決方案“蟻天鑒”宣布升級，新增智能體（AI Agent）安全評測工具，具備Agent對齊、mcp安全掃描、智能體安全掃描及零信任防御等四大核心功能。

其中，MCP安全掃描功能，則為行業(yè)內(nèi)首個對外發(fā)布的MCP安全掃描工具，可自動化識別AI工具集成與數(shù)據(jù)交換鏈路中的安全漏洞及風(fēng)險行為，覆蓋工具投毒攻擊、間接提示詞注入、惡意代碼注入等3大類共10項子類風(fēng)險。

其Agent對齊功能，集成了高效工具調(diào)用、敏感雙重驗證、多通道惡意識別及沙盒環(huán)境訓(xùn)練，確保智能體的決策、行為與開發(fā)者預(yù)設(shè)目標(biāo)、價值觀及倫理道德保持一致；通過深度理解智能體服務(wù)上下文與風(fēng)險情境，“蟻天鑒”還可對每一次調(diào)用進(jìn)行內(nèi)容、鏈路、行為、權(quán)限、組件、來源、身份七層校驗，并依據(jù)策略引擎動態(tài)決策放行、降級或阻斷。螞蟻方面，稱其為 “永不信任，始終驗證”的零信任動態(tài)防御。

目前，據(jù)螞蟻方面披露，“蟻天鑒”的風(fēng)險研判Agent準(zhǔn)確率可以達(dá)到96%以上，并可支持11個行業(yè)的智能體測試。

（雷峰網(wǎng)(公眾號：雷峰網(wǎng))）

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。