12月20日，第五屆中國人工智能成果發(fā)布會(huì)在廈門召開。三六零（601360.SH，下稱“360”）集團(tuán)因在人工智能安全治理“大模型安全攻防賽”中表現(xiàn)突出，榮獲本屆中國人工智能大賽A級(jí)證書。

 

今年9月，在國家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)下，廈門市人民政府主辦的第五屆中國人工智能大賽正式啟動(dòng)，圍繞人工智能安全治理和創(chuàng)新發(fā)展兩大主線設(shè)置了賽題。作為重要賽題之一，大模型安全攻防賽是將15000條包含惡意和正常的大語言模型提示詞樣本輸入到參賽的大語言模型中，借此考察大模型對(duì)攻擊的防范能力。

 

據(jù)了解，人工智能在提升生產(chǎn)力的同時(shí)，也帶來了包括幻覺、深度偽造、注入攻擊、數(shù)據(jù)污染或投毒等前所未有的安全新挑戰(zhàn)。作為兼具數(shù)字安全和AI雙重能力的科技企業(yè)，360很早開始關(guān)注大模型安全風(fēng)險(xiǎn)，并推出一系列有針對(duì)性的創(chuàng)新技術(shù)，包括開發(fā)了國內(nèi)首個(gè)安全大模型，通過“以模制?！崩砟?，利用AI大模型來檢測(cè)和防范大模型可能出現(xiàn)的安全風(fēng)險(xiǎn)，既解決傳統(tǒng)網(wǎng)絡(luò)安全問題，又為攻克AI安全新挑戰(zhàn)提供了可行性方案。

 

近日，360集團(tuán)還牽頭發(fā)起成立大模型安全聯(lián)盟，旨在打造資源共享、共創(chuàng)共贏的大模型安全生態(tài)集群，共同推動(dòng)大模型安全標(biāo)準(zhǔn)的制定、安全技術(shù)的創(chuàng)新和安全能力的提升，打造大模型安全發(fā)展的新范式。

 

同時(shí)，360基于“安全、向善、可信、可控”的四大原則，推出多款具有重要行業(yè)價(jià)值的企業(yè)級(jí)應(yīng)用新產(chǎn)品,包括大模型全鏈路安全檢測(cè)的“智鑒”、內(nèi)容安全護(hù)航的“智盾”、搜索增強(qiáng)利器“智搜”，以及知識(shí)管理平臺(tái)“智能文檔云”和情報(bào)監(jiān)測(cè)工具“輿情衛(wèi)士”,全面覆蓋了大模型系統(tǒng)安全、內(nèi)容安全、智能知識(shí)管理與情報(bào)分析等關(guān)鍵領(lǐng)域，通過技術(shù)創(chuàng)新與生態(tài)建設(shè)，持續(xù)為大模型安全及行業(yè)發(fā)展注入新動(dòng)能。

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。