AI的應(yīng)用越來越廣泛，已經(jīng)滲透到人們工作和生活的方方面面。隨之而來的，是AI的安全問題。我每天都在使用的AI助手，可信嗎？企業(yè)核心業(yè)務(wù)依賴的AI服務(wù)器，安全嗎？AI軟件的安全性，已經(jīng)成為了一個復(fù)雜且多面的全球性議題。

近日，NVIDIA（英偉達(dá)） 官方發(fā)布了一則安全風(fēng)險預(yù)警和軟件更新公告，公布 NVIDIA Triton 推理服務(wù)器存在著重要安全漏洞，提醒用戶盡快進(jìn)行版本更新。（涉及的漏洞為深信服發(fā)現(xiàn)并提報）

Triton 推理服務(wù)器是NVIDIA發(fā)布的一款開源軟件，作為 NVIDIA AI 平臺的重要組成部分，該服務(wù)器可以針對各種工作負(fù)載，實(shí)現(xiàn)標(biāo)準(zhǔn)化的AI模型部署和執(zhí)行，為用戶提供快速且可擴(kuò)展的AI服務(wù)。Triton作為目前全球主流AI推理服務(wù)器，已被全球眾多人工智能廠商廣泛使用。

NVIDIA AI平臺大多數(shù)應(yīng)用與功能的實(shí)現(xiàn)，背后都是由Triton 推理服務(wù)器提供基礎(chǔ)支持，這代表什么呢？

對于使用該服務(wù)器的廠商、企業(yè)來說，這個漏洞一旦被惡意攻擊者利用，他們的云端AI模型就很有可能完全被控制。攻擊者可以在未授權(quán)的情況下實(shí)現(xiàn)竊取用戶敏感數(shù)據(jù)、執(zhí)行惡意代碼、修改AI模型計算結(jié)果、竊取AI模型等一系列操作，對用戶的數(shù)據(jù)隱私帶來的風(fēng)險是災(zāi)難性的，對企業(yè)利益和品牌信譽(yù)帶來的損失也是毀滅性的。

假設(shè)，某自動駕駛汽車廠商使用Triton 推理服務(wù)器來訓(xùn)練和優(yōu)化自動駕駛模型。這個漏洞被惡意攻擊者利用并成功控制，則可能導(dǎo)致車輛誤判、失控等安全問題，威脅到乘客和行人的生命安全。

再假設(shè)，某人工智能服務(wù)廠商使用Triton 推理服務(wù)器部署和開發(fā)其AI模型，如果被攻擊者利用此漏洞入侵，可能導(dǎo)致模型計算結(jié)果被篡改，甚至直接被“一鍵復(fù)制”式竊取，導(dǎo)致知識產(chǎn)權(quán)泄漏或聲譽(yù)受損。

對于我們每個人來說就是，你的“AI助手”帶著你所有的隱私和數(shù)據(jù)，背叛你了。

假設(shè)，你一直使用的某個對話類AI助手被黑客利用此漏洞控制，你的所有對話內(nèi)容、日常行為習(xí)慣和隱私信息都會暴露，黑客可以公開并售賣你的個人信息，甚至利用這些信息實(shí)施詐騙、竊取財產(chǎn)，甚至盜用身份信息進(jìn)行其他非法行為。

深信服安全研究員Lawliet和彭峙釀在日常研究過程中發(fā)現(xiàn)了這兩個漏洞，隨即編寫詳細(xì)的漏洞報告，積極與監(jiān)管機(jī)構(gòu)和NVIDIA官方取得聯(lián)系。NVIDIA官方驗證漏洞信息后第一時間發(fā)布官方公告提醒用戶更新，并致謝深信服。

AI技術(shù)的發(fā)展正如火如荼，但是對AI基礎(chǔ)設(shè)施安全性的研究才剛剛起步，在可預(yù)見的未來會有更多挑戰(zhàn)。比如本次發(fā)現(xiàn)的漏洞，屬于未授權(quán)遠(yuǎn)程代碼執(zhí)行漏洞，影響范圍大，未修復(fù)可能導(dǎo)致嚴(yán)重后果。面對這些挑戰(zhàn)，具備主動識別潛在風(fēng)險的能力，并提前采取行動進(jìn)行有效的修復(fù)和預(yù)防，可以為用戶使用的安全性提供多一層保障。

再次提醒各位NVIDIA AI推理服務(wù)器用戶，請及時檢查自己使用的版本是否更新升級，避免引發(fā)安全風(fēng)險！另外，無論是使用AI推理服務(wù)器的廠商還是使用AI服務(wù)的個人用戶，都應(yīng)提升安全意識，關(guān)注數(shù)據(jù)安全和隱私保護(hù)，在享受AI帶來的高效和便利的同時，確保AI使用過程的安全。

深信服注重網(wǎng)絡(luò)安全攻防技術(shù)研究，利用攻擊方視角解決網(wǎng)絡(luò)安全問題，并將安全研究技術(shù)應(yīng)用到產(chǎn)品實(shí)踐中?；诙嗄甑募夹g(shù)積累，深信服在國內(nèi)率先推出了多個前沿安全產(chǎn)品及服務(wù)，并在去年首秀自研的安全大模型——安全GPT的技術(shù)應(yīng)用。發(fā)布至今，安全GPT已收獲130+體驗用戶。深信服AICP算力平臺在2024數(shù)字中國創(chuàng)新大賽的“信創(chuàng)賽道”和“城市賽道”中獲得2大獎項。

近期，彭峙釀等研究員受邀參加國際知名信息安全會議HITB x PHDays 2024，在主論壇發(fā)表主題演講，與全球網(wǎng)絡(luò)安全專家、團(tuán)隊共同探討前沿安全技術(shù)。

未來，深信服將不斷提高專業(yè)技術(shù)造詣，加大對安全研究人才和技術(shù)研究層面的投入， 也將持續(xù)在AI安全領(lǐng)域深耕，為所有用戶的網(wǎng)絡(luò)安全保駕護(hù)航，讓AI技術(shù)更好地為人類社會的發(fā)展做出貢獻(xiàn)。

雷峰網(wǎng)(公眾號：雷峰網(wǎng))

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。