大模型時代，企業(yè)使用云上模型的痛點有哪些？

你可能會說模型不夠精準，又或者成本太高，但這些隨著AI技術的快速發(fā)展，在不遠的將來或許都不再是問題。

比如成本，自豆包大模型首次將價格帶進“厘”時代以來，行業(yè)紛紛跟進，企業(yè)客戶從此不再為使用模型的成本過度高昂而煩擾。在未來，隨著行業(yè)技術進步，成本或許將越來越不再是問題。

與前述問題比起來，安全是一個容易被大多數(shù)人忽視但又極為重要的事項。伴隨模型能力的快速發(fā)展，企業(yè)在使用大模型過程中面臨的安全挑戰(zhàn)越來越多：從安全漏洞導致的用戶數(shù)據(jù)泄露，到部分公司違規(guī)抓取數(shù)據(jù)，都已經出現(xiàn)相關案例。

企業(yè)在使用新技術的同時，必須時刻擰緊安全的閥門，這是關乎企業(yè)生存的根基，一點馬虎不得。因為一旦發(fā)生意外，損失便有可能是致命的。

1、大模型時代的安全挑戰(zhàn)

AI正在重塑行業(yè)。

自Open AI發(fā)布的ChatGPT引領互聯(lián)網(wǎng)行業(yè)進入AI 2.0時代以來，無數(shù)企業(yè)和AI創(chuàng)業(yè)者投身行業(yè)。在國內，除了

百度、字節(jié)、阿里等傳統(tǒng)互聯(lián)網(wǎng)大公司斥資投入，更是有智譜AI、月之暗面、Minimax等明星創(chuàng)業(yè)公司散落其間。

短短兩年間，市場似乎已經從早期的莽荒開拓期進入到淘汰期。前段時間，有媒體報道稱，國內AI“六小虎”至少有兩家已放棄預訓練模型。在美國，不少大模型公司都在賣身，僅剩OpenAI、Anthropic、Meta、谷歌，以及馬斯克旗下的xAI等公司還在大手筆投入基礎大模型的研發(fā)。

市場趨于冷靜之時，大模型時代的安全問題也在日益凸顯，成為行業(yè)關注焦點。相關安全事件包括但不限于，企業(yè)違規(guī)操作過度抓取數(shù)據(jù)、外部攻擊竊取用戶數(shù)據(jù)、使用者通過AI竊取個人隱私信息等。

以某知名生成式對話大模型產品X為例，自發(fā)布以來，曾多次被爆出存在安全漏洞。

早在2023年，就有用戶爆料X存在明顯漏洞，致使少數(shù)用戶能夠看到其它用戶與AI對話歷史記錄的標題。今年5月份，有研究員再次發(fā)現(xiàn)上述產品存在的安全漏洞，該漏洞允許黑客在用戶的長期記憶設置中存儲虛假信息和惡意指令。但當時，相關公司對其報告并沒有給予重視，草草結束調查。

同樣在2023年，某提供導航服務的公司向當?shù)貓蟀阜Q，發(fā)現(xiàn)有人利用技術手段盜取公司服務器內全國的導航地圖信息數(shù)據(jù)，并在論壇售賣，導致公司直接經濟損失約21萬元。

今年7月，美國某電信巨頭披露，客戶數(shù)據(jù)在第三方AI數(shù)據(jù)云平臺發(fā)生大規(guī)模泄露，超過1億條用戶數(shù)據(jù)被黑客獲得，涉及幾乎所有移動客戶的通話和短信記錄。涉事平臺因大量客戶遭黑客攻擊飽受質疑，該電信巨頭只是眾多受影響的企業(yè)之一。

越來越多的安全事故顯示出， 隨著AI多模態(tài)大模型等新技術普及，用戶數(shù)據(jù)正面臨越來越嚴峻的安全挑戰(zhàn)。企業(yè)在使用大模型時，不得不更加警示可能存在的潛在安全風險。畢竟，安全無小事。

正因如此，以火山方舟為代表的不少Maas（模型即服務）平臺，始終對安全相當重視。火山方舟是火山引擎旗下一站式大模型服務平臺，一年多前，剛剛對外發(fā)布時，方舟平臺就同步上線了基于安全沙箱的大模型安全互信計算方案，利用計算隔離、存儲隔離、網(wǎng)絡隔離、流量審計等方式，實現(xiàn)模型的機密性、完整性和可用性保證。這也是大模型行業(yè)內首創(chuàng)的安全互信機制。

2、把安全「刻」進基因

安全從來都不是一朝一夕的事情。

在同行幾乎都卯足勁發(fā)展大模型能力時，火山方舟從開始就把安全作為一項基本功能，用最嚴格的標準要求自己。用火山方舟自己的話說，要保證你的數(shù)據(jù)，唯你可見，唯你所用，唯你所有。

近期，雷峰網(wǎng)(公眾號：雷峰網(wǎng))與火山引擎智能算法負責人、火山方舟負責人吳迪進行了近一個小時交流，了解到更多火山方舟為保證客戶數(shù)據(jù)安全做出的不懈努力。

火山方舟平臺還沒有成型的時候，方舟的團隊就在談安全、隔離、沙箱。可以說，火山方舟從開始就把安全「刻」進了它的基因。正因此，那時就有很多同行來問吳迪為什么如此重視安全。

在火山方舟看來，生成式AI的機會還遠沒有完全顯現(xiàn)，未來的市場容量可能是今天的1000倍，它會滲透到千行萬業(yè)的核心業(yè)務當中，是很多企業(yè)核心業(yè)務的重要依賴。在這種情況下，一家公司核心業(yè)務將離不開大模型，除了追求效果、性價比，數(shù)據(jù)安全將愈加重要。

另一方面，生成式 AI 的發(fā)展將對安全產生更多新的挑戰(zhàn)。換句話說，AI 1.0時代的安全方案在生成式AI時代未必可行。過去，為了確保數(shù)據(jù)的安全，企業(yè)的選擇經常是數(shù)據(jù)不動模型動，也就是說很多企業(yè)客戶會把數(shù)據(jù)留在自己的私域空間里，請模型服務商把模型部署到自己的私有化空間，但是這一套實踐可能在生成式 AI 的時代就行不通了。

其一，私有化大模型很難追隨著公有云上最先進的大模型同時升級迭代；其二，私有化大模型所消耗的基礎算力的單位價格是遠遠高于公有云上大模型服務，從性價比角度來講，公有云上的集中調度更加便宜、更加方便。

在公有云條件下，用戶對云上操作不可見，如何讓用戶充分信任云上數(shù)據(jù)的安全性始終是一個難題，這也是火山方舟過去一年始終致力于探索解決的問題。

吳迪告訴雷峰網(wǎng)，火山方舟對安全的代碼實踐是直接滲透到系統(tǒng)的核心設計中的，包括所有的執(zhí)行環(huán)境、日志審計環(huán)境，它是隨著系統(tǒng)本身的搭建一起進行的。打個比方，這就好像大廈水泥基柱中的鋼筋一樣，保證了數(shù)據(jù)非常高的安全性。相比較而言，部分不那么重視安全的平臺，可能會先把大廈建立起來，然后再在外面貼保溫層、防護層加固。長期來看，這種模式的大廈是抵御不了臺風等惡劣環(huán)境的。

不僅如此，火山方舟的安全團隊獨立于其它團隊之外，擁有一批優(yōu)秀的工程師，隨時準備應對內外部的安全測試。字節(jié)跳動內部有專門的藍軍攻防系統(tǒng)，隨時可能進行各個角度滲透攻擊，獨立驗證火山方舟的安全方案。從日、周、月、到季度，火山方舟幾乎都有不同級別的安全演練。

吳迪曾多次表示，站在第一天，我們就著眼于未來的 5 年或者 10 年時間，從第一天就知道取得客戶的信任是一件非常重要的事情。

3、如何幫客戶實現(xiàn)「會話無痕」

正是基于從開始就把安全當作一項基本功能的理念，以及對生成式AI前景的堅信，火山方舟對安全的投入毫不吝惜，方向也越走越明，研發(fā)出一套全周期的安全可信方案。

具體而言，這套方案主要包括四大能力：鏈路全加密、數(shù)據(jù)高保密、環(huán)境強隔離，以及操作可審計。

如此說來，不少用戶大概會感到晦澀難懂，我們不妨稍加展開。

所謂“鏈路全加密” ，包括網(wǎng)絡層傳輸加密和應用層會話加密方案，簡單來講，它主要用來防止用戶數(shù)據(jù)在傳輸鏈路階段被截獲；“數(shù)據(jù)高保密”保證用戶數(shù)據(jù)僅本人可見；環(huán)境強隔離，用于杜絕外部風險入侵、內部數(shù)據(jù)泄密，就好像一座安全堡壘；“操作可審計”仿佛一座瞭望塔，能夠幫助用戶查看幾乎一切影響其數(shù)據(jù)資產的操作記錄。

整個方案四大能力圍繞數(shù)據(jù)傳輸、數(shù)據(jù)使用、數(shù)據(jù)靜態(tài)存儲等階段相互協(xié)作，共同致力于提升用戶在使用模型時的安全性， 為平臺提供了全周期的安全能力，最終實現(xiàn)會話無痕（你的數(shù)據(jù)，唯你可見，唯你所用，唯你所有）的安全目標。

隨著大模型普及，企業(yè)效率得到提升的同時，對數(shù)據(jù)安全的需求也在不斷迭代更新。

曉多科技是一家智能客服的SaaS企業(yè)，圍繞大模型做了兩款獨立產品，其一是通過豆包大模型模擬買家訓練新人客服，上崗時間縮短了一半以上。其二是，結合曉多原有的知識庫，豆包大模型加成后，在客服接線時針對商品知識問答、商品對比、商品推薦等復雜場景，給人工客服提供副駕駛能力。

曉多科技首席技術官向海直言，他們在為客戶提供線服務能力過程中，也要保證訪問鏈路的加密和租戶數(shù)據(jù)的隔離。“這個過程跟方舟思路差不多的，當然，投入肯定沒（方舟）那么大。”向海笑著說道。

向海坦言，在沒有大模型時，前述產品是很難做出來的。只有有了生成能力，才能大量模擬買家，去與新的客服人員對話。豆包大模型出現(xiàn)以后，特別是，經過半年圍繞客戶真正需求精調后，客戶滿意了，產品才能做出來。

從安全角度講，客戶把自己的知識、培訓內容、技巧，甚至于流程都固化到產品中，其中一部分變成參數(shù)，直接被集成到提示詞中。無論是曉多科技，還是他們服務的商家，都非常關心方舟是如何保證這些承載用戶知識數(shù)據(jù)安全性的。

回到方舟的安全方案，其自始至終的目標同樣都是保證用戶數(shù)據(jù)實現(xiàn)「會話無痕」。相關審計日志充分開放向用戶開放，也在很大程度上給客戶吃下了一顆定心丸。

從誕生至今一年多時間，火山方舟一直致力于提高用戶數(shù)據(jù)資產(模型、會話數(shù)據(jù)、訓練數(shù)據(jù)等)的安全水位?；鹕椒街圬撠熑藚堑显谥辈ブ斜硎?，目前火山方舟已經達到Don't be evil（不作惡）。這意味著，方舟平臺能保證除了用戶外的任何方一旦做惡（違反方舟的數(shù)據(jù)安全策略），都能夠第一時間被用戶或者方舟的安全團隊發(fā)現(xiàn)并追責。

不過，Don't be evil 只能算是一個基礎安全水位。長遠而看，Can't be evil 才是火山方舟始終追求的安全目標。吳迪也坦言，信息安全有個特點，只能接近滿分，但永遠無法達到。

在被問道，與客戶接觸過程中有沒有印象深刻的故事，吳迪開玩笑般說到：“我覺得安全方面沒有故事，只有事故。”

但我們反過來想，一直以來，火山方舟都沒有發(fā)生事故，或許就是最好的故事，也是最樸素的真實。

雷峰網(wǎng)原創(chuàng)文章，未經授權禁止轉載。詳情見轉載須知。