0
大模型時(shí)代，企業(yè)使用云上模型的痛點(diǎn)有哪些？
你可能會說模型不夠精準(zhǔn)，又或者成本太高，但這些隨著AI技術(shù)的快速發(fā)展，在不遠(yuǎn)的將來或許都不再是問題。
比如成本，自豆包大模型首次將價(jià)格帶進(jìn)“厘”時(shí)代以來，行業(yè)紛紛跟進(jìn)，企業(yè)客戶從此不再為使用模型的成本過度高昂而煩擾。在未來，隨著行業(yè)技術(shù)進(jìn)步，成本或許將越來越不再是問題。
與前述問題比起來，安全是一個(gè)容易被大多數(shù)人忽視但又極為重要的事項(xiàng)。伴隨模型能力的快速發(fā)展，企業(yè)在使用大模型過程中面臨的安全挑戰(zhàn)越來越多：從安全漏洞導(dǎo)致的用戶數(shù)據(jù)泄露，到部分公司違規(guī)抓取數(shù)據(jù)，都已經(jīng)出現(xiàn)相關(guān)案例。
企業(yè)在使用新技術(shù)的同時(shí)，必須時(shí)刻擰緊安全的閥門，這是關(guān)乎企業(yè)生存的根基，一點(diǎn)馬虎不得。因?yàn)橐坏┌l(fā)生意外，損失便有可能是致命的。
1、大模型時(shí)代的安全挑戰(zhàn)
AI正在重塑行業(yè)。
自O(shè)pen AI發(fā)布的ChatGPT引領(lǐng)互聯(lián)網(wǎng)行業(yè)進(jìn)入AI 2.0時(shí)代以來，無數(shù)企業(yè)和AI創(chuàng)業(yè)者投身行業(yè)。在國內(nèi)，除了
百度、字節(jié)、阿里等傳統(tǒng)互聯(lián)網(wǎng)大公司斥資投入，更是有智譜AI、月之暗面、Minimax等明星創(chuàng)業(yè)公司散落其間。
短短兩年間，市場似乎已經(jīng)從早期的莽荒開拓期進(jìn)入到淘汰期。前段時(shí)間，有媒體報(bào)道稱，國內(nèi)AI“六小虎”至少有兩家已放棄預(yù)訓(xùn)練模型。在美國，不少大模型公司都在賣身，僅剩OpenAI、Anthropic、Meta、谷歌，以及馬斯克旗下的xAI等公司還在大手筆投入基礎(chǔ)大模型的研發(fā)。
市場趨于冷靜之時(shí)，大模型時(shí)代的安全問題也在日益凸顯，成為行業(yè)關(guān)注焦點(diǎn)。相關(guān)安全事件包括但不限于，企業(yè)違規(guī)操作過度抓取數(shù)據(jù)、外部攻擊竊取用戶數(shù)據(jù)、使用者通過AI竊取個(gè)人隱私信息等。
以某知名生成式對話大模型產(chǎn)品X為例，自發(fā)布以來，曾多次被爆出存在安全漏洞。
早在2023年，就有用戶爆料X存在明顯漏洞，致使少數(shù)用戶能夠看到其它用戶與AI對話歷史記錄的標(biāo)題。今年5月份，有研究員再次發(fā)現(xiàn)上述產(chǎn)品存在的安全漏洞，該漏洞允許黑客在用戶的長期記憶設(shè)置中存儲虛假信息和惡意指令。但當(dāng)時(shí)，相關(guān)公司對其報(bào)告并沒有給予重視，草草結(jié)束調(diào)查。
同樣在2023年，某提供導(dǎo)航服務(wù)的公司向當(dāng)?shù)貓?bào)案稱，發(fā)現(xiàn)有人利用技術(shù)手段盜取公司服務(wù)器內(nèi)全國的導(dǎo)航地圖信息數(shù)據(jù)，并在論壇售賣，導(dǎo)致公司直接經(jīng)濟(jì)損失約21萬元。
今年7月，美國某電信巨頭披露，客戶數(shù)據(jù)在第三方AI數(shù)據(jù)云平臺發(fā)生大規(guī)模泄露，超過1億條用戶數(shù)據(jù)被黑客獲得，涉及幾乎所有移動客戶的通話和短信記錄。涉事平臺因大量客戶遭黑客攻擊飽受質(zhì)疑，該電信巨頭只是眾多受影響的企業(yè)之一。
越來越多的安全事故顯示出， 隨著AI多模態(tài)大模型等新技術(shù)普及，用戶數(shù)據(jù)正面臨越來越嚴(yán)峻的安全挑戰(zhàn)。企業(yè)在使用大模型時(shí)，不得不更加警示可能存在的潛在安全風(fēng)險(xiǎn)。畢竟，安全無小事。
正因如此，以火山方舟為代表的不少M(fèi)aas（模型即服務(wù)）平臺，始終對安全相當(dāng)重視。火山方舟是火山引擎旗下一站式大模型服務(wù)平臺，一年多前，剛剛對外發(fā)布時(shí)，方舟平臺就同步上線了基于安全沙箱的大模型安全互信計(jì)算方案，利用計(jì)算隔離、存儲隔離、網(wǎng)絡(luò)隔離、流量審計(jì)等方式，實(shí)現(xiàn)模型的機(jī)密性、完整性和可用性保證。這也是大模型行業(yè)內(nèi)首創(chuàng)的安全互信機(jī)制。
2、把安全「刻」進(jìn)基因
安全從來都不是一朝一夕的事情。
在同行幾乎都卯足勁發(fā)展大模型能力時(shí)，火山方舟從開始就把安全作為一項(xiàng)基本功能，用最嚴(yán)格的標(biāo)準(zhǔn)要求自己。用火山方舟自己的話說，要保證你的數(shù)據(jù)，唯你可見，唯你所用，唯你所有。
近期，雷峰網(wǎng)(公眾號：雷峰網(wǎng))與火山引擎智能算法負(fù)責(zé)人、火山方舟負(fù)責(zé)人吳迪進(jìn)行了近一個(gè)小時(shí)交流，了解到更多火山方舟為保證客戶數(shù)據(jù)安全做出的不懈努力。
火山方舟平臺還沒有成型的時(shí)候，方舟的團(tuán)隊(duì)就在談安全、隔離、沙箱?？梢哉f，火山方舟從開始就把安全「刻」進(jìn)了它的基因。正因此，那時(shí)就有很多同行來問吳迪為什么如此重視安全。
在火山方舟看來，生成式AI的機(jī)會還遠(yuǎn)沒有完全顯現(xiàn)，未來的市場容量可能是今天的1000倍，它會滲透到千行萬業(yè)的核心業(yè)務(wù)當(dāng)中，是很多企業(yè)核心業(yè)務(wù)的重要依賴。在這種情況下，一家公司核心業(yè)務(wù)將離不開大模型，除了追求效果、性價(jià)比，數(shù)據(jù)安全將愈加重要。
另一方面，生成式 AI 的發(fā)展將對安全產(chǎn)生更多新的挑戰(zhàn)。換句話說，AI 1.0時(shí)代的安全方案在生成式AI時(shí)代未必可行。過去，為了確保數(shù)據(jù)的安全，企業(yè)的選擇經(jīng)常是數(shù)據(jù)不動模型動，也就是說很多企業(yè)客戶會把數(shù)據(jù)留在自己的私域空間里，請模型服務(wù)商把模型部署到自己的私有化空間，但是這一套實(shí)踐可能在生成式 AI 的時(shí)代就行不通了。
其一，私有化大模型很難追隨著公有云上最先進(jìn)的大模型同時(shí)升級迭代；其二，私有化大模型所消耗的基礎(chǔ)算力的單位價(jià)格是遠(yuǎn)遠(yuǎn)高于公有云上大模型服務(wù)，從性價(jià)比角度來講，公有云上的集中調(diào)度更加便宜、更加方便。
在公有云條件下，用戶對云上操作不可見，如何讓用戶充分信任云上數(shù)據(jù)的安全性始終是一個(gè)難題，這也是火山方舟過去一年始終致力于探索解決的問題。
吳迪告訴雷峰網(wǎng)，火山方舟對安全的代碼實(shí)踐是直接滲透到系統(tǒng)的核心設(shè)計(jì)中的，包括所有的執(zhí)行環(huán)境、日志審計(jì)環(huán)境，它是隨著系統(tǒng)本身的搭建一起進(jìn)行的。打個(gè)比方，這就好像大廈水泥基柱中的鋼筋一樣，保證了數(shù)據(jù)非常高的安全性。相比較而言，部分不那么重視安全的平臺，可能會先把大廈建立起來，然后再在外面貼保溫層、防護(hù)層加固。長期來看，這種模式的大廈是抵御不了臺風(fēng)等惡劣環(huán)境的。
不僅如此，火山方舟的安全團(tuán)隊(duì)獨(dú)立于其它團(tuán)隊(duì)之外，擁有一批優(yōu)秀的工程師，隨時(shí)準(zhǔn)備應(yīng)對內(nèi)外部的安全測試。字節(jié)跳動內(nèi)部有專門的藍(lán)軍攻防系統(tǒng)，隨時(shí)可能進(jìn)行各個(gè)角度滲透攻擊，獨(dú)立驗(yàn)證火山方舟的安全方案。從日、周、月、到季度，火山方舟幾乎都有不同級別的安全演練。
吳迪曾多次表示，站在第一天，我們就著眼于未來的 5 年或者 10 年時(shí)間，從第一天就知道取得客戶的信任是一件非常重要的事情。
3、如何幫客戶實(shí)現(xiàn)「會話無痕」
正是基于從開始就把安全當(dāng)作一項(xiàng)基本功能的理念，以及對生成式AI前景的堅(jiān)信，火山方舟對安全的投入毫不吝惜，方向也越走越明，研發(fā)出一套全周期的安全可信方案。
具體而言，這套方案主要包括四大能力：鏈路全加密、數(shù)據(jù)高保密、環(huán)境強(qiáng)隔離，以及操作可審計(jì)。
如此說來，不少用戶大概會感到晦澀難懂，我們不妨稍加展開。
所謂“鏈路全加密” ，包括網(wǎng)絡(luò)層傳輸加密和應(yīng)用層會話加密方案，簡單來講，它主要用來防止用戶數(shù)據(jù)在傳輸鏈路階段被截獲；“數(shù)據(jù)高保密”保證用戶數(shù)據(jù)僅本人可見；環(huán)境強(qiáng)隔離，用于杜絕外部風(fēng)險(xiǎn)入侵、內(nèi)部數(shù)據(jù)泄密，就好像一座安全堡壘；“操作可審計(jì)”仿佛一座瞭望塔，能夠幫助用戶查看幾乎一切影響其數(shù)據(jù)資產(chǎn)的操作記錄。
整個(gè)方案四大能力圍繞數(shù)據(jù)傳輸、數(shù)據(jù)使用、數(shù)據(jù)靜態(tài)存儲等階段相互協(xié)作，共同致力于提升用戶在使用模型時(shí)的安全性， 為平臺提供了全周期的安全能力，最終實(shí)現(xiàn)會話無痕（你的數(shù)據(jù)，唯你可見，唯你所用，唯你所有）的安全目標(biāo)。
隨著大模型普及，企業(yè)效率得到提升的同時(shí)，對數(shù)據(jù)安全的需求也在不斷迭代更新。
曉多科技是一家智能客服的SaaS企業(yè)，圍繞大模型做了兩款獨(dú)立產(chǎn)品，其一是通過豆包大模型模擬買家訓(xùn)練新人客服，上崗時(shí)間縮短了一半以上。其二是，結(jié)合曉多原有的知識庫，豆包大模型加成后，在客服接線時(shí)針對商品知識問答、商品對比、商品推薦等復(fù)雜場景，給人工客服提供副駕駛能力。
曉多科技首席技術(shù)官向海直言，他們在為客戶提供線服務(wù)能力過程中，也要保證訪問鏈路的加密和租戶數(shù)據(jù)的隔離?！斑@個(gè)過程跟方舟思路差不多的，當(dāng)然，投入肯定沒（方舟）那么大?！毕蚝Ｐχf道。
向海坦言，在沒有大模型時(shí)，前述產(chǎn)品是很難做出來的。只有有了生成能力，才能大量模擬買家，去與新的客服人員對話。豆包大模型出現(xiàn)以后，特別是，經(jīng)過半年圍繞客戶真正需求精調(diào)后，客戶滿意了，產(chǎn)品才能做出來。
從安全角度講，客戶把自己的知識、培訓(xùn)內(nèi)容、技巧，甚至于流程都固化到產(chǎn)品中，其中一部分變成參數(shù)，直接被集成到提示詞中。無論是曉多科技，還是他們服務(wù)的商家，都非常關(guān)心方舟是如何保證這些承載用戶知識數(shù)據(jù)安全性的。
回到方舟的安全方案，其自始至終的目標(biāo)同樣都是保證用戶數(shù)據(jù)實(shí)現(xiàn)「會話無痕」。相關(guān)審計(jì)日志充分開放向用戶開放，也在很大程度上給客戶吃下了一顆定心丸。
從誕生至今一年多時(shí)間，火山方舟一直致力于提高用戶數(shù)據(jù)資產(chǎn)(模型、會話數(shù)據(jù)、訓(xùn)練數(shù)據(jù)等)的安全水位。火山方舟負(fù)責(zé)人吳迪在直播中表示，目前火山方舟已經(jīng)達(dá)到Don't be evil（不作惡）。這意味著，方舟平臺能保證除了用戶外的任何方一旦做惡（違反方舟的數(shù)據(jù)安全策略），都能夠第一時(shí)間被用戶或者方舟的安全團(tuán)隊(duì)發(fā)現(xiàn)并追責(zé)。
不過，Don't be evil 只能算是一個(gè)基礎(chǔ)安全水位。長遠(yuǎn)而看，Can't be evil 才是火山方舟始終追求的安全目標(biāo)。吳迪也坦言，信息安全有個(gè)特點(diǎn)，只能接近滿分，但永遠(yuǎn)無法達(dá)到。
在被問道，與客戶接觸過程中有沒有印象深刻的故事，吳迪開玩笑般說到：“我覺得安全方面沒有故事，只有事故?！?/p>
但我們反過來想，一直以來，火山方舟都沒有發(fā)生事故，或許就是最好的故事，也是最樸素的真實(shí)。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
