丁香五月天婷婷久久婷婷色综合91|国产传媒自偷自拍|久久影院亚洲精品|国产欧美VA天堂国产美女自慰视屏|免费黄色av网站|婷婷丁香五月激情四射|日韩AV一区二区中文字幕在线观看|亚洲欧美日本性爱|日日噜噜噜夜夜噜噜噜|中文Av日韩一区二区

您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號(hào)安全和更好的產(chǎn)品體驗(yàn),強(qiáng)烈建議使用更快更安全的瀏覽器
此為臨時(shí)鏈接,僅用于文章預(yù)覽,將在時(shí)失效
業(yè)界 正文
發(fā)私信給趙之齊
發(fā)送

0

關(guān)于 DeepSeek 一體機(jī)落地真相,我們調(diào)研了 12 家上市公司

本文作者: 趙之齊   2025-04-11 14:26
導(dǎo)語(yǔ):企業(yè)需要資產(chǎn)安全感、ToB需要新增長(zhǎng)點(diǎn),一體機(jī)在國(guó)內(nèi)市場(chǎng)再次爆火,實(shí)屬必然。

過(guò)去兩個(gè)月的一體機(jī)市場(chǎng),一波三折:

曾經(jīng)半年銷(xiāo)售量?jī)芍皇謹(jǐn)?shù)得過(guò)來(lái)的一體機(jī)業(yè)務(wù),在年后一天涌進(jìn)兩三百人電話(huà)咨詢(xún)、一周內(nèi)咨詢(xún)近千條,商機(jī)密度比往年翻兩三倍,一體機(jī)“蜜月期”平等地降臨在各廠商身上。

有行業(yè)人士透露,春節(jié)以來(lái),中小廠商基本都賣(mài)出了十幾二十臺(tái)一體機(jī),收入上千萬(wàn);運(yùn)營(yíng)商能賣(mài)出小幾百臺(tái);某大廠定下的目標(biāo)是,今年賣(mài)三千臺(tái)。

神州數(shù)碼信創(chuàng)業(yè)務(wù)集團(tuán)產(chǎn)品中心總經(jīng)理李川也發(fā)現(xiàn),去年對(duì)一體機(jī)的需求相對(duì)垂直,主要還集中在機(jī)器視覺(jué)、自然語(yǔ)言處理等領(lǐng)域中小型客戶(hù),今年則向更廣泛的行業(yè)蔓延。

業(yè)務(wù)之外,還有更大的盈利場(chǎng)——在二級(jí)市場(chǎng),DeepSeek概念股股價(jià)迎來(lái)較大漲幅,一體機(jī)相關(guān)上市公司也一度領(lǐng)漲。2月以來(lái),浪潮信息、優(yōu)刻得、神州數(shù)碼、云天勵(lì)飛等股價(jià)陡峭攀升,深信服從半年前的42.70元/股漲到了最高142元/股,云從科技更是一度漲停。(更多一體機(jī)相關(guān)標(biāo)的看法,可添加作者微信Ericazhao23交流)

而進(jìn)入三月,商機(jī)有所回落,有運(yùn)營(yíng)商的咨詢(xún)從每天幾百個(gè)下降到每天幾十個(gè);股價(jià)也開(kāi)始跌宕。當(dāng)用戶(hù)從嘗鮮過(guò)渡到理性探索,當(dāng)賣(mài)方市場(chǎng)開(kāi)始產(chǎn)品迭代和探索壁壘,有聲音認(rèn)為,這個(gè)市場(chǎng)即將翻篇。

然而,這并非智算一體機(jī)首次爆火,前兩年曾短暫風(fēng)靡的一體機(jī),能再次殺入大眾視野,絕非偶然。于是,一個(gè)問(wèn)題浮現(xiàn):當(dāng)我們需要智算一體機(jī)時(shí),我們需要的是什么?

事實(shí)上,這個(gè)市場(chǎng)需要的不止是AI,還有一體機(jī)這種載體——

一方面,對(duì)于長(zhǎng)期受定制化困擾的中國(guó)軟件廠商,一體機(jī)通用、弱定制的產(chǎn)品邏輯,有望成為一劑解藥;另一方面,對(duì)于習(xí)慣購(gòu)買(mǎi)硬件重資產(chǎn)的本土客戶(hù)們,一體機(jī)載體也能為其引入AI提供一種安全感。

同時(shí),這場(chǎng)一體機(jī)部署熱潮,也是如火如荼發(fā)生在B端和G端的AI普及教育,甚至,可以作為AI Agent來(lái)臨前的地基建設(shè)運(yùn)動(dòng)。

“用戶(hù)的熱情此前從地上跳到空中,最后大概率會(huì)回到桌上”,云天勵(lì)飛副總裁羅憶如此形容部署熱潮。當(dāng)市場(chǎng)情緒逐漸回歸中點(diǎn),雷峰網(wǎng)(公眾號(hào):雷峰網(wǎng))也完成了多方調(diào)研,試圖勾勒DeepSeek一體機(jī)市場(chǎng)里用戶(hù)的迷茫、廠家的探索,以過(guò)去這兩個(gè)月的市場(chǎng)為鑒,照見(jiàn)AI一體機(jī)蜿蜒向未來(lái)的道路。


咨詢(xún)熱情高漲,落地層層博弈

新的科技熱潮出現(xiàn),用戶(hù)總需經(jīng)歷市場(chǎng)教育。

第一個(gè)場(chǎng)景,便是賣(mài)家的抉擇。

1)急于完成KPI、在廠商間迷失的客戶(hù)們

“短、平、快”,是這次一體機(jī)用戶(hù)的需求特征。

此次部署熱潮中,很多國(guó)央企和金融客戶(hù)的KPI節(jié)奏大差不差:上半年完成部署,下半年應(yīng)用落地。

部署指令自上而下,時(shí)間緊,任務(wù)重。焦慮急迫的情緒,從廠商發(fā)布的交付數(shù)據(jù)中可略感一二:聯(lián)想集團(tuán)與沐曦股份聯(lián)合發(fā)布的首個(gè)國(guó)產(chǎn)DeepSeek一體機(jī)解決方案,一個(gè)月內(nèi)發(fā)貨量就超過(guò)千臺(tái)。

不過(guò),目前很多廠商的成單量跟咨詢(xún)量比起來(lái),仍顯寥寥:多家廠商的DeepSeek一體機(jī)成單率遠(yuǎn)不如其他成熟產(chǎn)品,有時(shí)兩三百個(gè)咨詢(xún)里沒(méi)有一單落成,甚至有的用戶(hù)只測(cè)試、不下單。

不得不承認(rèn),在早期市場(chǎng)上,更吃香的是懂點(diǎn)技術(shù)的中間商們。

他們成為香餑餑無(wú)非兩個(gè)原因:便宜、快速。

但選擇中間商,風(fēng)險(xiǎn)暗藏:很多企業(yè)接入大模型的第一步,是做知識(shí)問(wèn)答,而足夠精準(zhǔn)的知識(shí)問(wèn)答,要基于精確的RAG(檢索增強(qiáng)生成)框架而做。

然而,現(xiàn)在市面上許多DeepSeek一體機(jī)訂單,是由中間廠商直接用MaxKB軟件或Dify平臺(tái)給客戶(hù)部署。結(jié)果上看,也能把知識(shí)庫(kù)搭起來(lái),但框架往往不夠精確,知識(shí)庫(kù)里的文字分段有問(wèn)題,大模型幻覺(jué)嚴(yán)重:

當(dāng)專(zhuān)業(yè)名詞“阿莫西林”,被切割成了“阿莫”和“西林”,這場(chǎng)幻覺(jué),誰(shuí)來(lái)買(mǎi)單?

困住客戶(hù)的不止于此:市面上還有廠家售賣(mài)的所謂一體機(jī),只是“計(jì)算平臺(tái)+推理框架+預(yù)裝大模型”,沒(méi)有智能體平臺(tái)、沒(méi)有操作界面,仍是開(kāi)發(fā)機(jī);有的廠家打著滿(mǎn)血版的名義,卻給客戶(hù)部署蒸餾的模型;還有的廠家,四處東拼西湊出一體機(jī),交付時(shí)卻不負(fù)責(zé)調(diào)優(yōu)應(yīng)用。用戶(hù)迷茫,做快生意的廠家卻盆滿(mǎn)缽滿(mǎn)。

供給市場(chǎng)魚(yú)龍混雜,一個(gè)重要原因是,前期一體機(jī)的利潤(rùn)不容小覷。“硬件成本下探空間小,軟件長(zhǎng)期服務(wù)更盈利”這套一貫的邏輯,用在DeepSeek一體機(jī)市場(chǎng)里還不夠全面。有知情人士透露,得益于前幾年英偉達(dá)H20囤卡風(fēng)潮,此次一體機(jī)早期硬件利潤(rùn)不低,一臺(tái)滿(mǎn)血版的H20一體機(jī),整體利潤(rùn)率可達(dá)30%。

不過(guò),多位業(yè)內(nèi)人士反映,這一利潤(rùn)率已在下降。(一體機(jī)背后利潤(rùn)幾何?可添加作者微信Ericazhao23交流)

選對(duì)廠商只是第一步,此后還有一系列問(wèn)題擺在用戶(hù)面前:滿(mǎn)血版還是蒸餾版?國(guó)產(chǎn)卡還是H卡?訓(xùn)推一體機(jī)還是推理一體機(jī)?具體切入什么場(chǎng)景?

每一關(guān)都是信息博弈,且每個(gè)A和B之間的抉擇,成本也相去甚遠(yuǎn)。

2)咨詢(xún)時(shí)都要滿(mǎn)血版,落地時(shí)50%交付蒸餾版

滿(mǎn)血版,是許多用戶(hù)的第一個(gè)執(zhí)念——領(lǐng)略過(guò)DeepSeek-R1的表現(xiàn)后,大家由奢入儉難。

但滿(mǎn)血版在單臺(tái)一體機(jī)上的性能到底如何,目前存疑。用單臺(tái)八卡英偉達(dá)H20,基于推理框架優(yōu)化能讓模型順利運(yùn)行,但性能會(huì)有一定損失。還有使用國(guó)產(chǎn)芯片的廠商表示,在DeepSeek“話(huà)很多”的情況下,一個(gè)問(wèn)題的答案可能要五分鐘才能吐完。

而價(jià)格上,滿(mǎn)血版DeepSeek一體機(jī)一般在150萬(wàn)上下,內(nèi)置國(guó)產(chǎn)芯片的還會(huì)更高。DeepSeek一體機(jī)國(guó)產(chǎn)卡的配置,目前以華為昇騰、沐曦、海光較多,但由于國(guó)產(chǎn)卡的顯存資源和性能仍稍差,一般要部署至少兩臺(tái)才能把滿(mǎn)血版跑起來(lái),預(yù)算將近四百萬(wàn)。這對(duì)于規(guī)模較小或處于起步階段的企業(yè)而言,有些吃虧。

但其實(shí),并非所有人都需要滿(mǎn)血版。

優(yōu)刻得(UCloud)新興產(chǎn)業(yè)事業(yè)部首席架構(gòu)師李天朋觀察到,現(xiàn)階段許多用戶(hù)是想把DeepSeek部署用在企業(yè)內(nèi)部的智能問(wèn)答場(chǎng)景中,預(yù)算三四十萬(wàn)的32B、70B等蒸餾版模型,已能滿(mǎn)足需求,響應(yīng)速度還會(huì)更快。他統(tǒng)計(jì)后發(fā)現(xiàn),最后實(shí)際交付時(shí),滿(mǎn)血版和蒸餾版模型比例大概五五開(kāi)。

而對(duì)于什么樣的用戶(hù)需要滿(mǎn)血版,他總結(jié)道:一類(lèi)是對(duì)模型泛化能力要求高的客戶(hù),比如把DeepSeek用在對(duì)外服務(wù)上,面向大量用戶(hù);還有成本足夠、希望在本地大規(guī)模部署的客戶(hù);以及希望借助DeepSeek模型優(yōu)化內(nèi)部算法來(lái)提升性能的客戶(hù),比如用來(lái)校準(zhǔn)交易策略模型。

除此之外,大模型在業(yè)務(wù)里的“開(kāi)疆?dāng)U土”,也可以交給滿(mǎn)血版。云天勵(lì)飛副總裁羅憶說(shuō)道,開(kāi)拓一個(gè)新業(yè)務(wù)時(shí),要先讓一位“老法師”把業(yè)務(wù)跑通,才能安排能力合適的下屬在具體崗位上維系日常運(yùn)轉(zhuǎn),同理,對(duì)業(yè)務(wù)閉環(huán)有高要求的用戶(hù),可以先用滿(mǎn)血版把業(yè)務(wù)跑通,再安置不同的小尺寸模型在合適位置上。

3)訓(xùn)推一體機(jī)價(jià)格高昂,并非必要采購(gòu)

而在引入大模型時(shí),有傳統(tǒng)企業(yè)用戶(hù)希望訓(xùn)練自己的模型,于是摩拳擦掌看向訓(xùn)推一體機(jī)——其價(jià)格顯著高于推理一體機(jī)。然而,在李天朋看來(lái),這對(duì)大部分用戶(hù)來(lái)說(shuō)都不太必要。

他向雷峰網(wǎng)指出,純訓(xùn)練所占的資源至少是純推理的兩到三倍,但DeepSeek的顛覆性恰恰在于推理算力需求的大幅下降,這讓訓(xùn)推的成本懸殊更大——

DeepSeek如果想跑訓(xùn)練,對(duì)底層硬件要求非常高,需要大顯存和高容量存儲(chǔ)系統(tǒng)等計(jì)算資源;然而,由于模型本身的高度稀疏性,在后續(xù)推理中,大規(guī)模儲(chǔ)備的計(jì)算資源又會(huì)面臨浪費(fèi)。

并且,大部分用戶(hù)真實(shí)使用時(shí),訓(xùn)練周期相對(duì)推理周期非常短,早期的訓(xùn)練需求可以尋求算力廠商或云廠商租賃資源。除非是有行業(yè)知識(shí)的垂直領(lǐng)域客戶(hù)——如醫(yī)院、法律和金融行業(yè)——希望用RAG訓(xùn)練微調(diào)DeepSeek,對(duì)模型后期訓(xùn)練有更高要求,下重本選訓(xùn)推一體機(jī)會(huì)更劃算。

4)落地場(chǎng)景紛繁,業(yè)務(wù)適配、技術(shù)運(yùn)維有門(mén)檻

本次一體機(jī)的部署流程,深信服云計(jì)算BG AIC智能計(jì)算產(chǎn)品線(xiàn)總經(jīng)理郜振鋒總結(jié)到,用戶(hù)一般先小規(guī)模采購(gòu)一批設(shè)備部署私有化模型,配提示詞問(wèn)答和搭內(nèi)部知識(shí)庫(kù)系統(tǒng),AI起步后,再考慮耦合到原來(lái)業(yè)務(wù)系統(tǒng)。

目前,DeepSeek直接接入WPS、企業(yè)助手或客服問(wèn)答場(chǎng)景的頻次最高。但在行業(yè)人士看來(lái),普通企業(yè)或許沒(méi)有必要花這么大成本去“維護(hù)”這些數(shù)據(jù),加密存儲(chǔ)和云服務(wù)的安全措施已能滿(mǎn)足需求。

而真正對(duì)一體機(jī)采購(gòu)有剛需的,首當(dāng)其沖是軍工院所。其次是高端制造業(yè),比如蘋(píng)果、華為的供應(yīng)鏈,應(yīng)用于生產(chǎn)流程優(yōu)化、高精度的缺陷檢測(cè)等——去到這類(lèi)場(chǎng)所拜訪(fǎng)時(shí),手機(jī)和電腦的攝像頭都得貼起來(lái),離開(kāi)時(shí)若發(fā)現(xiàn)貼的紙張有撕過(guò)的痕跡,設(shè)備就會(huì)被沒(méi)收,其對(duì)安全性的高需求可見(jiàn)一斑。

政府也是此次部署的重要參與者,部分還會(huì)通過(guò)發(fā)函的形式先行先試。這波AI探索中,各部門(mén)幾乎都站上了起跑線(xiàn)。有廠商與政府合作的項(xiàng)目正在被趕著交付,因?yàn)椤皟?nèi)部業(yè)務(wù)都催著要用”。

目前在政府側(cè),智算一體機(jī)的主要用途之一是公文生成和政務(wù)服務(wù),如政務(wù)審批、咨詢(xún)場(chǎng)景。例如,深圳福田就已在DeepSeek政務(wù)大模型基礎(chǔ)上,上線(xiàn)70名“數(shù)智員工”,縮短公文審核時(shí)間90%。而此前在信息領(lǐng)域已有積累的數(shù)據(jù)局和公安部門(mén),需求相對(duì)更明確“激進(jìn)”——例如,公安部門(mén)的DeepSeek部署已能應(yīng)用在預(yù)警、接警等環(huán)節(jié)中,幫助完成警情分類(lèi),或風(fēng)險(xiǎn)防控、偵查打擊等。

金融、醫(yī)療等行業(yè)也是更明確自己一體機(jī)需求的用戶(hù),有客戶(hù)會(huì)一次性提十臺(tái)八卡一體機(jī)。

金融在信息化領(lǐng)域一直走在前列、也有較多預(yù)算支持,在此次部署中占據(jù)很大比例。目前,金融接入大模型,更多用于對(duì)內(nèi)管理提效;在涉及財(cái)務(wù)分析等數(shù)值計(jì)算場(chǎng)景,很多用戶(hù)還不敢直接使用DeepSeek模型。火山引擎在交付時(shí)還發(fā)現(xiàn),許多金融客戶(hù)還會(huì)關(guān)注在智能體的應(yīng)用開(kāi)發(fā)上。

騰訊TCE產(chǎn)品專(zhuān)家叢磊也指出,銀行等金融機(jī)構(gòu)本身已有千卡規(guī)模算力,DeepSeek對(duì)算力的需求變小,這一技術(shù)迭代給銀行帶來(lái)的挑戰(zhàn)是,怎么用原來(lái)跑訓(xùn)練集群的算力,創(chuàng)造更多好的推理場(chǎng)景。

而醫(yī)療上,一體機(jī)能輔助導(dǎo)診、對(duì)接藥物數(shù)據(jù)庫(kù)、實(shí)現(xiàn)細(xì)粒度的專(zhuān)科診斷,或幫忙自動(dòng)總結(jié)病歷等。

至于能源、電力等領(lǐng)域,主要落地場(chǎng)景是用戶(hù)的生產(chǎn)和安全管理。比如安全監(jiān)控系統(tǒng),以前單靠算法逐個(gè)預(yù)警,產(chǎn)生報(bào)警后又需相關(guān)人員逐個(gè)確認(rèn)排查;但現(xiàn)在,大模型能進(jìn)行全流程編排,自動(dòng)生成作業(yè)報(bào)表,呈現(xiàn)所有環(huán)節(jié)的情況。并且,DeepSeek接入工控和質(zhì)檢系統(tǒng)時(shí)基本時(shí)延要求都在50ms以下,調(diào)取API的方式很難滿(mǎn)足。

整體來(lái)說(shuō),對(duì)性能需求不高,但對(duì)數(shù)據(jù)安全或訪(fǎng)問(wèn)延遲敏感的場(chǎng)景用戶(hù),更適合一體機(jī)。此外,不以業(yè)務(wù)閉環(huán)為目標(biāo)、更注重科研和技術(shù)探索的場(chǎng)景,如科研院校、創(chuàng)業(yè)公司和開(kāi)發(fā)者,也是一體機(jī)的目標(biāo)客群。

場(chǎng)景適配后,要真正駕馭一體機(jī),還有一道不容忽視的門(mén)檻:技術(shù)資源。

此次部署熱潮中,羅憶就發(fā)現(xiàn),一大半咨詢(xún)的用戶(hù)在過(guò)去兩年里,對(duì)大模型的運(yùn)用仍停留在觀望狀態(tài)。

這導(dǎo)致一體機(jī)落地時(shí)可能水土不服:部署一體機(jī)確實(shí)是“小時(shí)級(jí)”工程,畢竟點(diǎn)亮服務(wù)器的動(dòng)作,半天、甚至半小時(shí)就能完成。但在這之后,要跟企業(yè)自身OA系統(tǒng)對(duì)接,還要后續(xù)運(yùn)維,尤其接入具體業(yè)務(wù)時(shí),DeepSeek工程化能力越好、專(zhuān)家模型就越多,就更需要通過(guò)調(diào)優(yōu)找到性?xún)r(jià)比最高的方式。很多企業(yè)一通咨詢(xún)后,發(fā)現(xiàn)自己根本沒(méi)有技術(shù)能力去維護(hù),遂作罷。(一體機(jī)真實(shí)落地體驗(yàn)如何?歡迎添加作者微信Ericazhao23探討分享經(jīng)驗(yàn))

接入大模型并非一朝一夕,當(dāng)廠家沒(méi)能掌握用戶(hù)具體的業(yè)務(wù)邏輯,當(dāng)用戶(hù)本身的數(shù)據(jù)治理和業(yè)務(wù)梳理不夠準(zhǔn)確,DeepSeek一體機(jī)和業(yè)務(wù)的結(jié)合就會(huì)出現(xiàn)鴻溝??梢韵胂笠惑w機(jī)是個(gè)新來(lái)的實(shí)習(xí)生,企業(yè)本身如果沒(méi)有成體系的業(yè)務(wù)梳理,實(shí)習(xí)生又如何盡快上手?

也因此,在羅憶眼中,過(guò)去兩年在大模型結(jié)合應(yīng)用落地上已有探索的客戶(hù),可以稱(chēng)得上是“好客戶(hù)”:除了前期的數(shù)據(jù)治理等工作,他們可能已為系統(tǒng)上線(xiàn)建立測(cè)試集;更徹底些,有的用戶(hù)這次只是把之前部署的大模型,切換成DeepSeek。


廠商生存之道:爆發(fā)初期,尋求行業(yè)的差異化

一個(gè)多月爆發(fā)六十多家廠商的一體機(jī)賽道里,各家如何殺出重圍?

一個(gè)大方向是,廠商們都重視提供軟硬一體的解決方案,幫助客戶(hù)落地到具體場(chǎng)景。例如火山引擎提供其機(jī)器學(xué)習(xí)平臺(tái)給用戶(hù)進(jìn)行模型開(kāi)發(fā),也集成其應(yīng)用構(gòu)建產(chǎn)品,推動(dòng)落地;神州數(shù)碼旗下神州鯤泰在提供匹配不同客戶(hù)需求的“全家桶式”一體機(jī)解決方案時(shí),也結(jié)合企業(yè)自研的AI原生賦能平臺(tái),為用戶(hù)從PaaS層提供模型選型、多種模型軟件適配和調(diào)優(yōu)等能力。

但具體到軟硬件基因,不同類(lèi)型廠商已天然有各自的優(yōu)勢(shì)。

云廠商做一體機(jī),除了軟件調(diào)優(yōu)、模型管理等方面是強(qiáng)項(xiàng),還能給用戶(hù)的DeepSeek適配提供“一條龍”服務(wù)。羅憶便建議道,用戶(hù)部署一體機(jī)前,先租用云廠商的算力資源測(cè)試,驗(yàn)證模型能接入業(yè)務(wù)閉環(huán),再選擇合適的部署方式。

但云廠商的硬件并非自有,對(duì)此,UCloud的做法,便是由專(zhuān)門(mén)的硬件團(tuán)隊(duì)與多家硬件供應(yīng)商對(duì)接,再和模型算法開(kāi)發(fā)團(tuán)隊(duì)探索硬件解決方案。供應(yīng)商按交付需求提供個(gè)性化硬件后,UCloud再預(yù)裝推理引擎、算力調(diào)度等功能。

反觀硬件服務(wù)器廠商,在軟件調(diào)優(yōu)能力上可能不占優(yōu),但勝在硬件建設(shè)成本和國(guó)產(chǎn)化適配。并且,其早期在售賣(mài)信息中心服務(wù)器時(shí)積累下的用戶(hù),在客群和硬件基因上之契合,使他們更可能一脈相承成為后續(xù)買(mǎi)家。

一些ERP廠商如用友、漢得信息等,在此次部署中,也能因其早期客情積累而吃香。

不過(guò),許多從業(yè)者坦言,廠商雖出身不同,但目前一體機(jī)的技術(shù)差異并不大。

理論上,各家核心競(jìng)爭(zhēng)力應(yīng)是推理大模型的效率指標(biāo)和性?xún)r(jià)比,例如每用戶(hù)的首次響應(yīng)時(shí)間、能跑多少并發(fā)、每個(gè)并發(fā)能處理的最大上下文是多少等。

但在一體機(jī)爆發(fā)初期,市場(chǎng)具體性能指標(biāo)并不透明,真實(shí)數(shù)字也不太好看:據(jù)悉,目前首次在本地加載DeepSeek滿(mǎn)血版可能要四五十分鐘,而DeepSeek-R1在線(xiàn)服務(wù)每個(gè)并發(fā)能處理的最大上下文可以達(dá)到128K,但線(xiàn)下私有化部署,量化版本基本只能達(dá)到16K。

新產(chǎn)品調(diào)優(yōu)需寬容更多時(shí)間,目前談技術(shù)指標(biāo)為時(shí)尚早,廠商們著力尋找差異化的方向,一個(gè)是誰(shuí)更“輕”。

市面上尤其大廠的產(chǎn)品,大多主打“全棧”。有行業(yè)人士透露,有的大廠一體機(jī)產(chǎn)品或需至少三臺(tái)服務(wù)器來(lái)管理。也因此,誰(shuí)更輕量化,給用戶(hù)帶來(lái)的成本負(fù)擔(dān)就更小。浪潮云海起初推出的也是三四臺(tái)部署方案,但觀察到許多用戶(hù)會(huì)先選擇落地一臺(tái),“想節(jié)約資源,避免犯錯(cuò)”。百度智能云便提出,在私有化部署層面搭載昆侖芯P800的百舸、千帆、一見(jiàn)的一體機(jī)產(chǎn)品,可支持單機(jī)環(huán)境下一鍵部署DeepSeek R1/V3全系列模型。

而對(duì)于中小廠商,目前各家廠商抓住的差異化,主要是在細(xì)分領(lǐng)域的行業(yè)認(rèn)知。

例如,通用一體機(jī)之外,云從科技還會(huì)融合自己在公安、政務(wù)領(lǐng)域的行業(yè)積累,以“一體機(jī)+Agent”的形式交付巡檢一體機(jī)、智能制造一體機(jī)。

這是中小廠商的游擊戰(zhàn)策略:通用一體機(jī)領(lǐng)域,定制要求低,客戶(hù)觸達(dá)量高,硬件配置又高度同質(zhì)化,多重buff疊加,價(jià)格戰(zhàn)幾乎是無(wú)可避免;而研發(fā)一體機(jī)在垂域行業(yè)里的應(yīng)用,讓一體機(jī)搭載更多行業(yè)智能體,議價(jià)能力也會(huì)更強(qiáng),未來(lái)甚至可能比通用的價(jià)格貴上幾倍

有的廠商也會(huì)通過(guò)和生態(tài)伙伴合作,拓寬其在具體行業(yè)內(nèi)的深入探索。大華股份智能產(chǎn)品負(fù)責(zé)人任成介紹道,公司深耕智慧物聯(lián)領(lǐng)域,在推出Deepseek一體機(jī)后,收到來(lái)自全行業(yè)的廣泛咨詢(xún),于是以“大華+伙伴”的形式將Deepseek與場(chǎng)景化行業(yè)業(yè)務(wù)結(jié)合:由大華提供算力資源+大模型能力底座,協(xié)同生態(tài)伙伴的Know-how專(zhuān)家服務(wù)和業(yè)務(wù)應(yīng)用,打造專(zhuān)業(yè)場(chǎng)景下的大模型整體方案。深信服也和ISV深度合作,以其AICP算力平臺(tái)作為承載,由廠商加上應(yīng)用組件,形成整體交互方案。

完整的“AI物流業(yè)”,就此形成。(一體機(jī)生意對(duì)上下游還有何影響?歡迎添加作者微信Ericazhao23交流)

不過(guò),多位從業(yè)者也指出,隨著用戶(hù)側(cè)一體機(jī)部署規(guī)模增大,單機(jī)運(yùn)維成本上升,用私有云統(tǒng)一運(yùn)維是性?xún)r(jià)比更高的方式。許多一體機(jī)廠商也已在為此布局。

浪潮云海DeepSeek超融合一體機(jī)便搭載云智能體管理平臺(tái),定義AI應(yīng)用智能體要素,讓用戶(hù)像運(yùn)維虛擬機(jī)一樣管理AI應(yīng)用,幫助用戶(hù)實(shí)現(xiàn)知識(shí)庫(kù)高效構(gòu)建,滿(mǎn)足傳統(tǒng)應(yīng)用+智能體混合運(yùn)維需求。

深信服團(tuán)隊(duì)雖然也早早完成對(duì)DeepSeek的適配,但為了讓用戶(hù)能利用原有超融合產(chǎn)品快速上線(xiàn),他們主推的DeepSeek解決方案是:讓用戶(hù)在原有超融合上擴(kuò)展一臺(tái)GPU升級(jí)為智算平臺(tái),或通過(guò)深信服的托管云快速申請(qǐng)線(xiàn)上資源和服務(wù),或用AI創(chuàng)新平臺(tái)把DeepSeek結(jié)合進(jìn)自己業(yè)務(wù)中。

放眼望去,和云密不可分。

另外幾家云大廠的Deepseek一體機(jī)也都在云產(chǎn)品線(xiàn)里,例如火山引擎的DeepSeek一體機(jī)由其內(nèi)部混合云產(chǎn)品孵化,百度的解決方案則來(lái)源于百度智能云,還有阿里云、京東云等。

騰訊則沒(méi)有推出一體機(jī)的硬件部署方案,仍以其專(zhuān)有云TCE和分布式云CDC的方式為客戶(hù)提供本地部署服務(wù)。騰訊分布式云專(zhuān)家賈卷向雷峰網(wǎng)表示,市面常見(jiàn)的DeepSeek一體機(jī)形態(tài)與云的原生架構(gòu)不一致,相比一體機(jī)形式,基于云架構(gòu)的方案能覆蓋更多客戶(hù)場(chǎng)景,“DeepSeek出圈的速度非???,很多業(yè)務(wù)團(tuán)隊(duì)考慮的是怎么盡快跑起來(lái),但當(dāng)業(yè)務(wù)擴(kuò)大、需求豐富時(shí),方案是否還能承載就未知了。”云服務(wù)能提供豐富的IaaS和PaaS形式的AI服務(wù),更方便用戶(hù)業(yè)務(wù)從單臺(tái)、單機(jī)柜方案過(guò)渡到大集群的正式業(yè)務(wù)。

“一體機(jī)+云”的布局,在部分市場(chǎng)分析師眼中,也是更可持續(xù)增長(zhǎng)的邏輯——云能提供靈活的計(jì)算資源分配,未來(lái)更可能成為Agent的載體。


一體機(jī)需求背后,市場(chǎng)的重資產(chǎn)基因

這波一體機(jī)的市場(chǎng)狂歡,也部分得益于此前市場(chǎng)給用戶(hù)進(jìn)行過(guò)的“預(yù)期管理”。

2023、24年,智算一體機(jī)也曾風(fēng)靡市場(chǎng),但彼時(shí)沒(méi)有足夠全民性的大模型,各家廠商的一體機(jī)價(jià)格昂貴,單臺(tái)一體機(jī)動(dòng)輒四五百萬(wàn),且往往需要多臺(tái)部署才能把大模型跑起來(lái)。成本之高,讓企業(yè)望而卻步。

相比之下,DeepSeek一體機(jī)的價(jià)格就顯親民,瞬間點(diǎn)燃市場(chǎng)熱情。

不過(guò)市場(chǎng)是否有足夠購(gòu)買(mǎi)力,一個(gè)關(guān)鍵因素是,下游客戶(hù)們的IT預(yù)算有無(wú)增長(zhǎng)。大多數(shù)企業(yè)的IT預(yù)算在一體機(jī)市場(chǎng)爆發(fā)前已經(jīng)規(guī)劃好,ROI(投資回報(bào)率)尚不清楚的情況下,預(yù)算投入不會(huì)貿(mào)然增加。羅憶就發(fā)現(xiàn),許多用戶(hù)這次購(gòu)置一體機(jī)的資金,其實(shí)是年前計(jì)劃購(gòu)買(mǎi)閉源大模型的資金。

整體上,政企客戶(hù)的支付能力并沒(méi)有變強(qiáng),這也導(dǎo)致了,很多用戶(hù)都想先拿樣機(jī)去用,一體機(jī)在短時(shí)間內(nèi)的回款可能卡殼。(一體機(jī)是不是賺錢(qián)的生意?歡迎添加作者微信Ericazhao23討論)

而隨著一體機(jī)落地增多,其局限也逐漸展露。

首先,DeepSeek一體機(jī)孤軍作戰(zhàn)成果有限。除了要結(jié)合數(shù)據(jù)庫(kù)等PaaS層產(chǎn)品,真正切入核心業(yè)務(wù)時(shí),往往需結(jié)合領(lǐng)域?qū)I(yè)模型使用。不同業(yè)務(wù)領(lǐng)域?qū)I(yè)模型各異,這就決定了客戶(hù)未來(lái)的需求是多模共存。

但,目前市面上的大部分一體機(jī),若想同時(shí)運(yùn)行多個(gè)模型,可能存在性能問(wèn)題。

而對(duì)于已有大模型的用戶(hù)來(lái)說(shuō),是否需要切換DeepSeek也因場(chǎng)景而異。郜振鋒提到,根據(jù)深信服自身以及與客戶(hù)、行業(yè)ISV交流的經(jīng)驗(yàn)總結(jié),在需要大模型實(shí)現(xiàn)一定推理任務(wù)的場(chǎng)景里,切換到DeepSeek大參數(shù)模型后的效果優(yōu)勝;但在一些相對(duì)通用的場(chǎng)景,如醫(yī)療導(dǎo)診,僅是根據(jù)用戶(hù)癥狀指引科室等工作,使用其他小參數(shù)量大模型,也能有不錯(cuò)效果。

其次,模型的迭代更新對(duì)硬件也是個(gè)挑戰(zhàn)。

上層大模型持續(xù)更新時(shí),有穩(wěn)定后續(xù)服務(wù)的廠商,能幫企業(yè)在一體機(jī)上迭代。但從硬件現(xiàn)實(shí)上看,隨著大模型發(fā)展,可能導(dǎo)致原有一體機(jī)算力資源不足。大華股份此次為客戶(hù)交付DeepSeek大模型產(chǎn)品時(shí),就發(fā)現(xiàn)許多中小型用戶(hù)如果想跑滿(mǎn)血版671B,都需要對(duì)現(xiàn)有機(jī)房中硬件進(jìn)行大量升級(jí)改造。

而規(guī)模的擴(kuò)展上,硬件部署也容易成其硬傷。

一臺(tái)智算一體機(jī)一般被視為一個(gè)節(jié)點(diǎn),然而,私有化部署進(jìn)行高負(fù)載任務(wù)時(shí),很難單節(jié)點(diǎn)作戰(zhàn)。根據(jù)DeepSeek發(fā)表的論文,其推理系統(tǒng)采用跨節(jié)點(diǎn)的專(zhuān)家并行策略來(lái)實(shí)現(xiàn)高吞吐和低延遲,在大規(guī)模推理任務(wù)中,需要多個(gè)節(jié)點(diǎn)集群來(lái)優(yōu)化性能。但AI一體機(jī)的架構(gòu),也容易局限其節(jié)點(diǎn)的擴(kuò)展。

李天朋也表示,一體機(jī)并非最適合跑DeepSeek的載體。由于MoE模型的特性,一臺(tái)顯存足夠大的一體機(jī)裝上671B,每次每個(gè)token激活的計(jì)算只有37B,稀疏度很高,存在大量資源閑置。

由此,單純堆砌一體機(jī),帶來(lái)的性能增長(zhǎng)或許難成正比。對(duì)性能要求非常高的用戶(hù),或許需要自建計(jì)算集群。

云從科技的董秘楊樺觀察到,很多部署了一體機(jī)的用戶(hù)感受就是降本增效了,“但如果說(shuō)立馬到了一個(gè)美好的人工智能時(shí)代,那好像也沒(méi)有”。但濾鏡破碎后,真正的普及教育才剛剛開(kāi)始。

而放眼整個(gè)市場(chǎng),一體機(jī)也為部分“舊疾”帶來(lái)新藥方。

對(duì)ToB軟件交付廠商而言,此前國(guó)內(nèi)市場(chǎng)存在嚴(yán)重的項(xiàng)目定制化傾向,用戶(hù)需求千差萬(wàn)別,企業(yè)一不小心就會(huì)成為客戶(hù)的“外包”,導(dǎo)致所做項(xiàng)目難以推廣、毛利不夠。而一體機(jī)形態(tài)的出現(xiàn),讓一些在軟件方面有行業(yè)積淀的解決方案廠商,有了“軟硬一體”、能復(fù)制推廣的通用產(chǎn)品邏輯。

楊樺還發(fā)現(xiàn),這種載體還讓其部分需要硬件“安全感”的用戶(hù)感到滿(mǎn)足。這也符合市場(chǎng)國(guó)情:中國(guó)市場(chǎng)向來(lái)重視重資產(chǎn)的投入——其作為企業(yè)的長(zhǎng)期資產(chǎn),本身具有一定賬面價(jià)值,在經(jīng)濟(jì)下行時(shí)可以作為緩沖,也有助于提升企業(yè)市值,屬于更長(zhǎng)期主義的產(chǎn)品邏輯,在心理上能成為托底。

另一方面,這也讓國(guó)產(chǎn)智算算力相關(guān)廠商,燃起信心。

此前,行業(yè)的核心痛點(diǎn)是跑?chē)?guó)產(chǎn)卡。國(guó)產(chǎn)芯片受制于先進(jìn)制程,單顆芯片的算力難以與英偉達(dá)等高端GPU相比,但通過(guò)C2C或D2D技術(shù),這些小芯片能高速互聯(lián),形成類(lèi)似大芯片的計(jì)算能力。盡管,國(guó)產(chǎn)算力和DeepSeek的適配上,還沒(méi)能有效把算力和帶寬的資源用足,但DeepSeek在推理階段的算力需求較低,至少已指明這類(lèi)分布式芯片有承接大模型推理的能力。

此外,DeepSeek推理模型改變了對(duì)高額投入和高端算力的依賴(lài),開(kāi)源模型也讓中小云廠有了幫客戶(hù)部署大模型的新生意,這讓在大云廠商縫隙中艱難生存的中小云廠,也有機(jī)會(huì)進(jìn)入這個(gè)市場(chǎng)。盡管,毫無(wú)疑問(wèn),他們依然需要打游擊戰(zhàn)。

而在客戶(hù)側(cè),借著這波一體機(jī)風(fēng)潮,在Agent元年的開(kāi)端,私有化部署的硬件設(shè)施得以加速走入用戶(hù)側(cè)。

在浪潮云海產(chǎn)品部總經(jīng)理龐慷宇看來(lái),一體機(jī)未來(lái)將會(huì)作為AI集群存在,用戶(hù)再?gòu)乃接性粕险{(diào)取PaaS和IaaS資源,以“大模型+智能體的方式”接入業(yè)務(wù)流。

可見(jiàn),一體機(jī)更長(zhǎng)遠(yuǎn)的未來(lái),是Agent這片星辰大海。楊樺也相信,未來(lái),軟件市場(chǎng)會(huì)基于“開(kāi)源DeepSeek+閉源模型”重塑,把應(yīng)用都升級(jí)為Agent。

而這也是二級(jí)市場(chǎng)希望看到的:Agent在應(yīng)用形態(tài)和場(chǎng)景上的更新。有分析師指出,因?yàn)锳gent極大可能誕生于國(guó)內(nèi)大廠,因此,部分和大廠綁定的上市公司值得觀望。此外,ERP公司的產(chǎn)品業(yè)務(wù)流程足夠復(fù)雜,能涉及供應(yīng)鏈管理、財(cái)務(wù)等,垂域行業(yè)Agent也更可能在這里發(fā)生。

AI Agent汽笛聲遠(yuǎn)遠(yuǎn)傳來(lái),廠商狂奔而去。在此之前,一體機(jī)正在打下地基。

作者持續(xù)關(guān)注DeepSeek一體機(jī)市場(chǎng)需求、落地體驗(yàn)等情況,以及云計(jì)算及上下游相關(guān),更多信息可添加作者微信Ericazhao23交流。


雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。

分享:
相關(guān)文章
最新文章
請(qǐng)?zhí)顚?xiě)申請(qǐng)人資料
姓名
電話(huà)
郵箱
微信號(hào)
作品鏈接
個(gè)人簡(jiǎn)介
為了您的賬戶(hù)安全,請(qǐng)驗(yàn)證郵箱
您的郵箱還未驗(yàn)證,完成可獲20積分喲!
請(qǐng)驗(yàn)證您的郵箱
立即驗(yàn)證
完善賬號(hào)信息
您的賬號(hào)已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
立即設(shè)置 以后再說(shuō)