去年的中國(guó)閃存峰會(huì)CFMS 2023，與會(huì)者都關(guān)注存儲(chǔ)行業(yè)何時(shí)能觸底反彈。

“存儲(chǔ)市場(chǎng)規(guī)模經(jīng)歷了兩年的下滑后，2024年開始重新回到正軌?！?/strong>深圳市閃存市場(chǎng)資訊有限公司總經(jīng)理邰煒在MemoryS（CMFS的新品牌名）上表示，“我們預(yù)計(jì)今年市場(chǎng)規(guī)模相比去年將提升至少42%?！?/p>

存儲(chǔ)是一個(gè)周期性行業(yè)，從2019年到2023年，存儲(chǔ)行業(yè)經(jīng)歷了供過于求-疫情-缺貨-庫(kù)存-超跌，最后以原廠主動(dòng)減產(chǎn)結(jié)束。

邰煒說，“展望2024-2026年，我們認(rèn)為新技術(shù)和AI應(yīng)用將激發(fā)存儲(chǔ)的潛能，走出傳統(tǒng)的價(jià)格周期，進(jìn)入新周期，這也是我們今年峰會(huì)的主題，‘存儲(chǔ)周期 激發(fā)潛能’。”

生成式AI是今年MemoryS最熱門的話題，從云端到邊緣再到終端，生成式AI對(duì)計(jì)算提出了新的要求的同時(shí)，也對(duì)存儲(chǔ)提出了新的要求。

兼顧更大容量、更高帶寬、更低延遲的同時(shí)，如何實(shí)現(xiàn)低功耗？

什么樣的存儲(chǔ)解決方案才能加速生成式AI的落地？

存儲(chǔ)市場(chǎng)觸底反彈

存儲(chǔ)市場(chǎng)在去年底就迎來了全面反彈。從市場(chǎng)現(xiàn)貨價(jià)格看，2023年第三季度原廠強(qiáng)勢(shì)減產(chǎn)并強(qiáng)勢(shì)拉漲價(jià)格。2023年第一季度，存儲(chǔ)價(jià)格再次大漲。

邰煒預(yù)測(cè)，“今年后續(xù)三個(gè)季度的價(jià)格將保持平穩(wěn)向上的趨勢(shì)。但過高過快漲的漲幅將嚴(yán)重影響終端產(chǎn)品線的規(guī)劃、打擊容量擴(kuò)充的積極性，也不利于產(chǎn)業(yè)整體健康穩(wěn)定的發(fā)展?！?/p>

從原廠利潤(rùn)率的維度看，2023年第一季度觸底后，2024年第四季度有非常可觀的改善，個(gè)別公司已經(jīng)開始恢復(fù)盈利。

邰煒預(yù)計(jì)2024年第一季度大部分公司的利潤(rùn)率都會(huì)有效扭轉(zhuǎn)。

再看具體產(chǎn)品，預(yù)計(jì)2024年，NAND FLASH將超過8000億GB單量，相比去年增長(zhǎng)20%，DRAM將達(dá)到2370億GB單量，預(yù)計(jì)增長(zhǎng)達(dá)15%。

市場(chǎng)規(guī)模增長(zhǎng)的同時(shí)，存儲(chǔ)技術(shù)也在向前演進(jìn)。

NAND FLASH，各大原廠都繼續(xù)推出更高堆疊的產(chǎn)品，去年已經(jīng)推出了200層以上的產(chǎn)品，今年朝著300層堆疊推進(jìn)，這將帶來更高的閃存容量。

“架構(gòu)上看，鍵合技術(shù)逐步進(jìn)入主流，這種架構(gòu)產(chǎn)品隨著堆疊層數(shù)的提升，將更具成本優(yōu)勢(shì)。并且這種架構(gòu)可以將更多特性使用到NAND FLASH，這也是存儲(chǔ)激發(fā)潛能的一種方式?！臂樛瑫r(shí)指出，隨著更多產(chǎn)品對(duì)容量的要求越來越高，QLC的應(yīng)用將加速，除了傳統(tǒng)SSD產(chǎn)品，其它應(yīng)用領(lǐng)域也將開始全面擴(kuò)展。

DRAM方面，將全面進(jìn)入EUV時(shí)代，下一代產(chǎn)品也將在最近1-2年內(nèi)出現(xiàn)。

從產(chǎn)品和應(yīng)用看，手機(jī)、PC和服務(wù)器依舊是存儲(chǔ)最大的三個(gè)市場(chǎng)，汽車市場(chǎng)在快速增長(zhǎng)。

在生成式AI的推動(dòng)下，2023年AI服務(wù)器增長(zhǎng)迅猛，帶動(dòng)了HBM、DDR5的需求。

“2024年，服務(wù)器市場(chǎng)是DDR5正式邁過50%的一年，今年下半年5600速率會(huì)進(jìn)入主流，同時(shí)高容量模組128GB/256GB進(jìn)入服務(wù)器主流市場(chǎng)的障礙掃清。”邰煒說，“CXL進(jìn)入實(shí)用階段，正式開始專利池的新時(shí)代，加上HBM3e進(jìn)入量產(chǎn)，今年服務(wù)器內(nèi)存的升級(jí)將非常的激進(jìn)。”

根據(jù)原廠的規(guī)劃，2024年HBM3e將正式量產(chǎn)。

AI服務(wù)器除了帶動(dòng)高容量HBM需求，對(duì)DDR5的容量需求是普通服務(wù)器的2-4倍。這將使得未來5年AI服務(wù)器將驅(qū)動(dòng)DRAM需求大增。

服務(wù)器的SSD的需求也將在AI的帶動(dòng)下快速增長(zhǎng)，2024年服務(wù)器PCIe5.0 SSD的滲透率將較2023年翻倍成長(zhǎng)，容量將達(dá)到8TB/16TB及以上。

在手機(jī)市場(chǎng)，UFS的市場(chǎng)占有率進(jìn)一步提升，更高性能的UFS4.0增長(zhǎng)更為明顯。同時(shí)，高端機(jī)型的存儲(chǔ)容量基本進(jìn)入了512GB以及TB時(shí)代。

“今年手機(jī)平均容量將超過200GB，內(nèi)存也朝更高性能的LPDDR5演進(jìn)，預(yù)計(jì)今年手機(jī)DRAM平均容量將超過7GB?！臂樦赋觥?/p>

AI手機(jī)也將成為手機(jī)的新熱點(diǎn)，16G的 DRAM將是AI手機(jī)的最低配置，將有力的推動(dòng)手機(jī)存儲(chǔ)的再次升級(jí)。

與AI手機(jī)對(duì)存儲(chǔ)的帶動(dòng)一樣，AI PC預(yù)計(jì)將在2024年爆發(fā)?？梢灾С直镜卦扐I模型的AI PC，需要更快的數(shù)據(jù)傳輸速度、更大的存儲(chǔ)容量和帶寬。

企業(yè)級(jí)存儲(chǔ)如何滿足生成式AI的需求？

大普微電子研發(fā)副總裁陳祥在MemoryS上表示，未來10年，生成式的數(shù)據(jù)與人類創(chuàng)造的數(shù)據(jù)大概是1：3的關(guān)系。這給存儲(chǔ)行業(yè)帶來了一些機(jī)會(huì)，也帶來一些挑戰(zhàn)。

大普微電子研發(fā)副總裁陳祥

能耗是一個(gè)顯著的挑戰(zhàn)，因?yàn)樵谀茉从邢薜漠?dāng)下，更多的能源會(huì)優(yōu)先給CPU或者GPU，存儲(chǔ)需要持續(xù)提高能效比。

“為了綠色環(huán)保，許多公司都要求PUE貼近1.0，無(wú)論是從產(chǎn)品層面提高能效比還是和服務(wù)器廠商優(yōu)化液冷方案等，我們都在積極布局?！标愊閷?duì)雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))表示。

面對(duì)能耗挑戰(zhàn)的同時(shí)，生成式AI對(duì)大容量SSD的需求給企業(yè)級(jí)SSD提供商帶來了機(jī)會(huì)。

AI訓(xùn)練過程，包括AI訓(xùn)練過程，包括訓(xùn)練，推理，預(yù)測(cè)、檢查點(diǎn)（Checkpoint）等，生成式AI模型的參數(shù)動(dòng)輒幾百G，這對(duì)SSD盤片提出的要求是大容量、連續(xù)穩(wěn)定讀寫，以及低時(shí)延、高帶寬。

目前做大容量盤的廠商還不多，國(guó)內(nèi)主流是4T、8T、16T，32T甚至64T的還比較少。

“做大容量盤面臨很多挑戰(zhàn)，要把多顆存儲(chǔ)芯片封裝在一起，對(duì)封裝技術(shù)的要求更高。并且，更大的容量也需要新的映射算法和開發(fā)新的固件?！标愊檫M(jìn)一步表示，“更大的盤片對(duì)功耗的控制也更難，這給硬件設(shè)計(jì)帶來了挑戰(zhàn)。”

SSD的單盤容量更大之后，如果單盤出現(xiàn)問題，影響的數(shù)據(jù)就更多，穩(wěn)定性面臨下降的挑戰(zhàn)，這對(duì)于數(shù)據(jù)中心等應(yīng)用場(chǎng)景不太友好。

大容量的存儲(chǔ)需要對(duì)應(yīng)更大帶寬，更高傳輸速度，特別是AI計(jì)算數(shù)據(jù)的搬運(yùn)需要消耗更多能量，需要更高速率的傳輸。

過去幾年，生成式AI對(duì)超高帶寬和超高性能的需求，推動(dòng)了PCIe的標(biāo)準(zhǔn)迅速?gòu)?.0演進(jìn)到5.0以及6.0，最新的規(guī)范已經(jīng)到了PCIe7.0。

“國(guó)內(nèi)2024年會(huì)開始慢慢導(dǎo)入PCIe5.0，2025年開始上量，2026年提升占比。”陳祥說，“PCIe 5.0的SSD會(huì)首先應(yīng)用到對(duì)帶寬要求更高的AI服務(wù)器?！?/strong>

這其中同樣面臨功耗挑戰(zhàn)。三星電子執(zhí)行副總裁兼解決方案產(chǎn)品工程師團(tuán)隊(duì)負(fù)責(zé)人吳和錫指出，“三星正在向PCIe 5.0轉(zhuǎn)型，基于過往的經(jīng)驗(yàn)，我們認(rèn)為管理兩個(gè)風(fēng)險(xiǎn)很重要。一個(gè)是信號(hào)完整性的保證，同時(shí)控制性能增加而產(chǎn)生額外的熱。”

“整體來說，SSD單盤的大容量能夠帶來TCO的整體收益，但也帶來了技術(shù)挑戰(zhàn)，需要我們與客戶共同配合解決?！标愊檎f，“我們提供一站式解決方案的團(tuán)隊(duì)，從主控芯片到固件、到量產(chǎn)、硬件交付包括品牌。從成立到現(xiàn)在我們交付了從PCIe3.0、PCIe4.0到PCIe5.0的產(chǎn)品。各種顆粒，包括SLC、QLC等，我們都有對(duì)應(yīng)的產(chǎn)品?！?nbsp;

加速生成式AI在端側(cè)普及，存儲(chǔ)要做什么？ 

端側(cè)AI與云端AI一樣，都需要有更大容量，更高速度的存儲(chǔ)。三星目前正在開發(fā)一款UFS4.0的產(chǎn)品，將通道數(shù)量從2個(gè)增加到4個(gè)。

“我們預(yù)計(jì)在今年夏天交付第一個(gè)5通道UFS4.0樣品，并計(jì)劃在2025年大規(guī)模生產(chǎn)?！?/strong>吳和錫說，“我們還積極參與有關(guān)UFS 5.0標(biāo)準(zhǔn)的討論?！?/p>

速度之外，功耗也是端側(cè)AI要普及需要解決的問題。

像是醫(yī)療設(shè)備、機(jī)械臂等，必須符合當(dāng)時(shí)場(chǎng)景的算力和散熱要求。

宜鼎國(guó)際中國(guó)區(qū)總經(jīng)理游禮印說，我們不是直接給客戶提供散熱解決方案，而是基于我們的經(jīng)驗(yàn)和能力，協(xié)助客戶把整個(gè)系統(tǒng)和環(huán)境的因素考量到位，幫助客戶解決散熱問題。

宜鼎國(guó)際中國(guó)區(qū)總經(jīng)理游禮?。ㄗ螅┮硕?guó)際工控DRAM事業(yè)處總經(jīng)理張偉民（右）

除了解決技術(shù)挑戰(zhàn)，在端側(cè)落地AI還需要做什么？

“我們了解行業(yè)語(yǔ)言，前期可以和客戶做比較深入的交流。同時(shí)，無(wú)論是我們的DRAM還是FLASH產(chǎn)品品質(zhì)都可以贏得客戶的信賴。并且，我們還提供定制化服務(wù)?！庇味Y印對(duì)雷峰網(wǎng)表示。

宜鼎國(guó)際的定制化服務(wù)，包含了存儲(chǔ)硬件和軟件。

“與客戶合作的過程中我們發(fā)現(xiàn)，軟硬件整合有一定困難?！庇味Y印說，“我們的軟件團(tuán)隊(duì)，會(huì)協(xié)助客戶做一些工作，提供定制化的服務(wù)。因?yàn)槲覀兎?wù)到位，客戶愿意與我們分享，我們?cè)谝黄鸾鉀Q痛點(diǎn)，實(shí)現(xiàn)AI的落地?！?/p>

落地AI，還需要整體的解決方案降低開發(fā)成本。

一般來說，開發(fā)一個(gè)產(chǎn)品需要分站式采購(gòu)，然后做整合。

“如果有器件存在品質(zhì)問題，可能會(huì)導(dǎo)致系統(tǒng)出現(xiàn)問題，所以我們現(xiàn)在提供的是完整解決方案?！币硕?guó)際工控DRAM事業(yè)處總經(jīng)理張偉民說，“除了提供優(yōu)質(zhì)的閃存和內(nèi)存外，我們還提供包含傳感器等的軟硬件一體的AI解決方案?！?/p>

宜鼎國(guó)際智能周邊應(yīng)用事業(yè)處處長(zhǎng)吳志清進(jìn)一步指出，“當(dāng)AI設(shè)備或者物聯(lián)網(wǎng)設(shè)備越來越多以前一個(gè)人管100臺(tái)設(shè)備，未來可不可以1個(gè)人管1000臺(tái)設(shè)備，設(shè)備的管理變得更加重要。我們可以提供遠(yuǎn)端管理，在模組、設(shè)備、系統(tǒng)都可以提供遠(yuǎn)程管理。還有非常重要的一點(diǎn)，所有的資料都是安全的，確保我的資料不會(huì)流失，不會(huì)被盜竊?！?/p>

過去幾年，大部分AI都還在概念驗(yàn)證的階段。AI在邊緣市場(chǎng)也還在探索的階段。

隨著完整解決方案的推出，以及更高速度、更高帶寬閃存和內(nèi)存的推出，將加速AI從云端到邊緣端的普及。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。