由于人工智能加速器、圖形處理器和高性能計(jì)算應(yīng)用程序需求量持續(xù)激增，高帶寬內(nèi)存（HBM）的銷量正在飆升。

人工智能浪潮引發(fā)的資本市場對(duì)于大語言模型生態(tài)的投入使HBM常常處于斷貨狀態(tài)，因?yàn)镠BM是創(chuàng)建大模型所需數(shù)據(jù)的首選儲(chǔ)存器。并且，為了提升性能而打造的多層高密度構(gòu)造以及SRAM（靜態(tài)隨機(jī)存取存儲(chǔ)器）面臨的限制都將市場對(duì)HBM的需求推到了更高的維度。

Rambus高級(jí)副總裁兼硅IP總經(jīng)理Matt Jones表示：“隨著人工智能訓(xùn)練模型的不斷擴(kuò)大，對(duì)于硬件層面的性能要求也在不斷提高，這就要求內(nèi)存的創(chuàng)新解決方案，為了確保人工智能的持續(xù)增長和進(jìn)步，業(yè)界必須繼續(xù)克服內(nèi)存帶寬和容量方面的障礙?！?/p>

這種勢頭很大程度上由先進(jìn)封裝推動(dòng)，在許多情況下，先進(jìn)封裝可以提供比系統(tǒng)級(jí)芯片SoC更高效的數(shù)據(jù)路徑。日月光半導(dǎo)體（ASE）投資者關(guān)系主管Ken Hsiang在最近的財(cái)報(bào)電話會(huì)議上表示：“前沿封裝正處于爆發(fā)的前夜，無論是人工智能、網(wǎng)絡(luò)還是其他正在研發(fā)的產(chǎn)品，對(duì)先進(jìn)的互連技術(shù)的需求非常強(qiáng)烈?！?/strong>

HBM與先進(jìn)封裝高度契合。三星半導(dǎo)體副總裁兼DRAM產(chǎn)品規(guī)劃主管Indong Kim在最近的一次演講中表示：“HBM定制將迎來一波大浪潮，人工智能基礎(chǔ)設(shè)施的發(fā)展需要極高的效率和擴(kuò)展能力，我們與主要客戶一致認(rèn)為，適用于人工智能產(chǎn)品的定制化HBM將是關(guān)鍵的一步。功率，性能和面積（power, performance and area，簡稱PPA）是人工智能解決方案的關(guān)鍵，定制將在PPA方面提供重要價(jià)值?！?/strong>

過去，經(jīng)濟(jì)效益嚴(yán)重地限制了HBM被廣泛采用。 硅中介層（協(xié)助上下層節(jié)點(diǎn)進(jìn)行信息交換）價(jià)格昂貴，而在前道工序（FEOL）的存儲(chǔ)單元之間處理大量硅通孔 (TSV，穿透硅晶圓或芯片的垂直互連技術(shù)) 同樣成本高昂。日月光半導(dǎo)體的工程和技術(shù)營銷高級(jí)總監(jiān)曹立宏表示：“隨著高性能計(jì)算、人工智能和機(jī)器學(xué)習(xí)帶來的需求增加，中介層的尺寸也顯著增加，高成本是其面臨的主要缺點(diǎn)?！?/p>

雖然這限制了它在大眾市場的吸引力，但對(duì)成本不太敏感的應(yīng)用（如數(shù)據(jù)中心）仍表現(xiàn)出強(qiáng)勁的市場需求。HBM的帶寬是任何其他存儲(chǔ)技術(shù)無法比擬的，硅中介層的2.5D集成已經(jīng)成為事實(shí)上的標(biāo)準(zhǔn)。

但客戶是貪婪的，他們永遠(yuǎn)在追求更好的性能，這就是為什么HBM制造商在不斷改進(jìn)凸塊材料和成型材料，實(shí)現(xiàn)從8層到12層及16層DRAM的飛躍，從而能夠以閃電般的速度處理數(shù)據(jù)。HBM4的數(shù)據(jù)處理速度將在HBM3E的基礎(chǔ)上有很大的提升，而實(shí)現(xiàn)這一目標(biāo)的主要策略是將數(shù)據(jù)線的數(shù)量從HBM3的1024條增加到2048條。

在全球市場中，有三家主要的公司生產(chǎn)HBM內(nèi)存模塊，即美光、三星和SK海力士。雖然他們都使用TSV和微凸點(diǎn)技術(shù)（在集成電路封裝過程中用于實(shí)現(xiàn)芯片間互連的微型連接點(diǎn)），將DRAM堆棧和配套設(shè)備集成到先進(jìn)的封裝中，但每家公司采用的方法略有不同。三星和美光在每個(gè)凸塊層都加入了非導(dǎo)電薄膜（NCF，該薄膜是一種聚合物材料，用于使芯片彼此絕緣并保護(hù)連接點(diǎn)免受撞擊）及熱壓鍵合（TCB，焊接工藝，將芯片與基板固定在一起）技術(shù)。而SK海力士則繼續(xù)采用倒裝芯片大規(guī)?；亓鞴に嚨哪Ｋ艿撞刻畛洌∕R-MUF）方案，該工藝可以將堆棧密封在高導(dǎo)電性成型材料中。

HBM的垂直連接是使用銅TSV和堆疊DRAM芯片之間的縮放微凸塊來實(shí)現(xiàn)的，下部緩沖器及邏輯芯片為每個(gè)DRAM提供數(shù)據(jù)路徑。產(chǎn)品的可靠性問題很大程度上取決于回流、粘接和模具反磨過程中的熱機(jī)械應(yīng)力，而識(shí)別潛在問題需要測試高溫工作壽命（HTOL）、溫度濕度偏差（THB）和溫度循環(huán)，可以通過采用預(yù)處理、無偏濕度和壓力測試（uHAST）來確定各層之間的粘附水平。此外，還需要進(jìn)行其他測試，以確保長期使用中不會(huì)出現(xiàn)微凸塊短路、金屬橋接或芯片和微凸點(diǎn)之間的接口分層等問題?；旌湘I合是替代HBM4代產(chǎn)品微凸塊的一種選擇，但前提是滿足產(chǎn)量目標(biāo)。

另一項(xiàng)正在研發(fā)的技術(shù)是3D DRAM，其參考3D NAND閃存技術(shù)，將存儲(chǔ)單元進(jìn)行翻轉(zhuǎn)。三星的Kim表示：“3D DRAM堆疊將大大降低功耗和占用的面積，同時(shí)消除來自中介層的性能障礙，內(nèi)存控制器從SoC移到基礎(chǔ)裸片（晶圓經(jīng)過切割測試后沒有經(jīng)過封裝的芯片）將為人工智能提供更多的邏輯空間。我們堅(jiān)信定制HBM將實(shí)現(xiàn)性能和效率雙雙提升，緊密集成的內(nèi)存和代工能力將為大規(guī)模部署提供更快上市及更優(yōu)質(zhì)的產(chǎn)品。

這里的總體趨勢是將邏輯組件移動(dòng)到更靠近內(nèi)存的地方，以便在內(nèi)存中或內(nèi)存附近執(zhí)行更多的處理，而不是將數(shù)據(jù)移動(dòng)到一個(gè)或多個(gè)處理元素。但從系統(tǒng)設(shè)計(jì)的角度來看，要實(shí)現(xiàn)技術(shù)的落地還面臨很多困難。

Lam Research高級(jí)封裝技術(shù)總監(jiān)cheping Lee表示：“這是一個(gè)激動(dòng)人心的時(shí)刻，人工智能如此火熱，HBM可以儲(chǔ)存一切，各家存儲(chǔ)器制造商都在爭分奪秒地率先生產(chǎn)下一代HBM。”

關(guān)于下一代產(chǎn)品HBM4， JEDEC（固態(tài)技術(shù)協(xié)會(huì)）正忙于制定這些模塊的標(biāo)準(zhǔn)。同時(shí)，JEDEC將HBM3E標(biāo)準(zhǔn)的最大內(nèi)存模塊厚度從720mm擴(kuò)展到775mm，這仍然適用于40μm厚的芯片。HBM標(biāo)準(zhǔn)確定了每針傳輸速率、每個(gè)堆棧的最大芯片數(shù)量、最大封裝容量（單位為GB）和帶寬等參數(shù)。標(biāo)準(zhǔn)的設(shè)置使得設(shè)計(jì)和流程得以簡化，從而幫助HBM產(chǎn)品以更快的速度進(jìn)入市場，現(xiàn)階段為每兩年進(jìn)行一次產(chǎn)品的迭代。即將推出的HBM4標(biāo)準(zhǔn)將定義24Gb和32Gb層，以及4層、8層、12層和16層高TSV堆棧。

HBM的進(jìn)化史：對(duì)工藝和帶寬的極致追求

高帶寬內(nèi)存的發(fā)展可以追溯到2008年，最初的研發(fā)愿景是通過這款產(chǎn)品解決計(jì)算內(nèi)存面臨的功耗和占用面積增加的問題。

三星電子的Sungmock Ha及其同事表示：“當(dāng)時(shí)，作為最高頻段DRAM的GDDR5，其帶寬被限制在28GB/s（7Gbps/引腳 x 32個(gè)輸入/輸出端口）?！倍鳫BM Gen2的出現(xiàn)使技術(shù)實(shí)現(xiàn)重大的提升，通過將輸入/輸出端口的數(shù)量增至1024個(gè)，在不降低頻率的情況下，成功實(shí)現(xiàn)了307.2GB/s的帶寬突破。

從HBM2E開始，廠商通過采用17nm高K金屬柵工藝（ 利用高K介質(zhì)材料代替常規(guī)柵，可以有效解決多晶柵極耗盡問題），達(dá)到每引腳3.6Gbps，帶寬460.8GB/s。而目前HBM3新推出了每引腳6.4Gbps的傳輸速率，實(shí)現(xiàn)8到12個(gè)芯片堆疊，與上一代相比帶寬提高了約2倍。

這只是故事的一部分，HBM還一直在向處理技術(shù)靠攏，以提高性能。

大規(guī)?；亓骱甘亲畛墒旌妥畋阋说暮附臃桨?。Amkor的工程和技術(shù)營銷副總裁Curtis Zwenger表示：“大多數(shù)情況下，都會(huì)采用大規(guī)?；亓骱讣夹g(shù)，因?yàn)樵O(shè)備安裝的資本支出很大，但后續(xù)的生產(chǎn)成本相對(duì)較低。這項(xiàng)技術(shù)為將芯片與高端模塊連接到封裝基板上提供了一種經(jīng)濟(jì)實(shí)惠且高效的方式。不過，隨著對(duì)性能的需求不斷提升，以及異構(gòu)集成（指將多個(gè)不同工藝節(jié)點(diǎn)單獨(dú)制造的芯片封裝到一個(gè)封裝內(nèi)部，以增強(qiáng)功能性和提高性能）模塊和高級(jí)基板解決方案空間的日益擴(kuò)大，其導(dǎo)致的后果是異構(gòu)集成和基板的翹曲程度加劇。而熱壓技術(shù)和R-LAB（反向激光輔助鍵合）作為傳統(tǒng)大規(guī)模回流焊的工藝升級(jí)，可以更好地處理翹曲問題?！?/p>

微凸塊金屬化工藝通過優(yōu)化后，可以提高可靠性。如果微凸塊與焊盤之間的連接采用傳統(tǒng)的回流工藝，并且其中含有助焊劑和底部填充材料，則填充的空隙和剩余的助焊劑殘留可能導(dǎo)致凸塊之間夾帶的形成。為了解決這些問題，預(yù)涂非導(dǎo)電薄膜（NFC）被廣泛采用，其可以在一步鍵合工藝中取代助焊劑、填充材料和鍵合步驟，并且不會(huì)產(chǎn)生夾帶。

三星每一代產(chǎn)品都會(huì)增加NCF材料的厚度，NCF本質(zhì)上是一種環(huán)氧樹脂，含有固化劑和其他添加劑。這項(xiàng)技術(shù)帶來很多好處，特別是在更高的疊層上，因?yàn)闃I(yè)界正在努力減輕芯片裸片變薄帶來的芯片裸片翹曲問題，而其優(yōu)化的點(diǎn)在于完全填充凸點(diǎn)周圍的底部填充區(qū)（為凸點(diǎn)提供緩沖），使焊料流動(dòng)，避免空隙產(chǎn)生。

SK海力士從HBM2E產(chǎn)品開始，就將大規(guī)模回流模塑底部填充技術(shù)改為NCF-TCB。其導(dǎo)電模具材料是與材料供應(yīng)商合作開發(fā)的，可能使用專有的注射工藝，這一技術(shù)使得SK海力士實(shí)現(xiàn)出色的晶體管結(jié)溫控制。

HBM中的DRAM堆棧被放置在緩沖芯片上，由于各家公司都在努力將更多的邏輯應(yīng)用到這一基礎(chǔ)芯片上以降低功耗，同時(shí)還將每個(gè)DRAM內(nèi)核與處理器連接起來，使緩沖芯片的功能在不斷增加。每個(gè)芯片都被挑揀出來并放置在載體晶圓上，然后回流焊，最后堆疊成型，經(jīng)過背面研磨、清潔和切割等工序打造出產(chǎn)品。臺(tái)積電和SK海力士宣布，晶圓代工廠今后將向內(nèi)存制造商提供基礎(chǔ)芯片。

新思科技研發(fā)總監(jiān)Sutirtha Kabir表示：“邏輯存儲(chǔ)器始終是市場關(guān)注的焦點(diǎn)，盡管這個(gè)領(lǐng)域在此前就已經(jīng)被研究過。但每一種解決方案都將在電力和熱能方面面臨挑戰(zhàn)，這兩者是密切相關(guān)的。直接影響是熱應(yīng)力（由于溫度變化引起材料內(nèi)部或外部產(chǎn)生的應(yīng)力），這不僅局限于組裝層級(jí)，對(duì)整個(gè)系統(tǒng)都會(huì)產(chǎn)生影響。由于可能會(huì)使用混合鍵合或者細(xì)間距鍵合技術(shù)，熱問題對(duì)機(jī)械應(yīng)力的影響更值得探究?！?/p>

此外，基礎(chǔ)邏輯產(chǎn)生的熱量也會(huì)在邏輯芯片和DRAM芯片之間的接口處產(chǎn)生熱機(jī)械應(yīng)力。由于HBM模塊的位置靠近處理器，來自邏輯芯片的熱量不可避免地傳導(dǎo)到存儲(chǔ)器內(nèi)。SK海力士的高級(jí)技術(shù)經(jīng)理Younsoo Kim表示：“我們的數(shù)據(jù)顯示，主機(jī)芯片溫度每升高2℃，HBM的溫度至少會(huì)升高5-10℃?！?/strong>

NCF-TCB工藝同樣面臨挑戰(zhàn)。在高溫高壓下發(fā)生的熱壓鍵合會(huì)導(dǎo)致2.5D組裝出現(xiàn)問題，例如凸起與底層鎳墊之間的金屬橋接或界面分層。另外，TCB本身的產(chǎn)量也相對(duì)較低。

對(duì)于任何多芯片堆疊而言，翹曲問題與表面材料的膨脹系數(shù)（TCE）不匹配有關(guān)，在加工和使用過程中，這會(huì)導(dǎo)致溫度循環(huán)產(chǎn)生應(yīng)力。應(yīng)力通常集中在一些關(guān)鍵部位，比如在基礎(chǔ)裸片和第一個(gè)內(nèi)存芯片之間，以及微凸塊層級(jí)。產(chǎn)品的仿真模型可以幫助解決這些問題，但也有部分問題只有在實(shí)際產(chǎn)品應(yīng)用中才能充分體現(xiàn)其帶來的影響。

人工智能應(yīng)用的運(yùn)行依賴于對(duì)DRAM芯片、TSV、集成基本邏輯功能的芯片和多達(dá)100個(gè)去耦電容器的成功組裝和封裝。與圖形處理器、CPU或其他類型處理器的結(jié)合是一個(gè)精密設(shè)計(jì)的組裝工程，需要所有組件實(shí)現(xiàn)有機(jī)契合，以形成高產(chǎn)且可靠的系統(tǒng)。

隨著行業(yè)從HBM3過渡到HBM4，制造高性能DRAM堆棧的工藝只會(huì)變得更加復(fù)雜。不過，供應(yīng)商和芯片制造商也在關(guān)注更低成本的替代品，以進(jìn)一步提高這些高速和不可或缺的內(nèi)存芯片堆棧的被市場采用。

本文由雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))編譯自：https://semiengineering.com/hbm-options-increase-as-ai-demand-soars/

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。