隨著生成式人工智能和大模型技術(shù)的快速發(fā)展，AI處理器需求呈“井噴”式增長(zhǎng)，具有高帶寬、大容量、低延遲等特點(diǎn)的HBM成為AI行業(yè)的主流存儲(chǔ)方案，但目前這一產(chǎn)品的產(chǎn)能仍存在很大缺口。今年5月，三星就已宣布2024年高帶寬內(nèi)存（HBM）產(chǎn)能售罄；SK海力士也表示2024年和2025年產(chǎn)能均已售罄；美光科技在第二季度財(cái)報(bào)中披露2024年的HBM產(chǎn)能已售罄，2025年絕大多數(shù)產(chǎn)能已分配完畢。這樣一則消息，足以見(jiàn)得當(dāng)下AI市場(chǎng)對(duì)HBM需求的強(qiáng)勁。接下來(lái)，小編將為大家詳細(xì)分析HBM將會(huì)給材料行業(yè)帶來(lái)怎樣的機(jī)遇。

圖源：全球半導(dǎo)體觀察

HBM是什么？

HBM（高性能高帶寬內(nèi)存）是一種新型的存儲(chǔ)芯片技術(shù)，它利用微凸點(diǎn)和硅通孔（TSV）技術(shù)將多個(gè)存儲(chǔ)芯片堆疊在一起后和GPU封裝，從而實(shí)現(xiàn)大容量和高速數(shù)據(jù)傳輸，以滿足高性能計(jì)算、人工智能、大數(shù)據(jù)等領(lǐng)域的需求。HBM技術(shù)增加了存儲(chǔ)堆棧的數(shù)量和位寬，縮短了存儲(chǔ)芯片和邏輯芯片之間的距離，降低了工作電壓并減少了信號(hào)線的數(shù)量和長(zhǎng)度，因此，具備高帶寬、低延遲和低功耗的優(yōu)勢(shì)。

HBM堆疊結(jié)構(gòu)（圖源：文獻(xiàn)1）

HBM發(fā)展現(xiàn)狀

HBM最初是美國(guó)超微半導(dǎo)體（AMD）和韓國(guó)SK海力士于2014年共同提出的，時(shí)至今日，HBM技術(shù)已經(jīng)從HBM1升級(jí)到了HBM3E。HBM3E作為新一代高帶寬內(nèi)存技術(shù)，可以提供9.6GB/s的擴(kuò)展數(shù)據(jù)速率，相較前一代HBM3的6.4GB/s有顯著提升，這一提升使得HBM3E能夠提供更高的內(nèi)存帶寬，來(lái)滿足高性能計(jì)算和人工智能應(yīng)用對(duì)數(shù)據(jù)傳輸速度的需求。在功耗方面，HBM3E憑借先進(jìn)的電源管理技術(shù)（如降低內(nèi)核電壓和I/O信號(hào)電壓），功耗相較競(jìng)爭(zhēng)對(duì)手的產(chǎn)品降低30%。HBM3E的容量也有所提升，如三星電子開(kāi)發(fā)的36GBHBM3E12HDRAM性能和容量均比前代產(chǎn)品提升50%以上。目前，三星、SK海力士和美光均在積極布局HBM4，預(yù)計(jì)在2026年前實(shí)現(xiàn)HBM4的量產(chǎn)。

HBM技術(shù)性能指標(biāo)對(duì)比（圖源：文獻(xiàn)1）

HBM對(duì)AI產(chǎn)業(yè)有何重要意義？

當(dāng)前生成式人工智能和大模型技術(shù)的快速發(fā)展，使其對(duì)于算力的要求逐漸提升。雖然GPU可以為AI模型訓(xùn)練和推理提供強(qiáng)大的算力支撐，但如果僅提升算力而忽視帶寬，將會(huì)造成數(shù)據(jù)堆積，無(wú)法達(dá)到理想的數(shù)據(jù)處理速度。帶寬作為提升數(shù)據(jù)計(jì)算效率的重要保障，會(huì)直接影響數(shù)據(jù)吞吐量，數(shù)據(jù)吞吐量越大，模型在單位時(shí)間內(nèi)能夠處理的數(shù)據(jù)便越多，響應(yīng)速度就會(huì)越快。GDDR（一種用于圖形處理器和高性能計(jì)算模塊的顯存類(lèi)型）和HBM具有的高帶寬、低功耗和低延遲等特性，正可以滿足AI產(chǎn)業(yè)對(duì)于高帶寬的需求。GDDR作為一種為高端顯卡服務(wù)的高性能存儲(chǔ)器，與現(xiàn)有的GPU架構(gòu)兼容性較好，制造成本相對(duì)較低，可以較為容易的集成到現(xiàn)有的系統(tǒng)設(shè)計(jì)中去。而HBM技術(shù)通過(guò)堆疊內(nèi)存芯片并利用硅中介層直接連接到GPU的方式，大幅度提高了內(nèi)存帶寬，這對(duì)于需要大量數(shù)據(jù)吞吐量的AI模型訓(xùn)練和推理極為重要，同時(shí)基于其設(shè)計(jì)和堆疊技術(shù)，HBM能夠在提供高帶寬的情況下，消耗較少的能量，對(duì)于減少AI計(jì)算中的能耗非常的關(guān)鍵。兩者雖都可以在AI產(chǎn)業(yè)有所應(yīng)用，但HBM在高性能數(shù)據(jù)中心、超級(jí)計(jì)算機(jī)和人工智能等領(lǐng)域更具優(yōu)勢(shì)。

圖源：EDA學(xué)習(xí)

HBM將會(huì)引領(lǐng)哪些材料發(fā)展？

1、先進(jìn)封裝材料

（1）環(huán)氧塑封料：環(huán)氧塑封料是一種用于半導(dǎo)體封裝的熱固性化學(xué)材料，它主要由環(huán)氧樹(shù)脂作為基體樹(shù)脂，具有良好的絕緣性、耐熱性，可以在保護(hù)半導(dǎo)體芯片不受外界環(huán)境影響的情況下，起到導(dǎo)熱、絕緣、耐壓、支撐等復(fù)合作用。HBM的封裝過(guò)程需要使用高質(zhì)量的環(huán)氧塑封料，因?yàn)檫@種材料可以適應(yīng)HBM高帶寬、高頻率的工作環(huán)境，有效保護(hù)內(nèi)部的芯片和電路，以確保信號(hào)的穩(wěn)定傳輸和芯片的正常工作。

（2）底部填充膠：底部填充膠主要用于倒裝芯片封裝（Flip Chip）和其他形式的芯片封裝。在HBM的封裝中，它可以用于填充芯片與基板之間的間隙，起到增強(qiáng)連接強(qiáng)度、提高抗震性能和散熱性能的作用，防止由于熱循環(huán)造成的焊點(diǎn)疲勞和裂紋。隨著HBM技術(shù)的不斷發(fā)展，對(duì)底部填充膠的性能要求也越來(lái)越高，如需要高填充效率、良好的流動(dòng)性和低熱膨脹系數(shù)。硅酸鹽、鋁氧化物常用作底部填充膠的填料來(lái)進(jìn)行使用。

2、基板材料

HBM中需要用到大量的基板材料，這些材料需要滿足高帶寬、高速信號(hào)傳輸、高密度互連、良好熱管理、低介電常數(shù)、低熱膨脹系數(shù)等要求，以有效減少信號(hào)延遲、信號(hào)能量損耗、維持互連的穩(wěn)定性。如在PCB基板方面，可以使用FR-4、聚酰亞胺、液晶聚合物。

3、散熱材料

（1）熱界面材料：HBM在工作時(shí)會(huì)產(chǎn)生大量的熱量，因此需要高效的散熱材料來(lái)保證其正常運(yùn)行。熱界面材料是用于填充和改善內(nèi)存芯片與散熱器之間熱接觸的材料。它們可以有效減少熱阻、提高熱傳導(dǎo)效率，從而將芯片產(chǎn)生的熱量有效的傳出。在HBM應(yīng)用中，具有高導(dǎo)熱系數(shù)、低粘度、良好的柔韌性、低熱阻、良好的化學(xué)穩(wěn)定性的熱界面材料是發(fā)展的重點(diǎn)，如高導(dǎo)熱的硅膠、石墨片等材料。

（2）散熱基板：散熱基板是散熱系統(tǒng)的重要組成部分，它主要是將內(nèi)存芯片產(chǎn)生的熱量分散到更大的面積上，從而降低單位面積的熱流密度。在HBM的應(yīng)用中，散熱基板通常是與散熱器、液冷系統(tǒng)等散熱系統(tǒng)協(xié)同工作，以確保內(nèi)存模塊可以在高負(fù)載的情況下保持穩(wěn)定的溫度。在選擇材料時(shí)，需要選擇具備高熱導(dǎo)率、良好的機(jī)械強(qiáng)度和加工性能的散熱基板材料，如金屬基復(fù)合材料、陶瓷基復(fù)合材料等。

4、硅通孔（TSV）材料

（1）絕緣材料：TSV技術(shù)是通過(guò)在芯片與芯片之間、芯片與晶圓之間、晶圓與晶圓之間制作垂直導(dǎo)通路徑，以實(shí)現(xiàn)芯片之間互連的技術(shù)，屬于HBM制造中一大關(guān)鍵技術(shù)。其中絕緣材料用于填充TSV孔的側(cè)壁，起到絕緣和隔離的作用。在AI時(shí)代，隨著TSV技術(shù)的不斷發(fā)展和HBM性能的不斷提升，對(duì)絕緣材料的要求也越來(lái)越高，如更高的絕緣性能、更好的耐高溫性能、更低的介電常數(shù)等。

（2）導(dǎo)電材料：TSV中的導(dǎo)電材料用于實(shí)現(xiàn)芯片之間的電氣連接，其性能直接影響著HBM的信號(hào)傳輸速度和帶寬。因此，具有高導(dǎo)電性、良好的抗電遷移性能和可靠性的導(dǎo)電材料，如銅、鎢等金屬材料，將會(huì)在HBM的TSV技術(shù)中得到廣泛的應(yīng)用。

5、存儲(chǔ)材料

（1）DRAM芯片材料：HBM是由多個(gè)DRAM芯片堆疊而成，因此DRAM芯片的材料性能對(duì)HBM的整體性能有著重要的影響。在AI時(shí)代，為了滿足HBM對(duì)高帶寬、大容量、低功耗的要求，DRAM芯片的材料需要不斷改進(jìn)和優(yōu)化，如采用更先進(jìn)的半導(dǎo)體材料、優(yōu)化芯片的結(jié)構(gòu)設(shè)計(jì)等。

（2）新型存儲(chǔ)材料：除了傳統(tǒng)的DRAM芯片，研究人員也在探索新型的存儲(chǔ)材料用于HBM，如相變存儲(chǔ)器（PCM）、磁性隨機(jī)存儲(chǔ)器（MRAM）、電阻式隨機(jī)存儲(chǔ)器（RRAM）等。這些新型存儲(chǔ)材料具有更高的存儲(chǔ)密度、更快的讀寫(xiě)速度和更低的功耗，有望在未來(lái)的HBM技術(shù)中得到應(yīng)用。

小結(jié)

生成式人工智能市場(chǎng)的迅速擴(kuò)張，使得全球市場(chǎng)對(duì)AI服務(wù)器內(nèi)存需求急劇上升，具有高帶寬、高性能的HBM已成為當(dāng)下炙手可熱的產(chǎn)品。HBM市場(chǎng)的供不應(yīng)求，使三大存儲(chǔ)巨頭三星、SK海力士、美光科技積極擴(kuò)產(chǎn)，有望帶動(dòng)上游先進(jìn)封裝材料的需求。

參考文獻(xiàn)：

1、陳煜海,余永濤,劉天照,等.高帶寬存儲(chǔ)器的技術(shù)演進(jìn)和測(cè)試挑戰(zhàn)[J].電子與封裝.

2、鐘偉軍,吳迪,孔憲偉.高帶寬存儲(chǔ)器測(cè)試技術(shù)研究[J].信息技術(shù)與標(biāo)準(zhǔn)化.

3、薛爽.基于高帶寬存儲(chǔ)器的圖計(jì)算加速機(jī)制的研究[D].中國(guó)科學(xué)技術(shù)大學(xué).

4、倪雨晴.存儲(chǔ)市場(chǎng)回暖巨頭搶灘HBM高地[N].21世紀(jì)經(jīng)濟(jì)報(bào)道.

5、許子皓.下一代HBM技術(shù)搶先戰(zhàn)拉開(kāi)序幕[N].中國(guó)電子報(bào).

粉體圈 Alice