隨著英偉達(dá)在最新的財(cái)報(bào)會(huì)議中明示，不同的國(guó)家都在嘗試建立屬于自己的 AI 算力，這一暗流下的激烈角逐已經(jīng)完全走向臺(tái)前。

在這一場(chǎng)國(guó)家級(jí)、企業(yè)巨頭之間的競(jìng)爭(zhēng)中，站在最前排的就是大模型和大模型的算力發(fā)動(dòng)機(jī) GPU。

從今年的 Sora、Claude3、GPT5 的態(tài)勢(shì)來(lái)看，大模型的智力涌現(xiàn)并未有絲毫放緩的跡象；這也使得國(guó)產(chǎn)大模型的追趕，眼看要縮小的差距又被無(wú)情的拉大，但算法的半透明和原理的公開(kāi)，總歸讓這場(chǎng)競(jìng)賽不至于被套圈太多。

雖然 GPU 龍頭英偉達(dá)股價(jià)一飛沖天，但攪局者的動(dòng)力也有增無(wú)減，AMD 作為二供被寄予了厚望，谷歌自研 TPU 也被不少人看好；而國(guó)產(chǎn) GPU 選手華為昇騰、寒武紀(jì)、海光、沐熙、壁韌等也在嘗試形成自己的閉環(huán)。

但在更為隱秘的戰(zhàn)場(chǎng)，HBM（高帶寬內(nèi)存）顯然是基本被忽視的關(guān)鍵一環(huán)。

01

大模型和 GPU 是明戰(zhàn)，HBM 則是暗戰(zhàn)

如果因循最基本的原則，從 AI 算力出發(fā)，我們知道制約單芯片能力的最大瓶頸有三個(gè)，分別是：GPU、先進(jìn)制程（含 CoWoS 先進(jìn)封裝），以及 HBM。

其中 GPU 和先進(jìn)制程是一體兩面的關(guān)系，優(yōu)秀 GPU 企業(yè)如英偉達(dá)設(shè)計(jì)出來(lái) GPU 之后，還需要利用臺(tái)積電的先進(jìn)制程進(jìn)行制造，再利用臺(tái)積電、日月光的先進(jìn)封裝技術(shù) CoWoS 進(jìn)行最后的合封，這一點(diǎn)在 2023 年 CoWoS 產(chǎn)能奇缺的時(shí)候，已被市場(chǎng)刨根問(wèn)底。

而在同一顆 AI 芯片上的顯存顆粒模組 HBM，作為與先進(jìn)制程同等重要的存在，但到的關(guān)注顯然不夠。這一產(chǎn)品基本完全被韓國(guó)的海力士和三星壟斷，合計(jì)占市場(chǎng)份額的 90% 以上，絲毫不比 GPU 和 CoWoS 競(jìng)爭(zhēng)格局差，而高度壟斷，在這逆全球化的背景下，隱含的就是高供應(yīng)鏈風(fēng)險(xiǎn)。

HBM 也是 AI 芯片中占比最高的部分，根據(jù)外媒的拆解，H100 的成本接近 3000 美元，而其中占比最高的是來(lái)自海力士的 HBM，總計(jì)達(dá)到 2000 美元左右，超過(guò)制造和封裝，成為成本中最大的單一占比項(xiàng)。

雖然 HBM 非常昂貴，但隨著 AI 基礎(chǔ)算力需求的大爆發(fā)，草根調(diào)研顯示當(dāng)前 HBM 仍是一芯難求，海力士和三星 2024 年所有的產(chǎn)能都已經(jīng)完全被預(yù)定，行業(yè)的供需失衡可能在 2025 年也仍無(wú)法得到有效的緩解。可能強(qiáng)如英偉達(dá)，也需要思考自己的 HBM 供應(yīng)鏈?zhǔn)欠褡銐虬踩?/p>

這一重大的產(chǎn)業(yè)趨勢(shì)，自然也被存儲(chǔ)芯片大國(guó)韓國(guó)了如指掌。

經(jīng)過(guò)一段時(shí)間的醞釀，2024 年初，韓國(guó)企劃財(cái)政部正式公布了《2023 年稅法修正案后續(xù)執(zhí)行規(guī)則修正案草案》，將 HBM 等技術(shù)指定為國(guó)家戰(zhàn)略技術(shù)，進(jìn)一步擴(kuò)大稅收支持，在這一法案的支持下，三星電子、SK 海力士等中大型企業(yè)可享受高達(dá) 30% 至 40% 的減免。

考慮到韓國(guó)的大企業(yè)所得稅一般在 25%，這么大力度的減免，相當(dāng)于給了韓國(guó)的 HBM 產(chǎn)品直接額外賦予了接近 10% 的價(jià)格優(yōu)勢(shì)。當(dāng)前韓國(guó)的存儲(chǔ)芯片企業(yè)海力士和三星，在 HBM 產(chǎn)品的產(chǎn)能和技術(shù)上，本來(lái)就處于斷檔式領(lǐng)先，即使其他追趕者能夠做出來(lái)產(chǎn)品，考慮到海力士和三星天然的價(jià)格屠夫的歷史形象，這將使得追趕者大概率始終陷入技術(shù)落后、價(jià)格高企的惡性循環(huán)中。

當(dāng)然，韓國(guó)目前仍然是小大小鬧，還暫時(shí)沒(méi)有將 HBM 出口進(jìn)行管制，或者進(jìn)行相關(guān)的技術(shù)限制。但是翻看最近的歷史，我們不得不對(duì)此事提起十二分的關(guān)注。

2022 年 10 月，美國(guó)限制中國(guó)先進(jìn)制程的發(fā)展，從設(shè)備、技術(shù)到人才實(shí)現(xiàn)全方面圍堵，使得原本進(jìn)步飛速的國(guó)產(chǎn)先進(jìn)制程舉步維艱。

2023 年 10 月，美國(guó)限制英偉達(dá)等美國(guó)企業(yè)向中國(guó)出口超過(guò)一定算力和帶寬的 GPU 芯片，直接對(duì)國(guó)產(chǎn)大模型實(shí)施了釜底抽薪式的打擊。

如果未來(lái)對(duì) HBM 的限制變嚴(yán)格，那么就意味著我國(guó)在 AI 算力的三要素—先進(jìn)制程、GPU 和 HBM —中，將陷入全方位的被動(dòng)局面。

所以我們才說(shuō)，上一輪最值得關(guān)注 HBM 的時(shí)間是十年前它被發(fā)明的時(shí)候，其次就是現(xiàn)在。

02

HBM 的昨天、今天和明天

1. 一種特殊類型的存儲(chǔ)芯片，可以理解為 DRAM 的 3D 版本

存儲(chǔ)芯片是最大的芯片品種。為了滿足不同場(chǎng)景的存儲(chǔ)要求，又被進(jìn)一步的分為 SRAM、DRAM、NAND、NOR 等等，其中市場(chǎng)空間最大最為重要的是 DRAM 和 NAND，也就是業(yè)內(nèi)人士常說(shuō)的大宗品存儲(chǔ)，全球的市場(chǎng)空間都是接近 1000 億美元。

DRAM 對(duì)智能設(shè)備的運(yùn)行速度起到與主控芯片一樣的決定性作用，對(duì)于普通消費(fèi)者都能接觸到的手機(jī)為例，主控芯片和內(nèi)存（即移動(dòng)端 LPDDR DRAM）就是最重要的兩顆芯片。HBM，正是 DRAM 中的一個(gè)分支品種，主打高性能。

根據(jù)行業(yè)協(xié)會(huì)的定義，DRAM 可以分為三種：1）主要用在電腦、服務(wù)器中的標(biāo)準(zhǔn) DDR，也就是常說(shuō)的內(nèi)存條；2）手機(jī)和汽車(chē)等移動(dòng)終端領(lǐng)域的 LPDDR 系列；3）用在數(shù)據(jù)密集型場(chǎng)景的圖形類 DDR，HBM 正是在這一分類下。

所以，HBM 是脫胎于普通的 DRAM 的升級(jí)產(chǎn)品，基于 3D 堆棧工藝（使用 TSV 技術(shù)將多個(gè) DRAM 芯片堆疊起來(lái)，在增加帶寬的同時(shí)，實(shí)現(xiàn)芯片間的高速通信和低功耗），可以實(shí)現(xiàn)更高的內(nèi)存帶寬和更低的能耗，。

2023 年之前，雖然上述三種 DRAM 產(chǎn)品中，HBM 在傳輸速度、容量和功耗方面都具備明顯的優(yōu)勢(shì)，但高于普通 DRAM 數(shù)倍的價(jià)格，使得對(duì) HBM 需求一直都是名氣沒(méi)輸過(guò)、銷售沒(méi)贏過(guò)的尷尬存在。

圖：存儲(chǔ)芯片 DRAM 進(jìn)一步分類，方正證券

但 AI 大模型的出現(xiàn)，使得 HBM 找到完美的應(yīng)用場(chǎng)景。

眾所周知，大模型的智力涌現(xiàn)，依托于 Scaling laws 指導(dǎo)下的大力出奇跡，大模型對(duì)數(shù)據(jù)量和算力有著近乎無(wú)上限的需求，而算力的發(fā)動(dòng)機(jī) GPU 和存儲(chǔ)池 HBM，意外成為最大的受益者。

傳統(tǒng)帶寬的標(biāo)準(zhǔn)類 DDRDRAM 和移動(dòng)類 LPDDR DRAM 顯然已經(jīng)完全無(wú)法滿足 AI 芯片的需求，而立體堆疊的 HBM，它相對(duì)普通的內(nèi)存帶寬可以提升數(shù)倍，而功耗反而更低，卻完美契合大模型的要求。

所以我們可以看到，在 AI 場(chǎng)景中，英偉達(dá)的 GPU 芯片不再是單獨(dú)售賣(mài)：從流程上，英偉達(dá)首先設(shè)計(jì)完 GPU，然后采購(gòu)海力士的 HBM，最后交由臺(tái)積電利用 CoWoS 封裝技術(shù)將 GPU 和 HBM 封裝到一張片子上，最終交付給 AI 服務(wù)器廠商。最終產(chǎn)品結(jié)構(gòu)正如海力士的宣傳材料展示的一樣。

可以說(shuō)，英偉達(dá)、臺(tái)積電、海力士，這三家公司共同構(gòu)成了全球 AI 算力基座的鐵三角。

2.AI 爆發(fā)帶來(lái)巨大的增長(zhǎng)空間

從配角到主角的 HBM，也隨著 AI 的爆發(fā)也迎來(lái)屬于自己的廣闊舞臺(tái)。

在 AI 沒(méi)有爆發(fā)之前，市場(chǎng)預(yù)測(cè)全球 HBM 將平穩(wěn)增長(zhǎng)至一個(gè) 100 億美元的市場(chǎng)。但是隨著 2023 年大模型的橫空出世，HBM 的市場(chǎng)中樞預(yù)測(cè)被快速拔高。

根據(jù)市場(chǎng)機(jī)構(gòu)測(cè)算，2023 年 HBM 市場(chǎng)規(guī)模為 40 億美元，預(yù)計(jì) 2024 年增長(zhǎng)至 150 億美元，到 2026 年增長(zhǎng)至接近 250 億美元，年復(fù)合增速高達(dá) 80% 以上。這一測(cè)算也與海力士的估算匹配上，2023 年 11 月，海力士 CEO 表示，預(yù)計(jì)到 2030 年，海力士每年 HBM 出貨量將達(dá)到 1 億顆，隱含產(chǎn)值規(guī)模將接近 300 億美元，假設(shè)屆時(shí)海力士市場(chǎng)份額為 50%，則整個(gè)市場(chǎng)空間將在 500 億美元左右。

屆時(shí)，HBM 將從配角，正式成為存儲(chǔ)芯片中最搶眼的主角。

圖：全球 HBM 市場(chǎng)規(guī)模預(yù)測(cè)（AI 浪潮之前），方正證券

3. 科技巨頭的縮圈游戲

與 AI 算力中的其他要素一樣，HBM 是一個(gè)科技難度極高的產(chǎn)品，典型特征是重資本投入和高技術(shù)含量。

做 HBM，首先就要求芯片企業(yè)能做出一流的 DRAM，然后在這個(gè) DRAM 芯粒的基數(shù)上做 3D 的堆疊。經(jīng)過(guò)幾十年的發(fā)展競(jìng)爭(zhēng)，DRAM 已經(jīng)有極高的技術(shù)門(mén)檻，其制程已經(jīng)微縮到極限，雖然叫法上略有不同，但整體與邏輯芯片差別不大，最先進(jìn)的 DRAM 都離不開(kāi) EUV 光刻機(jī)的加持；同時(shí)還非常燒錢(qián)，投資金額極高，海力士每年資本開(kāi)支超百億美元。所以，當(dāng)前 DRAM 已經(jīng)基本被韓國(guó)三星、海力士以及美國(guó)美光所壟斷。

而從 DRAM 到 HBM，拋開(kāi)更高的資本開(kāi)支不談，還新增三大工藝難點(diǎn)：分別是 TSV、MR-MUF、混合鍵合 Hybrid Bonding。比如 TSV 技術(shù)，在維持較低的單 I/O 數(shù)據(jù)速率的情況下大幅提升了位寬進(jìn)而獲得了遠(yuǎn)優(yōu)于 GDDR 的總帶寬表現(xiàn)。本文不就技術(shù)細(xì)節(jié)進(jìn)行展開(kāi)，這一難度就相當(dāng)從 2D 電影進(jìn)階到 3D 電影，完全是另一個(gè)維度的競(jìng)爭(zhēng)。

直接衡量大家技術(shù)水平的，簡(jiǎn)單可以看堆疊層數(shù)。根據(jù)了解到的最新行業(yè)動(dòng)態(tài)：為配套英偉達(dá)最新的 H200，2024 年下半年三大存儲(chǔ)廠將推出 36GB 版本的 HBM3e 或?yàn)?12 層堆疊。

對(duì)于追趕者而言，靶子已經(jīng)固定在那兒，只是難度著實(shí)不小。

03

HBM 背后的國(guó)力之爭(zhēng)

我們判斷，從 2024 年起，HBM 將繼 GPU 之后成為各個(gè)國(guó)家在算力競(jìng)爭(zhēng)的關(guān)鍵。

毫無(wú)疑問(wèn)，目前韓國(guó)海力士和三星遙遙領(lǐng)先。哪怕美國(guó)在這個(gè)領(lǐng)域也是落后的，他們本土的代表性公司美光科技已奮起直追。而中國(guó)國(guó)內(nèi)的大宗存儲(chǔ)尚處在追趕狀態(tài)，所以 HBM 的落后自然也就更多，也更為急迫。

1. 韓國(guó)雙子星閃耀：海力士的不放棄功不可沒(méi)

前文提到，HBM 是基于 DRAM 的 3D 形態(tài)，而 DRAM 的全球霸主三星卻在 HBM 這一細(xì)分品類上處于落后狀態(tài)，而海力士卻是壟斷者的存在，這得益于公司對(duì) HBM 技術(shù)的不離不棄。

早在 10 年前的 2013 年，海力士就首次制造出 HBM，并被行業(yè)協(xié)會(huì)采納為標(biāo)準(zhǔn)。2015 年，AMD 成為第一個(gè)使用 HBM 的客戶。但在此之后，HBM 由于價(jià)格高昂，下游根本不買(mǎi)單，甚至一度被認(rèn)為是點(diǎn)錯(cuò)了科技樹(shù)。

但海力士死磕這個(gè)方向，并沒(méi)有放棄。在 2015-2022 年，雖然并沒(méi)有什么突出客戶，海力士仍然對(duì) HBM 產(chǎn)品進(jìn)行了多達(dá) 3 次技術(shù)升級(jí)，絲毫不像對(duì)待一個(gè)邊緣產(chǎn)品的待遇。

最終，憑借著 2023 年至今的 AI 浪潮，海力士的 HBM 一芯難求，從無(wú)人問(wèn)津到一飛沖天，10 年的堅(jiān)守終于換了回報(bào)。在低迷的韓國(guó)股市中，海力士股價(jià)也一騎絕塵，實(shí)現(xiàn)翻倍，成為跟上全球 AI 浪潮的唯一一家韓國(guó)公司。

另一方面，內(nèi)存領(lǐng)域的霸主三星，得益于在 DRAM 上的深厚積累，以及并不落后的技術(shù)儲(chǔ)備，迅速崛起成為 HBM 排名第二的玩家。

2016 年三星開(kāi)始大規(guī)模量產(chǎn) HBM。落后于海力士 3 年；而根據(jù)公司最新進(jìn)展，三星已經(jīng)于 2023 年實(shí)現(xiàn)了 HBM3 的量產(chǎn)出貨，而將在今年上半年推出 HBM3E，而且規(guī)劃 2025 年實(shí)現(xiàn) HBM4 的量產(chǎn)。根據(jù)這一規(guī)劃，三星與海力士的差距已經(jīng)縮小到半年左右，而差距有望于 2025 年被完全消弭。

三星除了有 DRAM 的底氣之外，由于 HBM 當(dāng)中包含部分邏輯芯片的電路，因此三星電子依托于自有的邏輯晶圓廠，確實(shí)具備彎道超車(chē)的比較優(yōu)勢(shì)。而且同為韓國(guó)公司，直接挖相關(guān)人才也更為容易。

毫無(wú)疑問(wèn)，在 HBM 領(lǐng)域起了個(gè)大早的韓國(guó)，也絲毫沒(méi)有放松，還在朝前一路狂奔。

2. 美國(guó)獨(dú)苗苦苦支撐，但猶可追

美國(guó)公司在 HBM 的競(jìng)賽中落后似乎是命中注定的。由于存儲(chǔ)芯片行業(yè)周期性極強(qiáng)，資本開(kāi)支又是無(wú)底洞，已經(jīng)逐漸被美國(guó)企業(yè)放棄，比如當(dāng)年的存儲(chǔ)芯片龍頭英特爾早已完全退出存儲(chǔ)芯片市場(chǎng)，轉(zhuǎn)而增加了對(duì)韓國(guó)的依賴。

好在美國(guó)還剩最后的獨(dú)苗美光科技。在存儲(chǔ)這個(gè)刺刀見(jiàn)紅的嗜血賽道上，它的生存之道是 " 茍住 "。為了避免出現(xiàn)重大損失，美光一直在研發(fā)策略上堅(jiān)持不做首發(fā)者，而更傾向于采取跟隨戰(zhàn)術(shù)，這樣能夠避免高昂的研發(fā)投入和可能打水漂的資本開(kāi)支。

美光開(kāi)始研發(fā) HBM 的時(shí)間相對(duì)較晚，現(xiàn)在主流的 HBM3 上，美光的進(jìn)度較海力士和三星落后半年以上。半年差距看似不大，但在 AI 硬件軍備競(jìng)賽中，時(shí)間就是生命，大家為了保證大模型的領(lǐng)先，都爭(zhēng)相上最先進(jìn)的算力產(chǎn)品，用最新的卡、最大帶寬的光模塊和最優(yōu)質(zhì)的 HBM，因此晚半年推出，就代表著整個(gè)市場(chǎng)的錯(cuò)失，所以美光在 HBM 的份額低到只有個(gè)位數(shù)。

為了實(shí)現(xiàn)彎道超車(chē)，美光已經(jīng)開(kāi)始挖海力士和三星的核心人才，同時(shí)開(kāi)啟多代產(chǎn)品的并行研發(fā)。公司放衛(wèi)星的表示，將在 2024 年年底實(shí)現(xiàn) HBM3E 的量產(chǎn)，如果屆時(shí)完成，將使得其與韓國(guó)巨頭的技術(shù)差距明顯縮小。此外，公司規(guī)劃在 2028 年量產(chǎn) HBM4E ，將每個(gè)堆棧的容量提升到 48GB 至 64GB。

3. 中國(guó)突圍路在何方？

美國(guó)尚存獨(dú)苗，中國(guó)的 HBM 行業(yè)尚處 0 到 1 的階段，要補(bǔ)的課更多。

目前，中國(guó)企業(yè)在 HBM 產(chǎn)業(yè)鏈上的存在感甚至還要落后于先進(jìn)制程與 GPU。如果說(shuō) GPU 只是人優(yōu)我差的問(wèn)題，HBM 則是人有我無(wú)的問(wèn)題。

雖然 A 股已經(jīng)對(duì) HBM 進(jìn)行了一輪又一輪的炒作，但不得不承認(rèn)的客觀現(xiàn)實(shí)是，國(guó)內(nèi)到現(xiàn)在無(wú)法量產(chǎn) HBM，這成為國(guó)內(nèi)自研 AI 芯片的重大隱憂，因?yàn)?GPU 需要和 HBM 利用 CoWoS 工藝封裝在一起，國(guó)產(chǎn)的 GPU 和 CoWoS 工藝都已經(jīng)解決了有沒(méi)有的問(wèn)題，已經(jīng)進(jìn)入量產(chǎn)爆發(fā)階段，而 HBM 還遙遙無(wú)期。

不同于境外市場(chǎng)要么押注龍頭海力士，要么押注能追趕上的美光，這種簡(jiǎn)單的選擇題。A 股對(duì) HBM 的投資邏輯演化成兩條：

參與全球產(chǎn)業(yè)鏈。選擇能夠參與到全球 HBM 供應(yīng)鏈中的企業(yè)，比如做材料、代銷和封測(cè)的企業(yè)，如雅克科技、神工股份、太極實(shí)業(yè)、香農(nóng)芯創(chuàng)等等。

選擇相信國(guó)產(chǎn)化能夠成功。國(guó)內(nèi)具備大宗 DRAM 能力的企業(yè)長(zhǎng)鑫、晉華均未上市，因此選擇能夠可能在 HBM 封裝上面能夠發(fā)揮作用上市公司，如通富微電、興森科技、甬夕電子、長(zhǎng)電科技等。

國(guó)產(chǎn) HBM 正處于 0 到 1 的突破期；考慮到海外的貿(mào)易保護(hù)主義抬頭，可能靠自己是一條不得不走的路只能靠我們自己。

時(shí)間就是生命，但由于在 DRAM 領(lǐng)域的落后，一家企業(yè)去主導(dǎo) HBM 的突破顯得更加困難。從產(chǎn)業(yè)鏈合力的角度，更有望突破，HBM 顯然需要存儲(chǔ)廠、晶圓代工廠、封測(cè)廠的通力合作。根據(jù)最新的產(chǎn)業(yè)信息，到 2026 年我國(guó)將具備量產(chǎn) HBM 的能力，但這一速度顯然還是有點(diǎn)跟不上日新月異的大模型需求。

也就是說(shuō)，現(xiàn)在，留給 HBM 中國(guó)隊(duì)的時(shí)間唯 " 緊迫 " 二字。