3月21日消息，NVIDIA近日宣布了未來三代AI服務器，不但規(guī)格、性能越來越強，HBM內(nèi)存也是同步升級，容量、頻率、帶寬都穩(wěn)步前進。

其中，基于GB300芯片的Blackwell Ultra NVL72今年下半年發(fā)布，繼續(xù)采用HBM3E內(nèi)存；明年下半年的Vera Rubin NVL144升級為下一代HBM4內(nèi)存；后年下半年的Rubin Ultra NVL576繼續(xù)升級為加強版HBM4E內(nèi)存；而到了2028年的Feynman全新架構(gòu)有望首次采用HBM5內(nèi)存。

與此同時，SK海力士、三星、美光三大原廠也紛紛展示了自己的HBM內(nèi)存發(fā)展規(guī)劃，包括HBM4、HBM4e。

SK海力士如今作為HBM內(nèi)存的領(lǐng)袖，直接擺出了一顆48GB大容量的HBM4，是世界第一顆，也是最強的一顆。

它采用單Die 24Gb(3GB)的設(shè)計，16Hi也就是16顆堆疊而成，數(shù)據(jù)傳輸率8Gbps，IO位寬2048-bit，也就是一顆的帶寬就有2TB/s。

美光的沒有做過多介紹，只是說性能比HBM3e提升了50％，而量產(chǎn)時間安排在2026年。

三星的資料最為詳盡，不但有具體參數(shù)，還有規(guī)劃路線圖。

三星這次展示的HBM4密度也是單Die 24Gb，單顆容量則有36GB(12堆疊)、24GB(8堆疊)兩種，不如SK海力士。

不過，數(shù)據(jù)傳輸率最高9.2Gbps，帶寬最高2.3TB/s。

它采用MPGA封裝，尺寸12.8x11毫米，堆疊高度775微米，能效為每bit 2.3PJ。

對于下代HBM4E，三星規(guī)劃單Die容量提高到32Gb(4GB)，支持8/12/16堆疊，因此單顆容量最大可以做到64GB，而且高度維持不變。

同時數(shù)據(jù)傳輸率提高到10Gbps，繼續(xù)搭配2048-bit位寬，帶寬可達2.56TB/s。

HBM內(nèi)存現(xiàn)階段和可預見的未來都會主要用于AI服務器，應該是不會下放到消費級顯卡了，當年的AMD Fiji、Vega恐怕成為絕唱。

目前，中國在DRAM內(nèi)存、NAND閃存方面都已經(jīng)基本追上了國際領(lǐng)先水平或者差距不大，HBM則還需要大大努力。

消息稱，多家中國廠商已經(jīng)搞定了第二代HBM2，并已供貨給客戶，搭配國產(chǎn)AI GPU加速器，倒也相得益彰。