11月5日消息,在SK AI Summit 2024上,SK 海力士領(lǐng)先三星和美光,發(fā)布了業(yè)界首款16層堆疊(16Hi)的 HBM3E內(nèi)存,并確?!凹夹g(shù)穩(wěn)定性”,計劃最早在明年年初提供樣品。
在幾周之前,SK 海力士才推出了12層堆疊的 HBM3E內(nèi)存,獲得了AMD MI325X和英偉達Blackwell Ultra的合同。而最新的16層堆疊的 HBM3E內(nèi)存的容量為 48GB(每個芯片 3GB)。這種密度的增加,可以使得 AI 加速器能夠在8個HBM堆棧配置中擁有高達 384GB 的HBM3E容量。
SK 海力士聲稱,16層堆疊的 HBM3E 的AI訓(xùn)練性能提高了 18%,推理性能提高了 32%。與 12層對的的HMB3E一樣,新的16層堆疊的HBM3E采用了 MR-MUF 等封裝技術(shù),該技術(shù)通過熔化芯片之間的焊料來連接芯片。
SK 海力士預(yù)計16層堆疊HBM3E 樣品將于2025 年初準備好。然而,這種內(nèi)存可能只是短暫的過渡產(chǎn)品,因為SK海力士計劃2025下半年推出首批12層堆疊的HBM4產(chǎn)品,16層堆疊的HBM4將會在2026年推出。
同時,SK海力士還透露,英偉達CEO黃仁勛要求其提前6個月供應(yīng)HBM4,SK海力士也愿意嘗試,將加強與英偉達合作。這也意味著HM4有可能提前量產(chǎn)。
有報道稱,SK 海力士早在今年10月就已經(jīng)實現(xiàn)了HBM4的流片。遵循傳統(tǒng)的芯片開發(fā)生命周期,預(yù)計英偉達和AMD將在2025年第一季度/第二季度收到認證樣品。
資料顯示,HBM4 將通道寬度從 1024 位增加到 2048 位,同時支持超過 16 個垂直堆疊的 DRAM 芯片,每個芯片的內(nèi)存高達 4GB。這將帶來巨大的升級,應(yīng)該足以滿足即將推出的 AI GPU 的需求。
此外,SK海力士還在積極開發(fā) PCIe 6.0 SSD、針對 AI 服務(wù)器的大容量 QLC(四層單元)eSSD 和用于移動設(shè)備的 UFS 5.0。SK海力士還在開發(fā)一種LPCAMM2模塊,并使用其1c nm制程節(jié)點開發(fā)焊接的LPDDR5/6存儲器。
為了克服“內(nèi)存墻”,SK海力士還正在開發(fā)近內(nèi)存處理 (PNM)、存內(nèi)處理 (PIM) 和計算存儲等解決方案。三星此前已經(jīng)演示了其 PIM 版本——其中數(shù)據(jù)在內(nèi)存中處理,因此數(shù)據(jù)不必移動到外部處理器。