《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 模拟设计 > 业界动态 > 英伟达坚持HBM:SRAM应用于AI芯片容量瓶颈是硬伤

英伟达坚持HBM:SRAM应用于AI芯片容量瓶颈是硬伤

2026-01-08
來源:IT之家
關(guān)鍵詞: 英伟达 HBM SRAM CES2026

1 月 8 日消息,科技媒體 Tom's Hardware 今天(1 月 8 日)發(fā)布博文,報(bào)道稱在 CES 2026 展會(huì)期間的問答環(huán)節(jié),英偉達(dá)首席執(zhí)行官黃仁勛針對(duì)“是否用更廉價(jià)的 SRAM 取代昂貴的 HBM”這一行業(yè)熱點(diǎn)進(jìn)行了回應(yīng)。

注:SRAM 全稱為 Static Random Access Memory,直譯為靜態(tài)隨機(jī)存取存儲(chǔ)器,是高速小容量的靜態(tài)緩存,基于觸發(fā)器,速度極快但成本高、密度低;HBM 是超高帶寬、大容量的 3D 堆疊式主存(基于 DRAM),通過垂直堆疊實(shí)現(xiàn)超高帶寬,功耗低、容量大,主要用于 AI / GPU,兩者定位不同,SRAM 是片上緩存,HBM 是系統(tǒng)級(jí)高帶寬內(nèi)存,共同服務(wù) AI 算力需求。

AI 行業(yè)當(dāng)前正積極尋找降低成本的途徑。隨著 SRAM 加速器、GDDR 推理方案以及開放權(quán)重模型的興起,業(yè)界出現(xiàn)了一種聲音,認(rèn)為這些低成本方案可以緩解對(duì)英偉達(dá)昂貴組件的依賴。

特別是在基準(zhǔn)測試(Benchmark)和受控演示中,SRAM 憑借極高的訪問速度和無延遲特性,展現(xiàn)出了誘人的性能優(yōu)勢(shì),甚至被視為 HBM 的潛在替代者。

黃仁勛并未否認(rèn) SRAM 的速度優(yōu)勢(shì)。他直言:“對(duì)于某些特定工作負(fù)載,SRAM 快得驚人。”然而,一旦進(jìn)入生產(chǎn)級(jí) AI 系統(tǒng),SRAM 的優(yōu)勢(shì)便會(huì)因容量瓶頸而崩塌。

黃仁勛指出,SRAM 的容量增長速度遠(yuǎn)跟不上現(xiàn)代模型的需求,其可容納的模型規(guī)模僅為 HBM 系統(tǒng)的百分之一。在模型因上下文增加或功能擴(kuò)展而溢出 SRAM 時(shí),系統(tǒng)被迫調(diào)用外部內(nèi)存,導(dǎo)致效率優(yōu)勢(shì)瞬間消失。

黃仁勛進(jìn)一步剖析了 AI 工作負(fù)載的不可預(yù)測性?,F(xiàn)代 AI 模型形態(tài)各異,包含混合專家模型(MOE)、多模態(tài)任務(wù)、擴(kuò)散模型及自回歸模型等。

這些架構(gòu)對(duì)硬件的壓力點(diǎn)截然不同:有的依賴顯存容量,有的依賴互連帶寬(NVLink),且需求時(shí)刻在變。如果硬件針對(duì)某一特定模式(如純 SRAM)過度優(yōu)化,一旦工作負(fù)載發(fā)生變化,昂貴的芯片就會(huì)閑置。

基于此,英偉達(dá)堅(jiān)持選擇 HBM 路線。黃仁勛認(rèn)為,在共享數(shù)據(jù)中心中,靈活性是決定經(jīng)濟(jì)效益的關(guān)鍵。即使某種專用硬件在 5%-10% 的任務(wù)中表現(xiàn)極致,但如果無法處理其余 90% 的通用任務(wù),就會(huì)造成巨大的資源浪費(fèi)。

相比之下,HBM 方案雖然物料成本更高,但能適應(yīng)不斷變化的算法和模型架構(gòu),確保硬件在數(shù)周甚至數(shù)月的運(yùn)營周期內(nèi)保持高利用率。

針對(duì)“開放模型是否會(huì)削弱英偉達(dá)壁壘”的提問,黃仁勛表示,開放并不意味著降低基礎(chǔ)設(shè)施要求。隨著開放模型整合更長的上下文和更多模態(tài),其內(nèi)存占用同樣會(huì)激增。

英偉達(dá)愿意承擔(dān)高昂的 HBM 成本和復(fù)雜的系統(tǒng)設(shè)計(jì),正是為了保留“可選性”(Optionality),既防止客戶被鎖定在狹窄的性能范圍內(nèi),也保護(hù)自身硬件免受模型架構(gòu)快速迭代的沖擊。


subscribe.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請(qǐng)及時(shí)通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。