10月16日,在市場調(diào)研機(jī)構(gòu)TrendForce舉行的“AI時代半導(dǎo)體全局展開2025科技產(chǎn)業(yè)大預(yù)測”研討會上,TrendForce資深分析師龔明德表示,受益于云端服務(wù)供應(yīng)商(CSP)及品牌客戶對建設(shè)AI基礎(chǔ)設(shè)施需求強(qiáng)勁,2024年全球AI服務(wù)器(含搭載GPU、FPGA、ASIC等)出貨量將同比增長42%。2025年受云端業(yè)者及主權(quán)云等需求帶動,出貨量有望再增長約28%,推動AI服務(wù)器占整體服務(wù)器市場出貨量比例提高至近15%。中長期來看,預(yù)期在各種云端AI訓(xùn)練及推理應(yīng)用服務(wù)推進(jìn)下,2027年AI服務(wù)器占比有機(jī)會逼近19%。
觀察主要AI服務(wù)器芯片供應(yīng)商,龔明德認(rèn)為,英偉達(dá)(NVIDIA)表現(xiàn)一枝獨(dú)秀,其高階GPU 出貨量同比增長率將超過150%,其中以H200等H系列GPU為出貨主力產(chǎn)品。推動英偉達(dá)在2024年的AI GPU市場的市占率接近90%。至于Blackwell GPU平臺將于明年上半年放量并成為主流,明年占比從4% 拉高至84%。
其他AI芯片供應(yīng)商如AMD、英特爾以及云端服務(wù)供應(yīng)商也在積極推動自家的AI服務(wù)器芯片,將推升2025年AI芯片出貨增長動能,進(jìn)一步帶動AI芯片所需的先進(jìn)封裝(CoWoS)、高帶寬內(nèi)存(HBM)出貨量翻倍增長。先進(jìn)封裝技術(shù)也將從CoWoS-S 往CoWoS-L 邁進(jìn),HBM也將由HBM3 轉(zhuǎn)向HBM3e,也將明顯提升液冷散熱方案滲透率。
TrendForce 分析師邱珮雯認(rèn)為,隨著運(yùn)算能力提升,液態(tài)冷卻解決方案在數(shù)據(jù)中心逐步重要。在英偉達(dá)Blackwell GPU新平臺帶動下,GB200 NVL72 機(jī)柜方案的熱設(shè)計功耗(TDP)高達(dá)約140kW,須采用液冷方案才可有效解決散熱問題,預(yù)計初期將以水對氣(Liquid-to-Air,L2A)方式為主流。
除了英偉達(dá)之外,近年來谷歌、亞馬遜網(wǎng)絡(luò)服務(wù)公司(AWS)和微軟(Microsoft)等大型美系云端業(yè)者,也在布局液冷方案。其中CSP 自研高階ASIC 以谷歌最積極采用液冷方案,其TPU 芯片同時使用氣冷與液冷解決方案,其他CSP 仍以氣冷為主要散熱方案。中國產(chǎn)生方面,則以阿里巴巴采用液冷散熱解決方案最為積極。長期來看,全球?qū)SG 逐漸重視,將加速帶動散熱方案由氣冷轉(zhuǎn)液冷形式。
隨著頭部廠商的積極推動,預(yù)計AI 芯片的液冷散熱滲透率將從2024 年的11% 提升至2025 年的24%。