英特爾表示,數(shù)據(jù)中心芯片庫(kù)存消化時(shí)間遠(yuǎn)比PC更長(zhǎng),整個(gè)數(shù)據(jù)中心業(yè)務(wù)將延宕復(fù)蘇。日前,更傳出英特爾一批數(shù)據(jù)中心服務(wù)器CPU以40~50%折扣出售,最后由騰訊、阿里等大客戶出手“救援”。
同樣身處數(shù)據(jù)中心巨頭的英特爾與英偉達(dá),對(duì)于服務(wù)器的需求感受是冰火二重天,反映出傳統(tǒng)的通用服務(wù)器需求持續(xù)低迷,對(duì)比需求熱絡(luò)的AI服務(wù)器宛若兩個(gè)世界。
當(dāng)AI教主黃仁勛布道:你買(mǎi)越多,你節(jié)省越多(The more you buy, the more you save.)但也意味著當(dāng)你買(mǎi)越多的AI服務(wù)器芯片,需要的通用服務(wù)器芯片就會(huì)越少。
在數(shù)據(jù)中心領(lǐng)域,英偉達(dá)GPU生意越好,英特爾、AMD的CPU生意就會(huì)越暗淡,因此英特爾再度示警數(shù)據(jù)中心芯片庫(kù)存嚴(yán)重,知名分析師陸行之一語(yǔ)道破:英特爾在數(shù)據(jù)中心領(lǐng)域早已不再有話語(yǔ)權(quán),因?yàn)轭A(yù)算排擠效應(yīng),每賣(mài)一臺(tái)AI服務(wù)器,就會(huì)少賣(mài)好幾臺(tái)通用服務(wù)器。
為什么在AI數(shù)據(jù)中心里,使用GPU會(huì)勝過(guò)使用CPU?
如果只是單看采用GPU的AI服務(wù)器,會(huì)覺(jué)得該系統(tǒng)單價(jià)非常昂貴,買(mǎi)越多真的能省越多嗎? 其實(shí)仔細(xì)計(jì)算,舉例由960個(gè)CPU處理器組成的AI服務(wù)器價(jià)格1,000萬(wàn)美元,電力消耗為11GWh,可提供1倍的大型語(yǔ)言模型LLM處理性能,然而由172組GPU組成的AI服務(wù)器的價(jià)格雖然高達(dá)3400萬(wàn)美元,但是它能在同樣消耗11GWh電力的前提下,提供150倍效能,算下來(lái)只需要幾百臺(tái)NVIDIA DGX系統(tǒng),就可以取代采用CPU的上萬(wàn)臺(tái)服務(wù)器。這不就應(yīng)驗(yàn)了黃仁勛說(shuō)的“買(mǎi)越多,省越多”。
黃仁勛在今年2023 COMPUTEX演講中即提到,PC產(chǎn)業(yè)正同時(shí)經(jīng)歷“加速運(yùn)算”和“生成式AI”兩大轉(zhuǎn)變,CPU時(shí)代已經(jīng)結(jié)束,產(chǎn)業(yè)需要一個(gè)更快的計(jì)算模式,即是GPU。以往PC、服務(wù)器中最重要的零組件為CPU,但隨著需要大量計(jì)算能力的AI應(yīng)用出現(xiàn)后,GPU將成為主角,CPU淪為配角。目前最先進(jìn)的系統(tǒng)是采用8個(gè)GPU配1個(gè)CPU的配置,以發(fā)揮最高的計(jì)算能力。
另一個(gè)數(shù)據(jù)中心CPU和GPU感受兩極化的原因:GPU產(chǎn)能因?yàn)镃oWoS封裝產(chǎn)能不足而受限,大家買(mǎi)不到足夠GPU后來(lái)變成重復(fù)下單。
某客戶本來(lái)只需要50顆GPU,因?yàn)橘I(mǎi)不到足夠數(shù)量只好到處下訂,最后延伸出200顆GPU的需求量,即使最后訂單砍單一半,供需還是有缺口。這也是為什么黃仁勛一直說(shuō)GPU需求真的很強(qiáng)很強(qiáng),因?yàn)榭蛻舳寂氯必?,?shí)際下單的數(shù)量都早已超過(guò)實(shí)際需求不知道幾倍。
反觀通用服務(wù)器,因?yàn)槿蚪?jīng)濟(jì)景氣不佳,消費(fèi)力轉(zhuǎn)趨保守,服務(wù)器客戶對(duì)于新建的資本支紛紛縮手,轉(zhuǎn)而傾向優(yōu)化現(xiàn)有設(shè)備,或是用軟件更新等各種方式來(lái)延長(zhǎng)使用壽命和資源重新分配,釋放更大性能,因此通用服務(wù)器芯片供應(yīng)商當(dāng)然會(huì)感受到無(wú)盡寒意。
不過(guò),AI服務(wù)器和通用服務(wù)器的兩極化現(xiàn)象也不會(huì)無(wú)止境的擴(kuò)大下去,因?yàn)锳I服務(wù)器還是要建立在既有的基礎(chǔ)架構(gòu)和終端設(shè)備之上,GPU侵蝕很大部分的CPU使用量,但不能全然取代CPU。
短期內(nèi),生成式AI帶來(lái)很多新應(yīng)用和海量信息需求,大家趕著布建AI服務(wù)器,因此瘋狂下單GPU,等到AI服務(wù)器的需求布建到一定程度,最后還是會(huì)回過(guò)頭來(lái)布建通用服務(wù)器。長(zhǎng)期來(lái)看,AI服務(wù)器的氣勢(shì)如虹,終究會(huì)帶動(dòng)通用服務(wù)器需求脫離谷底才對(duì)。
近期,傳出ChatGPT有退潮跡象,微軟砍單Nvidia H100芯片的消息。加上英偉達(dá)股價(jià)自高點(diǎn)跌落,華爾街在英偉達(dá)股價(jià)上的多、空兩派將交戰(zhàn)太過(guò)激烈,繪聲繪影指出英偉達(dá)塞貨給另一家AI新創(chuàng)公司Coreweave虛灌營(yíng)收的夸張不實(shí)傳言,多多少少顯示AI過(guò)熱下的發(fā)展在資本市場(chǎng)上開(kāi)始有扭曲的跡象。
回頭來(lái)看英特爾的數(shù)據(jù)中心業(yè)務(wù),除了服務(wù)器CPU,英特爾也是有布局AI領(lǐng)域,2019年并購(gòu)以色列AI新創(chuàng)公司Habana Labs,推出AI加速器芯片Gaudi 2,采用7nm制程技術(shù),試圖挑戰(zhàn)Nvidia H100,更推進(jìn)新一代的Gaudi 3產(chǎn)品線問(wèn)世,采用5nm制程。
根據(jù)市調(diào)機(jī)構(gòu)統(tǒng)計(jì),目前在AI服務(wù)器領(lǐng)域,英偉達(dá)市占率有60~70%,其次是云端業(yè)者自行開(kāi)發(fā)的ASIC芯片。一般而言,大型的云服務(wù)提供商CSP除了采購(gòu)英偉達(dá)的GPU,像是Google、AWS也都有自己開(kāi)ASIC的解決方案。同時(shí)也可觀察到,英偉達(dá)在AI服務(wù)器高達(dá)70%的市占率,難怪英特爾、AMD等處理器大廠都加速推出相關(guān)AI產(chǎn)品來(lái)分一杯羹的急迫心態(tài)。
更多精彩內(nèi)容歡迎點(diǎn)擊==>>電子技術(shù)應(yīng)用-AET<<