谷歌正尋求與芯片設(shè)計商Marvell Technology合作,開發(fā)兩款專為AI推理工作負載定制的新芯片,此舉是谷歌系統(tǒng)性削減對長期合作伙伴博通依賴的最新舉措,也折射出AI行業(yè)對推理芯片需求的急劇升溫。
據(jù)The Information 19日報道,知情人士透露,谷歌與Marvell的談判涉及兩款芯片:一款是配合谷歌張量處理器(TPU)運行的內(nèi)存處理單元(MPU),另一款是專為運行AI模型而設(shè)計的新型TPU。與谷歌此前向Marvell采購現(xiàn)貨芯片不同,此次合作旨在為谷歌量身定制專屬半導體產(chǎn)品。
此次談判對芯片市場格局具有直接影響。博通股價面臨潛在壓力——盡管博通本月剛與谷歌簽署了延續(xù)至2031年的新協(xié)議,但谷歌多元化供應(yīng)商的戰(zhàn)略意圖已愈發(fā)清晰。與此同時,Marvell有望進一步擴大其定制芯片業(yè)務(wù)版圖,該業(yè)務(wù)目前已是其增速最快的板塊。
兩款新芯片:分工明確,直指推理效率
據(jù)兩位知情人士透露,谷歌與Marvell合作開發(fā)的內(nèi)存處理單元將與現(xiàn)有TPU協(xié)同工作,根據(jù)計算需求與內(nèi)存需求的差異,在兩類芯片之間動態(tài)分配AI工作負載。這一設(shè)計思路源于推理任務(wù)的內(nèi)在異質(zhì)性——生成響應(yīng)的某些步驟對算力要求極高,另一些步驟則受制于芯片讀寫內(nèi)存的速度,單一處理器難以兼顧兩者。
谷歌計劃生產(chǎn)近200萬個內(nèi)存處理單元,但知情人士指出,由于談判仍處于早期階段,該數(shù)字存在變動可能。作為參照,摩根士丹利估計谷歌2027年的TPU產(chǎn)量約為600萬個。雙方目標是最快于明年完成內(nèi)存處理單元的設(shè)計定稿,隨后移交試產(chǎn)。
第二款芯片——專為推理場景打造的新型TPU——的設(shè)計完成時間及計劃產(chǎn)量目前尚不明確。谷歌目前在臺積電生產(chǎn)芯片,新芯片是否仍由臺積電代工同樣有待確認。
推理芯片軍備競賽提速,英偉達發(fā)布LPU成催化劑
谷歌加速推進這一合作,部分原因在于英偉達的競爭壓力。
據(jù)一名谷歌員工透露,谷歌此前已有開發(fā)推理芯片的計劃,英偉達在今年3月GTC大會上發(fā)布語言處理單元(LPU)后,谷歌隨即加快了相關(guān)工作。英偉達的LPU基于其以200億美元從初創(chuàng)公司Groq授權(quán)的技術(shù)構(gòu)建,而Marvell正是Groq第一代LPU的芯片設(shè)計合作伙伴——這意味著Marvell已具備設(shè)計推理芯片的實戰(zhàn)經(jīng)驗。
推理芯片需求的爆發(fā),根本上源于AI產(chǎn)品形態(tài)的演進。隨著自主智能體等更復雜的AI應(yīng)用落地,其所需算力遠超傳統(tǒng)聊天機器人。OpenAI近期與Cerebras簽署了逾200億美元的推理芯片采購協(xié)議,同時也在與博通聯(lián)合開發(fā)自有推理芯片,行業(yè)整體正加速布局這一賽道。
去博通化:戰(zhàn)略意圖明確,但進程仍受制約
谷歌尋求與Marvell合作,是其自2023年以來持續(xù)推進供應(yīng)商多元化戰(zhàn)略的組成部分。博通長期作為谷歌TPU的唯一設(shè)計合作伙伴,并按每顆TPU產(chǎn)量收取授權(quán)費——隨著TPU需求激增,谷歌支付給博通的費用水漲船高,這是谷歌尋求替代方案的核心動因。
谷歌已于去年引入聯(lián)發(fā)科參與TPU芯片的設(shè)計與生產(chǎn)。此次與Marvell的談判,則進一步拓寬了谷歌的合作伙伴矩陣。谷歌此前已向Marvell采購過CXL控制器芯片,用于管理數(shù)據(jù)中心內(nèi)服務(wù)器間的內(nèi)存共享,這段合作經(jīng)歷為雙方建立了互信基礎(chǔ)。
然而,博通的核心地位短期內(nèi)難以撼動。博通本月剛與谷歌簽署新協(xié)議,將為谷歌下一代AI數(shù)據(jù)中心機架提供定制TPU及網(wǎng)絡(luò)組件,合作期限延伸至2031年。這表明,谷歌的多元化戰(zhàn)略更多是在現(xiàn)有格局上疊加新選項,而非徹底切換。
對Marvell而言,與谷歌的深度合作意味著其定制芯片業(yè)務(wù)有望再獲重量級客戶背書。Marvell的主營業(yè)務(wù)涵蓋數(shù)據(jù)中心標準網(wǎng)絡(luò)、存儲及光互聯(lián)芯片,但近年來協(xié)助客戶設(shè)計專屬芯片的定制業(yè)務(wù)已成為其增速最快的板塊。
谷歌TPU的商業(yè)化進程也為此次合作提供了更廣闊的市場想象空間。谷歌去年開始向非谷歌數(shù)據(jù)中心的客戶租賃TPU,直接挑戰(zhàn)英偉達在AI芯片市場的主導地位,Anthropic、Meta和蘋果均已成為TPU客戶。若新型推理芯片研發(fā)順利,其潛在市場將不局限于谷歌內(nèi)部需求。

