《電子技術應用》
您所在的位置:首頁 > 模擬設計 > 業(yè)界動態(tài) > 英特爾Guadi 3對華特供版或僅為英偉達H20的一半

英特爾Guadi 3對華特供版或僅為英偉達H20的一半

2024-06-11
來源:芯智訊

0.png

雖然目前在AI加速芯片市場,英偉達可謂是一家獨大,占據(jù)了大約超過90%的市場份額,但是英偉達AI加速芯片的供應瓶頸和高昂的價格也讓不少客戶頗有微詞。

對此,AMD和英特爾也在持續(xù)推出更具性價比AI加速芯片來爭奪市場份額。根據(jù)最新披露的數(shù)據(jù)顯示,英特爾新推出的 Guadi 3 的價格僅為15,650美元左右,只有英偉達H100 80G版本價格的一半左右。

資料顯示,Gaudi 3將基于臺積電5nm工藝,擁有 8 個矩陣數(shù)學引擎、64 個張量內(nèi)核、96MB SRAM(每個Tile 48MB,可提供12.8 TB/s的總帶寬) 和 128 GB HBM2e 內(nèi)存,16 個 PCIe 5.0 通道和 24 個 200GbE 鏈路 。在計算核心的周圍,則是八個HBM2e內(nèi)存堆棧,總?cè)萘繛?28 GB,帶寬為3.7 TBps。

根據(jù)英特爾官方公布的數(shù)據(jù)顯示,Gaudi 3 在流行的大語言模型(LLM)訓練速度方面,比英偉達H100平均快了40%;在流行大模型的推理能效表現(xiàn)上,比如英偉達H100領先50%。英特爾 Gaudi 3 與英偉達 H100 在相同節(jié)點數(shù)量下,相關大模型訓練時間對比上最高快了1.7倍,其中,LLAMA2 70 億參數(shù)對比有 1.5 倍于 H100 的優(yōu)勢,LLAMA2 130 億參數(shù)最高有 1.7 倍的優(yōu)勢,GPT-3 1750 億參數(shù)有 1.4 倍優(yōu)勢。在大模型推理速度表現(xiàn)上,Gaudi 3 相比 H100 平均快了1.5倍,最高快了4倍。

0.png

英特爾CEO帕特·基辛格在Computex 2024展會上表示,其Xeon處理器與Gaudi系列加速器不僅具備高效能,整體成本低于其他平臺的三分之一,這兩款產(chǎn)品也可以整合在單一系統(tǒng)中,整體平臺也比其他競爭者的解決方案更具競爭力。

目前,英特爾Gaudi 3已經(jīng)上市,并且與戴爾、慧與科技、聯(lián)想、美超威、華碩、鴻海、技嘉、英業(yè)達、廣達和緯創(chuàng)展開合作。

根據(jù)Tirias Research 分析師 Jim McGregor 最新公布的數(shù)據(jù)顯示,英特爾集成了8個Gaudi 2 芯片的加速器售價為 65,000 美元,集成了8個Gaudi 3 芯片的加速器售價為 125,000 美元。這也意味著單個 Gaudi 2 芯片價格約為 8,125 美元,而單個 Gaudi 3 芯片價格約為 15,650 美元。當然,這是批量購買時的價格,如果采購量更大,英特爾可能還會進一步提供折扣。

對比之下,英偉達當前熱銷的 H100 80GB 加速卡售價約為 30,000 美元。匯豐銀行預計,基于 Blackwell 架構的英偉達“入門級”下一代 B100 GPU 的平均售價 (ASP) 將在 30,000 美元至 35,000 美元之間,與當前的 H100 價格相當(B100上市后,H100會進一步降價)。性能更強大的 GB200 則集成了一個 Grace CPU 和兩個 B200 GPU,預計售價在 60,000 美元至 70,000 美元之間。但是,需要注意的是,這些只是分析師的估計,實際價格可能會更高。

顯然,英特爾最新的 Guadi 3 不僅性能優(yōu)于英偉達H100 80G,價格更是僅只有其一半左右,這個價格顯然還是非常有吸引力的。

如果與英偉達對華特供的AI加速芯片H20,以及華為的昇騰910B相比,英特爾Gaudi 3 則更具性價比優(yōu)勢。

此前的消息顯示,AI算力只有英偉達H100不到15%的H20的批量價格已經(jīng)降至了10萬元人民幣左右(約13,800美元),而華為昇騰910B售價約在12萬元人民幣(約合16,556美元)左右。

當然由于美國出口限制的存在,英特爾Gaudi 3 也無法直接對華銷售。不過,根據(jù)之前曝光的消息,英特爾也準備對華推出“特供版”的Gaudi 3,AI性能似乎只有原版的Gaudi 3的不到10%,不過即便如此應該還是要優(yōu)于英偉達H20,畢竟英特爾Gaudi 3的128GB HBM內(nèi)存容量更大(英偉達H20 HBM容量為96 GB)。

對于AI芯片來說,AI算力固然重要,但絕不能小看更大HBM容量所帶來的優(yōu)勢。此前的分析數(shù)據(jù)顯示,擁有更大HBM容量的英偉達H20在多數(shù)大模型推理場景中的速度表現(xiàn)比英偉達H100更優(yōu)異。

據(jù)此不難推測,擁有更大HBM容量的英特爾對華特供版Gaudi 3 整體的性能表現(xiàn)要更優(yōu)于英偉達H20,并且特供版的Gaudi 3 價格預計也將會更低。參考英偉達H20的定價,其價格大約僅為H100的一半,如果對華特供版Gaudi 3 也只有原版的一半,那么價格大約為7825美元,僅為英偉達H20最初價格(約15,000美元)的一半左右。

不過,以上對于特供版Gaudi 3 價格只是推測,畢竟目前還沒在國內(nèi)上市,但可以確定的是定價必定會比英偉達H20更低,這意味著英偉達H20接下來不僅將面臨昇騰910B的競爭,也將面臨英特爾對華特供版Gaudi 3 的強力競爭,可謂是“壓力山大”。

Magazine.Subscription.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權者。如涉及作品內(nèi)容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。