《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 模擬設(shè)計(jì) > 業(yè)界動(dòng)態(tài) > 英特爾Guadi 3對(duì)華特供版或僅為英偉達(dá)H20的一半

英特爾Guadi 3對(duì)華特供版或僅為英偉達(dá)H20的一半

2024-06-11
來源:芯智訊

0.png

雖然目前在AI加速芯片市場(chǎng),英偉達(dá)可謂是一家獨(dú)大,占據(jù)了大約超過90%的市場(chǎng)份額,但是英偉達(dá)AI加速芯片的供應(yīng)瓶頸和高昂的價(jià)格也讓不少客戶頗有微詞。

對(duì)此,AMD和英特爾也在持續(xù)推出更具性價(jià)比AI加速芯片來爭(zhēng)奪市場(chǎng)份額。根據(jù)最新披露的數(shù)據(jù)顯示,英特爾新推出的 Guadi 3 的價(jià)格僅為15,650美元左右,只有英偉達(dá)H100 80G版本價(jià)格的一半左右。

資料顯示,Gaudi 3將基于臺(tái)積電5nm工藝,擁有 8 個(gè)矩陣數(shù)學(xué)引擎、64 個(gè)張量?jī)?nèi)核、96MB SRAM(每個(gè)Tile 48MB,可提供12.8 TB/s的總帶寬) 和 128 GB HBM2e 內(nèi)存,16 個(gè) PCIe 5.0 通道和 24 個(gè) 200GbE 鏈路 。在計(jì)算核心的周圍,則是八個(gè)HBM2e內(nèi)存堆棧,總?cè)萘繛?28 GB,帶寬為3.7 TBps。

根據(jù)英特爾官方公布的數(shù)據(jù)顯示,Gaudi 3 在流行的大語言模型(LLM)訓(xùn)練速度方面,比英偉達(dá)H100平均快了40%;在流行大模型的推理能效表現(xiàn)上,比如英偉達(dá)H100領(lǐng)先50%。英特爾 Gaudi 3 與英偉達(dá) H100 在相同節(jié)點(diǎn)數(shù)量下,相關(guān)大模型訓(xùn)練時(shí)間對(duì)比上最高快了1.7倍,其中,LLAMA2 70 億參數(shù)對(duì)比有 1.5 倍于 H100 的優(yōu)勢(shì),LLAMA2 130 億參數(shù)最高有 1.7 倍的優(yōu)勢(shì),GPT-3 1750 億參數(shù)有 1.4 倍優(yōu)勢(shì)。在大模型推理速度表現(xiàn)上,Gaudi 3 相比 H100 平均快了1.5倍,最高快了4倍。

0.png

英特爾CEO帕特·基辛格在Computex 2024展會(huì)上表示,其Xeon處理器與Gaudi系列加速器不僅具備高效能,整體成本低于其他平臺(tái)的三分之一,這兩款產(chǎn)品也可以整合在單一系統(tǒng)中,整體平臺(tái)也比其他競(jìng)爭(zhēng)者的解決方案更具競(jìng)爭(zhēng)力。

目前,英特爾Gaudi 3已經(jīng)上市,并且與戴爾、慧與科技、聯(lián)想、美超威、華碩、鴻海、技嘉、英業(yè)達(dá)、廣達(dá)和緯創(chuàng)展開合作。

根據(jù)Tirias Research 分析師 Jim McGregor 最新公布的數(shù)據(jù)顯示,英特爾集成了8個(gè)Gaudi 2 芯片的加速器售價(jià)為 65,000 美元,集成了8個(gè)Gaudi 3 芯片的加速器售價(jià)為 125,000 美元。這也意味著單個(gè) Gaudi 2 芯片價(jià)格約為 8,125 美元,而單個(gè) Gaudi 3 芯片價(jià)格約為 15,650 美元。當(dāng)然,這是批量購買時(shí)的價(jià)格,如果采購量更大,英特爾可能還會(huì)進(jìn)一步提供折扣。

對(duì)比之下,英偉達(dá)當(dāng)前熱銷的 H100 80GB 加速卡售價(jià)約為 30,000 美元。匯豐銀行預(yù)計(jì),基于 Blackwell 架構(gòu)的英偉達(dá)“入門級(jí)”下一代 B100 GPU 的平均售價(jià) (ASP) 將在 30,000 美元至 35,000 美元之間,與當(dāng)前的 H100 價(jià)格相當(dāng)(B100上市后,H100會(huì)進(jìn)一步降價(jià))。性能更強(qiáng)大的 GB200 則集成了一個(gè) Grace CPU 和兩個(gè) B200 GPU,預(yù)計(jì)售價(jià)在 60,000 美元至 70,000 美元之間。但是,需要注意的是,這些只是分析師的估計(jì),實(shí)際價(jià)格可能會(huì)更高。

顯然,英特爾最新的 Guadi 3 不僅性能優(yōu)于英偉達(dá)H100 80G,價(jià)格更是僅只有其一半左右,這個(gè)價(jià)格顯然還是非常有吸引力的。

如果與英偉達(dá)對(duì)華特供的AI加速芯片H20,以及華為的昇騰910B相比,英特爾Gaudi 3 則更具性價(jià)比優(yōu)勢(shì)。

此前的消息顯示,AI算力只有英偉達(dá)H100不到15%的H20的批量?jī)r(jià)格已經(jīng)降至了10萬元人民幣左右(約13,800美元),而華為昇騰910B售價(jià)約在12萬元人民幣(約合16,556美元)左右。

當(dāng)然由于美國(guó)出口限制的存在,英特爾Gaudi 3 也無法直接對(duì)華銷售。不過,根據(jù)之前曝光的消息,英特爾也準(zhǔn)備對(duì)華推出“特供版”的Gaudi 3,AI性能似乎只有原版的Gaudi 3的不到10%,不過即便如此應(yīng)該還是要優(yōu)于英偉達(dá)H20,畢竟英特爾Gaudi 3的128GB HBM內(nèi)存容量更大(英偉達(dá)H20 HBM容量為96 GB)。

對(duì)于AI芯片來說,AI算力固然重要,但絕不能小看更大HBM容量所帶來的優(yōu)勢(shì)。此前的分析數(shù)據(jù)顯示,擁有更大HBM容量的英偉達(dá)H20在多數(shù)大模型推理場(chǎng)景中的速度表現(xiàn)比英偉達(dá)H100更優(yōu)異。

據(jù)此不難推測(cè),擁有更大HBM容量的英特爾對(duì)華特供版Gaudi 3 整體的性能表現(xiàn)要更優(yōu)于英偉達(dá)H20,并且特供版的Gaudi 3 價(jià)格預(yù)計(jì)也將會(huì)更低。參考英偉達(dá)H20的定價(jià),其價(jià)格大約僅為H100的一半,如果對(duì)華特供版Gaudi 3 也只有原版的一半,那么價(jià)格大約為7825美元,僅為英偉達(dá)H20最初價(jià)格(約15,000美元)的一半左右。

不過,以上對(duì)于特供版Gaudi 3 價(jià)格只是推測(cè),畢竟目前還沒在國(guó)內(nèi)上市,但可以確定的是定價(jià)必定會(huì)比英偉達(dá)H20更低,這意味著英偉達(dá)H20接下來不僅將面臨昇騰910B的競(jìng)爭(zhēng),也將面臨英特爾對(duì)華特供版Gaudi 3 的強(qiáng)力競(jìng)爭(zhēng),可謂是“壓力山大”。

Magazine.Subscription.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請(qǐng)及時(shí)通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。