《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 人工智能 > 業(yè)界動(dòng)態(tài) > 三星為其AI數(shù)據(jù)中心2000萬(wàn)美元采購(gòu)AMD MI300X芯片

三星為其AI數(shù)據(jù)中心2000萬(wàn)美元采購(gòu)AMD MI300X芯片

2024-10-08
來(lái)源:芯智訊

0.png

10月7日,據(jù)viva100報(bào)道,三星電子最近購(gòu)買(mǎi)了價(jià)值 2000 萬(wàn)美元的 AMD Instinct MI300X GPU,以滿(mǎn)足其 AI數(shù)據(jù)中心的需求。

報(bào)道稱(chēng),目前三星新購(gòu)買(mǎi)的這批 AMD Instinct MI300X GPU,已被送往 DX 部門(mén)的領(lǐng)先機(jī)構(gòu) Samsung Research 進(jìn)行測(cè)試。不過(guò),三星尚未在其極限狀態(tài)下對(duì)MI300X進(jìn)行測(cè)試。據(jù)在三星工作的內(nèi)部人士稱(chēng),AI 開(kāi)發(fā)進(jìn)入全面測(cè)試狀態(tài)還需要更多時(shí)間。

資料顯示,AMD MI300X內(nèi)部集成了12個(gè)5/6nm工藝的小芯片(HMB和I/O為6nm),擁有1530億個(gè)晶體管。在內(nèi)核設(shè)計(jì)上,采用了相比MI250X更多計(jì)算核心的 CDNA 3 GPU,其每個(gè)基于CDNA 3 GPU架構(gòu)的XCD總共有八個(gè)計(jì)算芯片(XCD),每個(gè)計(jì)算芯片有40個(gè)計(jì)算單元,總共有320個(gè)計(jì)算單元,即20480個(gè)核心單元。不過(guò)量產(chǎn)版實(shí)際總共有304個(gè)計(jì)算單元(每個(gè)GPU小芯片38個(gè)CU),19456個(gè)流處理器。MI300X還配備了更大的 192GB HBM3內(nèi)存(8個(gè)HBM3封裝,每個(gè)堆棧為12 Hi)相比MI250X提高了50%,帶來(lái)高達(dá)5.3TB/s的帶寬和896GB/s的Infinity Fabric帶寬。

根據(jù)AMD的說(shuō)法,MI300X與英偉達(dá)的H100加速器相比,內(nèi)存容量提高 2.4 倍,內(nèi)存帶寬提高 1.6 倍,F(xiàn)P16/FP8 TFLOPS算力是其1.3 倍。在 1v1 比較中,速度比 H100 (Llama 2 70B) 快達(dá) 20%;在 1v1 比較中,速度比 H100 (FlashAttention 2) 快達(dá) 20%。

從價(jià)格來(lái)看,公開(kāi)資料顯示,MI300X 的售價(jià)約15000美元,而英偉達(dá)H100售價(jià)高達(dá)30000美元。而報(bào)道稱(chēng),三星此次大規(guī)模采購(gòu)的MI300X的價(jià)格僅為10000美元,只有英偉達(dá)H100的1/3,確實(shí)非常實(shí)惠。

雖然此前的一些公開(kāi)測(cè)試顯示,MI300X在部分AI工作負(fù)載性能方面落后于英偉達(dá)H100,但三星電子最近在對(duì)于MI300X的一些測(cè)試顯示,MI300X性能與英偉達(dá)H100相當(dāng),更何況MI300X價(jià)格也更為實(shí)惠。

值得注意的是,三星電子最近也向AMD提供了其新的HBM3E內(nèi)存進(jìn)行測(cè)試,希望AMD將其用于其 Instinct GPU 系列。而在此之前,三星電子的HBM3E 內(nèi)存已經(jīng)通過(guò)了英偉達(dá)GPU的認(rèn)證。預(yù)計(jì)三星未來(lái)將繼續(xù)從 AMD 購(gòu)買(mǎi) GPU,同時(shí)推動(dòng)AMD采用三星的HBM3E內(nèi)存。據(jù)一位三星電子的高管稱(chēng),預(yù)計(jì)兩家公司之間的聯(lián)系將進(jìn)一步加強(qiáng)。


Magazine.Subscription.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問(wèn)題,請(qǐng)及時(shí)通過(guò)電子郵件或電話(huà)通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話(huà):010-82306118;郵箱:aet@chinaaet.com。