10月7日,據(jù)viva100報道,三星電子最近購買了價值 2000 萬美元的 AMD Instinct MI300X GPU,以滿足其 AI數(shù)據(jù)中心的需求。
報道稱,目前三星新購買的這批 AMD Instinct MI300X GPU,已被送往 DX 部門的領(lǐng)先機構(gòu) Samsung Research 進行測試。不過,三星尚未在其極限狀態(tài)下對MI300X進行測試。據(jù)在三星工作的內(nèi)部人士稱,AI 開發(fā)進入全面測試狀態(tài)還需要更多時間。
資料顯示,AMD MI300X內(nèi)部集成了12個5/6nm工藝的小芯片(HMB和I/O為6nm),擁有1530億個晶體管。在內(nèi)核設(shè)計上,采用了相比MI250X更多計算核心的 CDNA 3 GPU,其每個基于CDNA 3 GPU架構(gòu)的XCD總共有八個計算芯片(XCD),每個計算芯片有40個計算單元,總共有320個計算單元,即20480個核心單元。不過量產(chǎn)版實際總共有304個計算單元(每個GPU小芯片38個CU),19456個流處理器。MI300X還配備了更大的 192GB HBM3內(nèi)存(8個HBM3封裝,每個堆棧為12 Hi)相比MI250X提高了50%,帶來高達5.3TB/s的帶寬和896GB/s的Infinity Fabric帶寬。
根據(jù)AMD的說法,MI300X與英偉達的H100加速器相比,內(nèi)存容量提高 2.4 倍,內(nèi)存帶寬提高 1.6 倍,F(xiàn)P16/FP8 TFLOPS算力是其1.3 倍。在 1v1 比較中,速度比 H100 (Llama 2 70B) 快達 20%;在 1v1 比較中,速度比 H100 (FlashAttention 2) 快達 20%。
從價格來看,公開資料顯示,MI300X 的售價約15000美元,而英偉達H100售價高達30000美元。而報道稱,三星此次大規(guī)模采購的MI300X的價格僅為10000美元,只有英偉達H100的1/3,確實非常實惠。
雖然此前的一些公開測試顯示,MI300X在部分AI工作負載性能方面落后于英偉達H100,但三星電子最近在對于MI300X的一些測試顯示,MI300X性能與英偉達H100相當(dāng),更何況MI300X價格也更為實惠。
值得注意的是,三星電子最近也向AMD提供了其新的HBM3E內(nèi)存進行測試,希望AMD將其用于其 Instinct GPU 系列。而在此之前,三星電子的HBM3E 內(nèi)存已經(jīng)通過了英偉達GPU的認證。預(yù)計三星未來將繼續(xù)從 AMD 購買 GPU,同時推動AMD采用三星的HBM3E內(nèi)存。據(jù)一位三星電子的高管稱,預(yù)計兩家公司之間的聯(lián)系將進一步加強。