2月26日消息,今天上午9點,DeepSeek繼續(xù)履行開源周承諾,發(fā)布了開源DeepGEMM。該帖子一經(jīng)轉(zhuǎn)發(fā),立即引來了2.1萬閱讀量,足以見其在國內(nèi)外受到追捧的熱度。
據(jù)了解,DeepGEMM是一個專注于為FP8高效通用矩陣乘法(GEMM)庫,支持普通及混合專家(MoE)分組的矩陣計算需求,可動態(tài)優(yōu)化資源分配以提升算力效率。
該庫基于CUDA開發(fā),采用輕量級即時編譯(JIT)模塊,在運行時動態(tài)編譯內(nèi)核,無需預(yù)先編譯安裝。
值得一提的是,DeepGEMM設(shè)計目標(biāo)是為DeepSeek-V3/R1模型的訓(xùn)練與推理提供簡潔高效的底層支持,尤其針對Hopper架構(gòu)GPU(如H800)優(yōu)化,兼顧高性能與低成本。
作為開源周的第三項成果,DeepGEMM的發(fā)布延續(xù)了DeepSeek此前開源模型與工具(如FlashMLA)的策略,進一步降低高性能計算技術(shù)的應(yīng)用門檻。
另外,本次開源屬于DeepSeek“開源周”(2月24日-28日)的第三項項目,此前已發(fā)布FlashMLA(高效解碼內(nèi)核)和DeepEP(專家并行通信庫)。
本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。