《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 百度發(fā)布百舸AI計算平臺5.0

百度發(fā)布百舸AI計算平臺5.0

性能提升8倍 1萬億參數(shù)模型輕松跑
2025-08-29
來源:快科技
關(guān)鍵詞: 百度 AI計算

8月28日消息,在今天舉辦的2025百度云智大會上,百度智能云正式發(fā)布百度百舸AI計算平臺5.0全新版本。

此次升級在網(wǎng)絡(luò)、算力、推理系統(tǒng)及訓(xùn)推一體系統(tǒng)等四大方向?qū)崿F(xiàn)全面能力提升。

網(wǎng)絡(luò)方面,VPC、RDMA、X-link三張網(wǎng)實現(xiàn)全面升級,通信更快,延遲更低,模型訓(xùn)推效率得到提升。

算力方面,昆侖芯超節(jié)點上線公有云服務(wù),超級算力正式可用。即使是1萬億參數(shù)的開源模型,也只需要幾分鐘、1個云實例,就可以輕松跑起來。

最新測試顯示,超節(jié)點性能達(dá)到上一代實例8倍,單卡吞吐提升近一倍,比國內(nèi)的同類產(chǎn)品高出15%。

推理系統(tǒng)層面,通過算子解耦、自適應(yīng)并行策略及分布式KV Cache等創(chuàng)新,將DeepSeek R1的推理吞吐效率提升50%,大幅降低長文本響應(yīng)延遲。

s_2bbc44fd76e343fea8136635c5a7e700.jpg


Magazine.Subscription.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。