《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 人工智能 > 業(yè)界動(dòng)態(tài) > 兆芯全系整機(jī)成功部署DeepSeek-R1

兆芯全系整機(jī)成功部署DeepSeek-R1

雙路64核跑滿血671B
2025-02-25
來(lái)源:快科技
關(guān)鍵詞: 兆芯 Deepseek GPU AI加速卡

2月24日消息,兆芯官方宣布,基于兆芯處理器的PC筆記本/臺(tái)式機(jī)終端、工作站、服務(wù)器,已經(jīng)全系成功實(shí)現(xiàn)DeepSeek-R1 Distill模型的本地部署,涵蓋1.5B、7B、14B、32B、70B、671B等各種參數(shù)規(guī)模。

操作系統(tǒng)方面,兆芯原生支持Linux、Windows、各家國(guó)產(chǎn)操作系統(tǒng),并適配國(guó)產(chǎn)GPU AI加速卡。

1.jpg

KX-7000臺(tái)式機(jī)本地部署DeepSeek-R1-7B模型 

基于開(kāi)先KX-7000桌面處理器的臺(tái)式機(jī),通過(guò)搭配國(guó)內(nèi)顯卡、加速卡,在本地成功部署DeepSeek-R1-7B模型,可充分發(fā)揮DeepSeek強(qiáng)大的語(yǔ)義理解和推理能力。

通過(guò)與WPS Word、Excel、VSCode等常用工具的整合,可以實(shí)現(xiàn)智能文檔處理、數(shù)據(jù)處理、智能編程等功能。

2.png

智能文檔處理

3.png

智能數(shù)據(jù)處理

4.png

智能編程

KX-7000是兆芯新一代的高性能桌面PC處理器,采用全新的“世紀(jì)大道”自主內(nèi)核微架構(gòu),以及先進(jìn)的Chiplet互連架構(gòu),集成8個(gè)CPU核心,共享32MB 三級(jí)緩存,最高工作頻率可達(dá)3.7GHz。

KH-40000/16工作站部署DeepSeek-R1-32B模型

基于KH-40000/16服務(wù)器處理器的工作站“聯(lián)和東海XRS302”,成功部署了DeepSeek-R1-7B、14B、32B模型。

該工作站配備了4塊高性能的國(guó)產(chǎn)GPU推理加速卡,可提供高性價(jià)比、穩(wěn)定高效的推理能力,而優(yōu)化的CPU與多GPU間互連架構(gòu),可有效提升傳輸帶寬,降低延遲。

它還采用了低功耗、靜音設(shè)計(jì),適合智能辦公等桌面本地化AI推理場(chǎng)景。

5.png

聯(lián)和東海XRS302 AI工作站

KH-40000/32雙路服務(wù)器部署DeepSeek R1 671B模型

在服務(wù)器端,開(kāi)勝KH-40000/32處理器可提供雙路64核心的高性能計(jì)算能力,支持2TB海量?jī)?nèi)存,提供強(qiáng)大的擴(kuò)展能力。

通過(guò)搭配國(guó)內(nèi)加速卡,開(kāi)勝KH-40000/32服務(wù)器已成功完成DeepSeek-R1-70B版本的適配和部署,適用于數(shù)學(xué)、編程、推理等應(yīng)用領(lǐng)域。

6.jpg

兆芯服務(wù)器終端上成功部署DeepSeek-R1-70B版本

同時(shí),針對(duì)滿血的DeepSeek-R1-671B大模型,在不插入任何外界加速卡的情況下,開(kāi)勝KH-40000/32處理器已經(jīng)完成本地部署,完整驗(yàn)證了兆芯服務(wù)器CPU架構(gòu)承載千億參數(shù)模型的硬件能力。


Magazine.Subscription.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問(wèn)題,請(qǐng)及時(shí)通過(guò)電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。