華為高管近期罕見(jiàn)公布昇騰 AI 算力的性能情況。

鈦媒體 App 6 月 17 日消息，近期舉行的 2024 世界半導(dǎo)體大會(huì)暨南京國(guó)際半導(dǎo)體博覽會(huì)的一場(chǎng)分論壇上，江蘇鯤鵬 · 昇騰生態(tài)創(chuàng)新中心首席運(yùn)營(yíng)官王陶透露，昇騰集群是國(guó)內(nèi)唯一已完成訓(xùn)練千億參數(shù)大模型的技術(shù)路線，性能已經(jīng)超過(guò)了英偉達(dá) A100。

王陶表示，中國(guó)大模型里面，有近 50%（1/2）選擇了昇騰技術(shù)路線。與英偉達(dá) A100 相比，昇騰 AI 芯片在訓(xùn)練效率層面最高是英偉達(dá)的 1.1 倍。尤其在訓(xùn)練 Meta Llama、BloomGPT 等模型方面，昇騰 AI 算力訓(xùn)練效率大大優(yōu)于英偉達(dá) A100，甚至 10 倍領(lǐng)先其他國(guó)產(chǎn)友商。

" 經(jīng)過(guò)三年的實(shí)驗(yàn)檢驗(yàn)，中國(guó)大模型總數(shù)的 1/2 選擇的昇騰技術(shù)路線。昇騰現(xiàn)在已經(jīng)是國(guó)產(chǎn)化大模型的第一選擇。而我們經(jīng)過(guò)測(cè)試，互聯(lián)網(wǎng)頭部廠商科大訊飛也用了華為的萬(wàn)卡集群，跟英偉達(dá) A100 的相比，我們能達(dá)到 A100 的 0.8~1.2 倍的效率，在跟英偉達(dá)相比（指 0.8 倍）的確還是有一定的差距，但是在大模型訓(xùn)練這一塊，（我們）跟英偉達(dá) A100 芯片相比已經(jīng)沒(méi)有明顯差距，特別是在萬(wàn)卡算力集群，包括在鯤鵬云腦、科大訊飛這一塊都經(jīng)過(guò)了市場(chǎng)檢驗(yàn)。" 王陶稱。

這是華為高管非常罕見(jiàn)的回應(yīng)昇騰 AI 算力性能與英偉達(dá) A100 之間的優(yōu)勢(shì)。

據(jù)悉，昇騰和鯤鵬分別是華為面向通用計(jì)算和智能計(jì)算的兩款算力產(chǎn)品，是華為 AI 計(jì)算生態(tài)里面的關(guān)鍵技術(shù)系列。

公開(kāi)信息顯示，江蘇鯤鵬 · 昇騰生態(tài)創(chuàng)新中心成立于 2019 年 8 月，是南京江北新區(qū)與華為聯(lián)合宣布發(fā)展鯤鵬計(jì)算產(chǎn)業(yè)后成立的創(chuàng)新機(jī)構(gòu)。王陶稱，創(chuàng)新中心的使命就是基于華為的鯤鵬、昇騰技術(shù)，聯(lián)合生態(tài)伙伴賦能千行百業(yè)進(jìn)行數(shù)字化轉(zhuǎn)型。

最新年報(bào)顯示，2023 年，華為公司共實(shí)現(xiàn)營(yíng)收 7042 億元（人民幣，下同），同比增長(zhǎng) 9.6%；凈利潤(rùn) 870 億元，同比大增 144%。同時(shí)，華為重視研究與創(chuàng)新，2023 年研發(fā)投入達(dá)到 1647 億元，占全年收入的 23.4%，十年累計(jì)投入的研發(fā)費(fèi)用超過(guò) 1.11 萬(wàn)億元。

實(shí)際上，華為從 2018 年開(kāi)始大規(guī)模投入 AI 算力和模型：

2018 年 10 月，華為全棧全場(chǎng)景 AI 解決方案發(fā)布。

2019 年 9 月，全球最快 AI 訓(xùn)練集群 Atlas 900 發(fā)布。

2020 年 3 月，全場(chǎng)景 Al 計(jì)算框架 MindSpore 正式開(kāi)源。

2020 年 10 月，鵬城云腦 II E 級(jí)算力集群業(yè)務(wù)上線。

2020 年起，華為提出大算力，孵化大模型，帶動(dòng)大產(chǎn)業(yè)?；跁N騰鯤鵬，華為聯(lián)合生態(tài)伙伴孵化了 20 多家的大模型，包括鵬程實(shí)驗(yàn)室的鵬程云腦大模型、紫東紫東太初、華為盤古大模型等。

2021 年 5 月，武漢人工智能計(jì)算中心 1 期 100PFLOPS 建成投入運(yùn)行。

2023 年 9 月，華為發(fā)布了支持萬(wàn)億參數(shù)大模型訓(xùn)練和推理的算力集群方案。

王陶指出，基于華為自研的 AI 算力，從底層的 Atlas 硬件到算子庫(kù)，再到上層的開(kāi)發(fā)工具鏈，昇騰在大模型推理、訓(xùn)練兩個(gè)方面均提供一整套解決方案，包括開(kāi)發(fā)套件、基礎(chǔ)加速庫(kù)等。而在開(kāi)發(fā)速度上，基于昇騰方案，客戶大大縮短開(kāi)發(fā)周期，在典型場(chǎng)景下推理性能提高 1.5-3 倍，實(shí)現(xiàn)更強(qiáng)的業(yè)務(wù)協(xié)同。

算力層面，目前，華為在全國(guó) 20 多個(gè)城市建設(shè)昇騰人工智能計(jì)算中心，超過(guò) 2500PFlops（每秒運(yùn)算能力為 2500 千萬(wàn)億次）普惠 Al 算力。

據(jù)悉，國(guó)內(nèi)上線及試運(yùn)營(yíng)的計(jì)算中心城市包括深圳、武漢、西安、許昌、南京、 成都、杭州、沈陽(yáng)、重慶、天津、寧波、廣州、青島、北京、大連、上海、無(wú)錫、福州、合肥；待上線城市包括昆明、長(zhǎng)沙、廊坊、南寧、貴陽(yáng)、 長(zhǎng)春、南昌、濟(jì)南。

華為透露，其智算集群使用率超過(guò) 90%。其中在南京，昇騰算力共有 140P，使用率 93%；武漢擁有 200P，使用率 95%+；深圳的算力使用率超過(guò) 99%；成都 98%；杭州 80%；沈陽(yáng) 98%。

而目前，包括騰訊、百度在內(nèi)的中國(guó)科技巨頭以及科大訊飛等領(lǐng)先的初創(chuàng)公司都購(gòu)買了 910B。

華為公司昇騰計(jì)算業(yè)務(wù)總裁張迪煊上個(gè)月透露，昇騰生態(tài)系統(tǒng)擁有 40 個(gè)硬件合作伙伴、超過(guò) 1600 個(gè)軟件合作伙伴和超過(guò) 2900 個(gè) AI 應(yīng)用解決方案。

王陶則透露，華為鯤鵬在全國(guó)有 5100+ 合作伙伴，15800+ 解決方案，擁有開(kāi)發(fā)者超過(guò) 310 萬(wàn)。

王陶強(qiáng)調(diào)，目前全球 AI 算力需求在加速，大算力支撐大模型，促進(jìn)人工智能走向新階段。而華為堅(jiān)持硬件開(kāi)放、軟件開(kāi)源、使能伙伴、發(fā)展人才，推動(dòng)生態(tài)蓬勃向上。