英偉達(dá)在數(shù)據(jù)中心的“帶貨能力”不是一般的強(qiáng)。
2020年4月,英偉達(dá)宣布完成對以色列網(wǎng)絡(luò)芯片商Mellanox高達(dá)69億美元的收購交易,將DPU芯片推至半導(dǎo)體領(lǐng)域的焦點(diǎn)。半年后,英偉達(dá)就推出這筆收購所帶來的最新成果——新一代DPU。
DPU,全名Data Processing Units(數(shù)據(jù)處理單元),被英偉達(dá)創(chuàng)始人黃仁勛稱作與CPU、GPU共同組成“未來計(jì)算三大支柱”。這個(gè)新型計(jì)算單元宛如數(shù)據(jù)中心的一匹黑馬,一時(shí)間變得炙手可熱,并在國內(nèi)外均掀起新一波投資熱潮。
僅在今年,國內(nèi)DPU創(chuàng)企中科馭數(shù)、星云智聯(lián)、大禹智芯、芯啟源、云豹智能等均宣布完成新融資,其中有多筆融資金額達(dá)數(shù)億元人民幣。
在國外,明星DPU創(chuàng)企Pensando、Fungible已經(jīng)是“吸金”能力超強(qiáng)的數(shù)據(jù)中心新寵,Marvell創(chuàng)始人戴偉立、周秀文夫婦亦在2019年創(chuàng)立DPU新公司Dream Big Semiconductor。英特爾、Marvell、博通等芯片巨頭更是早早押寶。
這個(gè)日漸走紅的新賽道,真有能與CPU、GPU分食數(shù)據(jù)中心計(jì)算市場的潛力嗎?
▲2021年公布新融資的國內(nèi)DPU初創(chuàng)公司
01.
做CPU做不好、GPU做不了的計(jì)算任務(wù)
“每臺服務(wù)器可能沒有GPU,但絕對有DPU,好比每臺服務(wù)器都必須配網(wǎng)卡一樣。”中科馭數(shù)創(chuàng)始人兼CEO鄢貴海非??春肈PU的未來,并認(rèn)為DPU的出現(xiàn)是異構(gòu)計(jì)算的一個(gè)階段性標(biāo)志。
近年來隨著海量數(shù)據(jù)爆發(fā),計(jì)算任務(wù)愈發(fā)密集,傳統(tǒng)以CPU為中心的數(shù)據(jù)中心架構(gòu)日漸面臨性能提升的瓶頸,由CPU大包大攬各種計(jì)算和管控任務(wù),逐漸演變?yōu)槎囝惍悩?gòu)算力資源各司其職。
英偉達(dá)創(chuàng)始人兼CEO黃仁勛曾解釋說,現(xiàn)代數(shù)據(jù)中心由軟件定義,運(yùn)行數(shù)據(jù)中心的傳統(tǒng)基礎(chǔ)設(shè)施需消耗20-30%的CPU核心資源,而DPU即是專為CPU“減負(fù)”的一種新型專用處理器。
▲CPU主頻算力相對網(wǎng)絡(luò)數(shù)據(jù)傳輸速率升級的差距(來源:頭豹研究院)
DPU主要承擔(dān)起網(wǎng)絡(luò)、存儲和安全的加速處理任務(wù),旨在滿足網(wǎng)絡(luò)側(cè)專用計(jì)算需求,尤其適用于服務(wù)器量多、對數(shù)據(jù)傳輸速率要求嚴(yán)苛的場景。
它將CPU所不擅長的網(wǎng)絡(luò)協(xié)議處理、數(shù)據(jù)加解密、數(shù)據(jù)壓縮等數(shù)據(jù)處理任務(wù)通通接手,通過處理器和網(wǎng)卡的組合,兼顧傳輸和計(jì)算的需求。DPU也被看作是智能網(wǎng)卡(SmartNIC)技術(shù)的演化增強(qiáng)版本。
如今數(shù)據(jù)中心倡導(dǎo)以資源池的形式來做,各類資源分別管理、擴(kuò)容,而DPU宛如一個(gè)連接樞紐,可以起到中心調(diào)度管理的作用,一端連接各種CPU、GPU、SSD、FPGA加速卡等本地資源,一端連接交換機(jī)/路由器等網(wǎng)絡(luò)資源。
“大家認(rèn)為,可能在未來的數(shù)據(jù)中心云端架構(gòu)上,DPU取代了CPU,成為一個(gè)最關(guān)鍵的、最核心的芯片地位。”半導(dǎo)體行業(yè)知名投資人、華登國際合伙人王林說,如果將整個(gè)數(shù)據(jù)中心看成一整個(gè)大的服務(wù),DPU就相當(dāng)于這個(gè)大服務(wù)器里的CPU。
總體而言,DPU不僅能提高網(wǎng)絡(luò)傳輸效率,而且釋放了CPU算力資源,從而帶動整體數(shù)據(jù)中心的降本增效。
02.
云計(jì)算剛需,巨頭齊上陣
對于云計(jì)算廠商及大型互聯(lián)網(wǎng)企業(yè),采購DPU產(chǎn)品已是必然走向。往前追溯,國內(nèi)外頭部云計(jì)算廠商均已率先嘗試類似的思路。
早在2013年,亞馬遜云科技(AWS)就開始研究如何將網(wǎng)絡(luò)、存儲等之前由CPU處理的任務(wù)卸載到NIC卡上,隨后收購以色列芯片商Annapurna Labs,并在2017年發(fā)布典型產(chǎn)品AWS Nitro。
AWS的這一嘗試,不僅釋放CPU的算力資源,也降低了數(shù)據(jù)中心成本。國內(nèi)阿里云亦在其神龍服務(wù)器核心組件MOC卡中應(yīng)用了專用X-Dragon芯片,統(tǒng)一支持網(wǎng)絡(luò)、I/O、存儲和外設(shè)的虛擬化。
過去數(shù)年間,博通、Mellanox、賽靈思、英特爾等芯片公司均推出自家DPU產(chǎn)品,除了加強(qiáng)其對于網(wǎng)絡(luò)協(xié)議和網(wǎng)絡(luò)安全的處理能力外,也陸續(xù)在網(wǎng)絡(luò)、存儲和計(jì)算方面均分別展現(xiàn)出許多優(yōu)勢。
與GPU不同的是,DPU面向的應(yīng)用更加底層,類型更多樣,沖在DPU前排的各家廠商在具體功能側(cè)重上也各不相同,大體差別如下:
▲國外DPU主要廠商對比
在收購Mellanox后,英偉達(dá)進(jìn)一步增強(qiáng)其DPU與GPU能力的組合,并在去年亮出新路線圖,號稱要將DPU性能三年提升1000倍。明年英偉達(dá)將發(fā)布加持AI能力的BlueField-3X DPU。
▲英偉達(dá)BlueField DPU三年路線圖
今年英特爾、Marvell等芯片巨頭繼續(xù)加碼DPU。
6月,英特爾發(fā)布了可編程網(wǎng)絡(luò)設(shè)備IPU(Infrastructure Processing Unit,基礎(chǔ)設(shè)施處理器),用于擴(kuò)展智能網(wǎng)卡功能,加速存儲虛擬化、網(wǎng)絡(luò)虛擬化和安全等功能,并釋放CPU核心。其首個(gè)基于FPGA的IPU平臺已為多個(gè)云服務(wù)提供商完成部署,首款A(yù)SIC IPU也正在測試中。
7月,Marvell推出采用臺積電5nm制程工藝的OCTEON 10系列DPU,首用Arm Neoverse N2 CPU核心,并集成了機(jī)器學(xué)習(xí)推理引擎。首批OCTEON 10產(chǎn)品預(yù)計(jì)將于今年年底前出樣,據(jù)稱相比前一代標(biāo)量處理引擎,它能將數(shù)據(jù)包的處理吞吐量大幅提升至5倍。
▲Marvell OCTEON 10架構(gòu)
由于DPU處于發(fā)展初期,業(yè)界尚未形成統(tǒng)一標(biāo)準(zhǔn),也還沒有形成足夠的規(guī)模部署,這為國內(nèi)DPU創(chuàng)企帶來了發(fā)展良機(jī)。
03.
市場規(guī)模將達(dá)百億量級
國內(nèi)DPU創(chuàng)企成資本寵兒
在今年南京世界半導(dǎo)體大會期間的SoC設(shè)計(jì)技術(shù)論壇上,半導(dǎo)體行業(yè)知名投資人、華登國際合伙人王林提到DPU是今年SoC創(chuàng)業(yè)最火的概念,從去年開始苗頭慢慢起來。
根據(jù)Canalys Cloud Channels Analysis預(yù)測,到2023年,中國DPU市場規(guī)模將達(dá)190億人民幣。另據(jù)頭豹研究院預(yù)測,中國DPU市場規(guī)模預(yù)計(jì)將在2025年超過37億美元(約合240億人民幣)。
▲到2025年,中國DPU市場規(guī)模預(yù)測(來源:頭豹研究院)
目前中國DPU產(chǎn)品主要由英偉達(dá)、英特爾、博通等國際芯片巨頭供應(yīng),同時(shí)中科馭數(shù)、大禹智芯、芯啟源、益思芯、星云智聯(lián)、云豹智能等國內(nèi)DPU創(chuàng)企正組成推動DPU國產(chǎn)替代的生力軍。
▲國內(nèi)主要DPU初創(chuàng)公司
從創(chuàng)立時(shí)間來看,國內(nèi)DPU代表創(chuàng)企集中創(chuàng)辦于過去六年間,成立時(shí)間最早的是芯啟源。大禹智芯、益思芯、云豹智能集中在2020年6-8月創(chuàng)立,星云智聯(lián)則是今年3月剛成立。
中科馭數(shù)從中科院孵化而出,成立于2018年4月。基于其自研KPU(Kernel Processing Unit)芯片架構(gòu),中科馭數(shù)在2019年10月實(shí)現(xiàn)業(yè)界首顆數(shù)據(jù)庫與時(shí)序數(shù)據(jù)處理融合加速芯片的成功流片,并于2020年5月發(fā)布基于KPU架構(gòu)的領(lǐng)域?qū)S眉铀倏óa(chǎn)品。
目前,中科馭數(shù)已與中泰證券、華泰證券、中信建投、金證股份、上交所技術(shù)等多家金融機(jī)構(gòu)達(dá)成合作。除了金融計(jì)算領(lǐng)域,其DPU產(chǎn)品未來還可以廣泛應(yīng)用于數(shù)據(jù)中心、電信、物聯(lián)網(wǎng)、互聯(lián)網(wǎng)、混合云等其他領(lǐng)域。
▲中科馭數(shù)DPU芯片產(chǎn)品路線
同樣總部位于北京的大禹智芯,成立于2020年6月,在成立之初就獲得天使輪融資,由中科創(chuàng)星和惟一資本聯(lián)合投資;今年7月宣布完成數(shù)千萬元Pre-A輪融資,由華義創(chuàng)投和奇績創(chuàng)壇投資。
大禹智芯創(chuàng)始人、CEO李爽曾任美團(tuán)云總經(jīng)理、阿里巴巴網(wǎng)絡(luò)技術(shù)總監(jiān)、百度系統(tǒng)技術(shù)委員會主席,曾主導(dǎo)參與云計(jì)算戰(zhàn)略和互聯(lián)網(wǎng)巨頭技術(shù)平臺搭建,并曾領(lǐng)導(dǎo)開發(fā)中國第一代高性能網(wǎng)關(guān),為中國云計(jì)算時(shí)代奠定硬件基礎(chǔ),有多年網(wǎng)絡(luò)設(shè)備、服務(wù)器、處理器定制及異構(gòu)平臺研發(fā)經(jīng)驗(yàn)。
據(jù)悉,大禹智芯團(tuán)隊(duì)成員來自阿里云、谷歌云,曾親自領(lǐng)導(dǎo)實(shí)現(xiàn)過云平臺和DPU,具有完整的DPU經(jīng)驗(yàn)。其第一代智能網(wǎng)卡大禹DPU系列產(chǎn)品Paratus 1.0號稱是是國內(nèi)首款處理能力達(dá)25G的商用化DPU產(chǎn)品,已進(jìn)入生產(chǎn)階段,預(yù)計(jì)今年第三季度出貨。該公司已開始研發(fā)100G的產(chǎn)品。
上海芯啟源創(chuàng)立于2015年,今年接連完成數(shù)億元Pre-A2、Pre-A3輪融資。目前芯啟源聚焦在5G云數(shù)據(jù)中心和高端EDA領(lǐng)域,擁有兩大板塊核心產(chǎn)品:智能網(wǎng)卡、SoC原型和仿真系統(tǒng)MIMIC。
芯啟源創(chuàng)始人盧笙本科畢業(yè)于上海交通大學(xué),后獲美國Lamar University碩士學(xué)位,曾先后在博通、Marvell、ArtX等公司擔(dān)任重要崗位,其核心團(tuán)隊(duì)已在芯片領(lǐng)域積累了20多年研發(fā)管理經(jīng)驗(yàn)。
據(jù)悉,芯啟源智能網(wǎng)卡是目前國內(nèi)唯一的基于SoC架構(gòu)的成熟DPU完整解決方案,擁有自主知識產(chǎn)權(quán),目前已成熟量產(chǎn),并獲得了中國移動蘇研院的首批智能網(wǎng)卡訂單。
▲芯啟源智能網(wǎng)卡
上海益思芯科技2020年7月在上海成立,其創(chuàng)始人、董事長兼CEO黃益人作為半導(dǎo)體芯片行業(yè)專家、DPU智能網(wǎng)卡行業(yè)帶頭人。據(jù)悉,益思芯科技的技術(shù)團(tuán)隊(duì)由國內(nèi)外網(wǎng)絡(luò)、交換、存儲領(lǐng)域的核心專業(yè)人員、研發(fā)人員組成,在網(wǎng)絡(luò)、交換、存儲及高性能CPU等領(lǐng)域具有深厚的技術(shù)實(shí)力。
今年7月,益思芯科技宣布已交付國內(nèi)第一款自主研發(fā)的商用云原生智能網(wǎng)卡Stargate-F1000-SN,整卡功耗30W~40W。
▲益思芯科技Stargate-F1000-SN智能網(wǎng)卡
深圳云豹智能由原RMI公司 (后被Netlogic/博通收購)聯(lián)合創(chuàng)始人Sunny Siu蕭啟陽博士聯(lián)合業(yè)界精英創(chuàng)立,其核心團(tuán)隊(duì)來自博通、英特爾、Arm、海思、阿里巴巴等國內(nèi)外知名公司。
根據(jù)官網(wǎng)信息,騰訊、紅杉資本、正心谷資本、耀途資本、中芯聚源、ACE Equity Partners、華業(yè)天成、OBN CAPITAL均為云豹智能投資方。
在創(chuàng)立云豹智能前,蕭啟陽曾任博通處理器和無線基礎(chǔ)設(shè)施事業(yè)部大中華區(qū)總經(jīng)理、NetLogic公司亞太區(qū)總裁兼總經(jīng)理(2012年被博通以37億美元收購)、RMI公司(被NetLogic公司收購)聯(lián)合創(chuàng)始人兼亞太區(qū)總裁。
珠海星云智聯(lián)成立于今年3月,4月宣布完成數(shù)億元天使輪融資,7月完成數(shù)億元Pre-A輪融資。
據(jù)悉,星云智聯(lián)的團(tuán)隊(duì)曾成功實(shí)現(xiàn)了多領(lǐng)域通信與網(wǎng)絡(luò)芯片開發(fā),核心成員都參與了網(wǎng)絡(luò)大芯片從0到1探索、發(fā)展、優(yōu)化、超越的全過程,具備全系統(tǒng)、長周期工程開發(fā)經(jīng)驗(yàn),擁有對云計(jì)算、互聯(lián)網(wǎng)、運(yùn)營商等多場景的深度理解,以及設(shè)計(jì)滿足不同市場需求產(chǎn)品的能力。
星云智聯(lián)正在研發(fā)的DPU將在IAAS和PAAS之間形成獨(dú)立的CAAS(通信服務(wù)層),實(shí)現(xiàn)物理資源的“多虛一”和近乎裸金屬性能的“一虛多”,簡化IAAS,提升資源利用率;卸載PAAS中與通信數(shù)據(jù)流相關(guān)的處理,提升應(yīng)用的通信效率和性能。
其他一些國內(nèi)創(chuàng)企主研產(chǎn)品也可劃分至DPU范疇,但因其官網(wǎng)沒有明確提及與DPU的關(guān)聯(lián),因此未記入這篇文章中,歡迎讀者在評論區(qū)補(bǔ)充更多正在研發(fā)DPU的國內(nèi)公司。
04.
結(jié)語:DPU創(chuàng)業(yè)大幕剛剛拉開
作為新型數(shù)據(jù)中心最重要的芯片之一,DPU正加速發(fā)展。在星云智聯(lián)CEO于勇看來,未來十年,全球云計(jì)算和數(shù)據(jù)中心基礎(chǔ)架構(gòu)將迎來顛覆性變革,基于DPU的統(tǒng)一通信服務(wù)平臺(CAAS)是這個(gè)未來架構(gòu)的核心引擎。
從目前全球DPU產(chǎn)業(yè)格局來看,產(chǎn)品應(yīng)用仍相對分散,盡管國際巨頭占據(jù)技術(shù)和市場優(yōu)勢,但國內(nèi)外的代際之差并非難以逾越。所幸國內(nèi)多家企業(yè)已經(jīng)在探索商業(yè)化落地的道路上。
對于接下來的發(fā)展,大禹智芯CEO李爽判斷,DPU需要朝兩個(gè)方向努力:一是提高虛擬化效率,二是提升流動數(shù)據(jù)的吞吐能力,以助力數(shù)據(jù)中心網(wǎng)絡(luò)跨入100G目標(biāo)。
雖然無論是實(shí)現(xiàn)核心技術(shù)轉(zhuǎn)化為主營收入,還是讓DPU這個(gè)新興概念被更多客戶所接受,都尚需時(shí)日,但在產(chǎn)業(yè)鏈上下游廠商的共同努力下,相信未來會有更多公司投入這一新興賽道,共同推動國內(nèi)DPU生態(tài)走向繁榮。