“東數(shù)西算”工程能夠更合理的分配資源,從一定程度上緩解供需失衡問(wèn)題。但是未來(lái)如何從根本上解決算力供需失衡的問(wèn)題,還是要細(xì)分算力需求,有針對(duì)性解決。作為繼CPU、GPU之后數(shù)據(jù)中心的第三顆主力芯片,DPU(Data Processing Unit)提出新的解決方案。
DPU為何能和CPU、GPU構(gòu)成數(shù)據(jù)中心的“鐵三角”?
從數(shù)據(jù)中心發(fā)展與算力增長(zhǎng)速度來(lái)看,近年來(lái),我國(guó)以信息網(wǎng)絡(luò)等新型基礎(chǔ)設(shè)施為代表的“新基建”戰(zhàn)略帷幕的拉開(kāi),5G、千兆光纖網(wǎng)絡(luò)建設(shè)發(fā)展迅速,移動(dòng)互聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)、車(chē)聯(lián)網(wǎng)等領(lǐng)域發(fā)展日新月異。云計(jì)算、數(shù)據(jù)中心、智算中心等基礎(chǔ)設(shè)施快速擴(kuò)容。此外,據(jù)IDC統(tǒng)計(jì),全球算力的需求每3.5個(gè)月就會(huì)翻一倍,遠(yuǎn)遠(yuǎn)超過(guò)了當(dāng)前算力的增長(zhǎng)速度,CPU的性能增長(zhǎng)率與數(shù)據(jù)量增長(zhǎng)率出現(xiàn)了“剪刀差”現(xiàn)象。尋求效率更高的計(jì)算芯片就成為了業(yè)界尋求高效的新方法,DPU芯片就是在這樣的趨勢(shì)下提出的。
從技術(shù)層面來(lái)看,DPU要解決的核心問(wèn)題是基礎(chǔ)設(shè)施的“降本增效”,即將CPU處理效率低下、GPU處理不了的負(fù)載卸載到專(zhuān)用DPU,提升整個(gè)計(jì)算系統(tǒng)的效率、降低整體系統(tǒng)的成本。簡(jiǎn)單來(lái)說(shuō),CPU用于通用計(jì)算,GPU用于加速計(jì)算,而數(shù)據(jù)中心中傳輸數(shù)據(jù)的DPU則進(jìn)行數(shù)據(jù)處理。新一代的DPU不僅可以作為運(yùn)算的加速引擎,還具備“控制平面”(即追求數(shù)據(jù)處理功能的覆蓋面)的功能,能更高效地完成網(wǎng)絡(luò)虛擬化、IO虛擬化、存儲(chǔ)虛擬化等任務(wù),徹底將CPU的算力釋放給應(yīng)用程序。
從市場(chǎng)規(guī)模角度來(lái)看,根據(jù)Fungible公司和英偉達(dá)公司的預(yù)測(cè),用于數(shù)據(jù)中心的DPU量級(jí)將達(dá)到和數(shù)據(jù)中心服務(wù)器等量的級(jí)別。服務(wù)器每年新增大約千萬(wàn)量級(jí),一臺(tái)服務(wù)器可能沒(méi)有GPU,但一定會(huì)有一顆或者多顆DPU,好比每臺(tái)服務(wù)器都必須配網(wǎng)卡一樣。
頭部廠商也努力
在這個(gè)千億量級(jí)市場(chǎng)中,國(guó)際傳統(tǒng)芯片巨頭如英偉達(dá)、英特爾、Marvell、博通等廠商,都在積極布局DPU產(chǎn)品研發(fā)。2020年,中國(guó)DPU產(chǎn)品主要由英偉達(dá)、英特爾與博通三家企業(yè)提供。
英偉達(dá)
英偉達(dá)憑借在網(wǎng)卡上積累的優(yōu)勢(shì),占據(jù)市場(chǎng)龍頭位置。英偉達(dá)在其數(shù)據(jù)中心和高性能計(jì)算GPU的開(kāi)發(fā)上投入了大量精力,另外,數(shù)據(jù)中心變得越來(lái)越復(fù)雜,CPU進(jìn)行的各種數(shù)據(jù)操作在性能和功耗方面變得越來(lái)越昂貴,DPU實(shí)際上可能在未來(lái)幾年面臨不斷增長(zhǎng)的需求。英偉達(dá)發(fā)展DPU是其在數(shù)據(jù)中心進(jìn)一步發(fā)展的布局。
2021年,英偉達(dá)發(fā)布的Bluefield-3 DPU包含其Mellanox技術(shù)和16個(gè)Arm Cortex-A78處理器,將能夠取代300個(gè)傳統(tǒng)處理器內(nèi)核,預(yù)計(jì)2022年第一季度提供樣品。英偉達(dá)還表示,Bluefield-4 將帶寬翻倍至800Gbps。
在GTC 2021上,英偉達(dá)宣布將產(chǎn)品路線升級(jí)為“GPU+CPU+DPU”的“三芯”戰(zhàn)略,通過(guò)CPU、GPU、DPU之間的協(xié)調(diào)計(jì)算,可以在數(shù)據(jù)中心和邊緣計(jì)算都達(dá)到非常好的性能,而且能提供非常高的安全性。前日,英偉達(dá)收購(gòu)Arm失敗后,掌門(mén)人黃仁勛表示,公司將繼續(xù)延續(xù)“三芯”戰(zhàn)略。
英特爾
2021年6月,英特爾推出了全新的基礎(chǔ)設(shè)施處理器(IPU,全稱(chēng)Infrastructure Processing Unit),英特爾的IPU被業(yè)界視為英特爾版本的DPU。IPU是一個(gè)網(wǎng)絡(luò)設(shè)備,可以安全地加速和管理數(shù)據(jù)中心的基礎(chǔ)設(shè)施功能與可編程硬件,旨在使云和通信服務(wù)提供商減少在中央處理器方面的開(kāi)銷(xiāo),并充分釋放性能價(jià)值。利用IPU,客戶(hù)能夠部署安全穩(wěn)定且可編程的解決方案,從而更好地利用資源,平衡數(shù)據(jù)處理與存儲(chǔ)的工作負(fù)載。
IPU可將CPU或XPU連接到網(wǎng)絡(luò),加速主機(jī)基礎(chǔ)設(shè)施功能,并適用于現(xiàn)有和新興基礎(chǔ)設(shè)施用例,包括安全性、虛擬化、存儲(chǔ)、負(fù)載平衡,以及虛擬網(wǎng)絡(luò)功能和微服務(wù)的數(shù)據(jù)路徑優(yōu)化。IPU增強(qiáng)了基礎(chǔ)NIC中豐富的以太網(wǎng)網(wǎng)絡(luò)功能,通過(guò)高度優(yōu)化的硬件加速器和緊密耦合的計(jì)算引擎的組合處理任務(wù)來(lái)實(shí)現(xiàn)加速。適應(yīng)性是通過(guò)標(biāo)準(zhǔn)且易于使用的編程框架實(shí)現(xiàn)的,該框架結(jié)合了硬件和軟件功能。IPU擴(kuò)展了英特爾的智能網(wǎng)卡功能,旨在應(yīng)對(duì)當(dāng)下復(fù)雜的數(shù)據(jù)中心,并提升效率。
Marvell
2021年7月,Marvell Technologies發(fā)布了其OCTEON 10系列DPU。OCTEON 10采用Arm Neoverse N2和TSMC的5納米工藝構(gòu)建,有望提供比其前身高出3倍的性能。作為DPU的重要補(bǔ)充,Marvell還為OCTEON 10引入了內(nèi)部機(jī)器學(xué)習(xí)(ML)引擎。
OCTEON 10集成了1Tb的交換機(jī),支持內(nèi)聯(lián)加密,并且網(wǎng)絡(luò)包處理可編程,把功耗、控制和數(shù)據(jù)平面加速設(shè)定提升到了新高度。數(shù)據(jù)路徑和安全工作負(fù)載的性能范圍從50G到超過(guò)400G?;跈C(jī)器學(xué)習(xí)的硬件加速引擎,比軟件處理的性能提升100倍。基于VPP的硬件加速器可將數(shù)據(jù)包處理速度提高多達(dá)5倍。Marvell OCTEON 10 DPU面向云計(jì)算、5G通信、企業(yè)、運(yùn)營(yíng)商和數(shù)據(jù)中心應(yīng)用場(chǎng)景。
博通
博通在網(wǎng)卡市場(chǎng)處于領(lǐng)導(dǎo)者地位,其DPU布局更多源自SmartNIC。Broadcom在Stingray的中心設(shè)計(jì)了NetXtreme-S BCM58800芯片,將8個(gè)3GHz主頻的ARM v8 A72內(nèi)核放置其中。博通在逐步將產(chǎn)品轉(zhuǎn)移到7納米,使得可以從8核擴(kuò)展到12核。
國(guó)產(chǎn)DPU,挑戰(zhàn)與機(jī)遇并存
在國(guó)際DPU市場(chǎng)上,英偉達(dá)、英特爾以及博通均推出了多款產(chǎn)品。中國(guó)本土DPU企業(yè)起步較晚,與國(guó)際頭部廠商相比,有著1-2代的技術(shù)差距。另外,本土企業(yè)DPU商用化不足,在性能上、可靠性上都無(wú)法滿(mǎn)足當(dāng)代云計(jì)算廠商的需求。
DPU產(chǎn)品最初主要由一定市場(chǎng)和技術(shù)儲(chǔ)備的成熟網(wǎng)絡(luò)設(shè)備生產(chǎn)商以及芯片巨頭提供。如今,數(shù)據(jù)流量暴漲,CPU算力瓶頸凸顯,很多中小企業(yè)也開(kāi)始布局DPU市場(chǎng),DPU市場(chǎng)處于早期階段,技術(shù)路線與產(chǎn)品形態(tài)等都不是不明確,對(duì)于國(guó)內(nèi)一些中小企業(yè)來(lái)說(shuō),DPU的試錯(cuò)成本高,很難較快布局。
雖然國(guó)內(nèi)廠商在芯片產(chǎn)品化的環(huán)節(jié)與國(guó)外一線廠商相比還有差距,但是在DPU架構(gòu)的理解上還是有獨(dú)到的見(jiàn)解的,而且我國(guó)目前在數(shù)據(jù)中心這個(gè)領(lǐng)域,無(wú)論是市場(chǎng)規(guī)模還是增速,特別是用戶(hù)數(shù)量,相較于國(guó)外都有巨大的優(yōu)勢(shì)。國(guó)內(nèi)廠商有望充分利用這一市場(chǎng)優(yōu)勢(shì),加快發(fā)展步伐,在DPU這個(gè)賽道與國(guó)外廠商逐鹿中原。
國(guó)產(chǎn)DPU雖遲但到
芯啟源
近日,芯啟源宣布再獲超億元戰(zhàn)略投資,本輪融資由國(guó)家集成電路產(chǎn)業(yè)基金旗下子基金上海超越摩爾領(lǐng)投,老股東允泰資本繼續(xù)堅(jiān)定跟投。獲得的投資款將繼續(xù)用于公司下一代DPU產(chǎn)品研發(fā),和目前產(chǎn)品的商業(yè)化推廣。芯啟源擁有全球化的技術(shù)、人才、產(chǎn)品整合能力和迭代能力,在DPU/智能網(wǎng)卡領(lǐng)域已整合有自己的完整產(chǎn)品鏈,同時(shí)在大客戶(hù)開(kāi)拓方面已取得進(jìn)展,具備先發(fā)優(yōu)勢(shì)。芯啟源還考慮將DPU產(chǎn)品應(yīng)用于元宇宙。DPU數(shù)據(jù)處理單元芯片通過(guò)不斷提升元宇宙載體的算力,提升了AR、VR、AI等元宇宙內(nèi)容和各項(xiàng)功能的用戶(hù)體驗(yàn)。芯啟源認(rèn)為,雖然目前還處于元宇宙的初始發(fā)展階段,但基礎(chǔ)設(shè)施算力的提升是持續(xù)的,多技術(shù)協(xié)同演進(jìn)和生態(tài)建設(shè)也在進(jìn)行中。這一切必然會(huì)帶來(lái)源源不斷的創(chuàng)新和機(jī)遇到元宇宙載體領(lǐng)域的DPU產(chǎn)品中。
中科馭數(shù)
2021年12月,中科馭數(shù)近日宣布完成數(shù)億元規(guī)模A+輪融資,本輪融資由麥星投資和昆侖資本聯(lián)合領(lǐng)投,老股東靈均投資、光環(huán)資本追加投資。中科馭數(shù)本輪融資距A輪融資不過(guò)5個(gè)月,所籌資金將用于數(shù)據(jù)處理單元(DPU)芯片的研發(fā)和量產(chǎn)、以及市場(chǎng)開(kāi)拓。中科馭數(shù)是國(guó)家高新技術(shù)企業(yè),創(chuàng)始團(tuán)隊(duì)來(lái)自中科院計(jì)算所計(jì)算機(jī)體系結(jié)構(gòu)國(guó)家重點(diǎn)實(shí)驗(yàn)室,成立三年來(lái)已獲得50項(xiàng)發(fā)明專(zhuān)利授權(quán)。
中科馭數(shù)自主研發(fā)KPU芯片架構(gòu),打造了業(yè)界首顆擁有網(wǎng)絡(luò)數(shù)據(jù)庫(kù)一體化加速功能的DPU芯片和智能網(wǎng)卡系列產(chǎn)品和解決方案,并已聯(lián)合交易所、多家頭部券商機(jī)構(gòu)等合作伙伴進(jìn)入金融計(jì)算行業(yè),在風(fēng)控、極速交易等業(yè)務(wù)場(chǎng)景中大展拳腳。中科馭數(shù)還推出了業(yè)界領(lǐng)先性能的超低時(shí)延智能網(wǎng)卡,可實(shí)現(xiàn)亞微秒級(jí)超低時(shí)延、納秒級(jí)抖動(dòng),性能相當(dāng)于普通網(wǎng)卡的10倍。
持續(xù)融資后,中科馭數(shù)表示將以金融計(jì)算加速作為抓手,面向數(shù)據(jù)中心、電信運(yùn)營(yíng)商等客戶(hù)類(lèi)型,不斷推進(jìn)DPU方案的應(yīng)用落地。據(jù)了解,在第一代產(chǎn)品基礎(chǔ)上,中科馭數(shù)正在研發(fā)的第二代DPU芯片K2已經(jīng)完成設(shè)計(jì)和驗(yàn)證工作,預(yù)計(jì)將于2022年第一季度投產(chǎn)流片。
星云智聯(lián)
2月15日,珠海星云智聯(lián)科技有限公司(以下簡(jiǎn)稱(chēng)“星云智聯(lián)”)發(fā)生工商變更,股東新增百度關(guān)聯(lián)公司達(dá)孜縣百瑞翔創(chuàng)業(yè)投資管理有限責(zé)任公司。同時(shí)星云智聯(lián)注冊(cè)資本由1801.75萬(wàn)元增至約1829.19萬(wàn)人民幣,增幅1.52%。
星云智聯(lián)成立日期為2021年3月22日,該公司專(zhuān)注于數(shù)據(jù)中心基礎(chǔ)互聯(lián)通信架構(gòu)和DPU芯片研發(fā),團(tuán)隊(duì)成員有來(lái)自硅谷、以色列、加拿大等地ICT領(lǐng)域的專(zhuān)家。不到一年,星云智聯(lián)就已經(jīng)完成多輪融資。
云豹智能
2021年12月15日,云豹智能發(fā)布全功能云霄DPU網(wǎng)卡,全面支持裸金屬、虛擬機(jī)和容器服務(wù)資源一體化和性能加速。作為軟件定義DPU行業(yè)頭部半導(dǎo)體公司,云豹智能已成功開(kāi)發(fā)全功能云霄DPU網(wǎng)卡解決方案,全面支持裸金屬、虛擬機(jī)和容器云服務(wù)一體化,以及高性能2x25G網(wǎng)絡(luò),提供彈性存儲(chǔ)、彈性網(wǎng)絡(luò)、虛擬化管理和安全加速等一站式解決方案,將極大地提升云服務(wù)商的服務(wù)質(zhì)量和業(yè)務(wù)靈活性,并降低其整體投入和運(yùn)維成本,幫助云服務(wù)商解決真正的痛點(diǎn),引領(lǐng)數(shù)據(jù)中心新趨勢(shì)。
結(jié)語(yǔ)
從目前行業(yè)的關(guān)注度來(lái)看,DPU帶來(lái)的機(jī)遇已經(jīng)基本形成共識(shí),期待在這一趨勢(shì)下,再加上國(guó)內(nèi)大好的發(fā)展機(jī)遇,國(guó)內(nèi)廠商能早日在國(guó)內(nèi)的DPU市場(chǎng)占據(jù)一席之地。