《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 電子元件 > 業(yè)界動態(tài) > 英偉達DPU計算吞吐量三年將跨越近1000倍!Jetson AI機器人價格低至59美元

英偉達DPU計算吞吐量三年將跨越近1000倍!Jetson AI機器人價格低至59美元

2020-10-08
來源: 雷鋒網(wǎng)

 微信圖片_20201008152803.jpg

 雷鋒網(wǎng)消息,10月5日,英偉達召開一年一度的2020 GTC(GPU技術(shù)大會)。黃仁勛再次在自家廚房發(fā)表了開幕演講,這次演講主要分為4個部分:數(shù)據(jù)中心、邊緣人工智能、協(xié)作工具和醫(yī)療保健。

  核心亮點包括:

  數(shù)據(jù)中心:推出英偉達Blue Field-2 DPU和英偉達Blue Field-2X DPU,具有英偉達Mellanox的所有功能;推出DOCA SDK。

  邊緣人工智能:宣布推出英偉達EGX AI平臺,使各種規(guī)模的組織能夠快速有效地大規(guī)模部署人工智能;推出Jetson Nano 2GB開發(fā)套件,范圍包括從入門級AI設(shè)備到高級平臺。

  協(xié)作工具:支持百萬設(shè)計師實時合作的開源測試版本Omniverse平臺,流媒體視頻AI平臺英偉達Maxine。

  醫(yī)療保?。和蜥t(yī)療公司GSK及其AI集團合作,正建造供英國醫(yī)療人研究人員使用的超級計算機。

  1

  新一代DPU加速數(shù)據(jù)中心

  黃仁勛說,當(dāng)下的數(shù)據(jù)中心是由軟件定義的,這使得數(shù)據(jù)中心更加靈活的同時也產(chǎn)生了巨大的負擔(dān),數(shù)據(jù)中心基礎(chǔ)架構(gòu)的運行能夠消耗20%-30%的CPU核心,因此需要一種新的處理器,即DPU(Data Processing Unit)。

微信圖片_20201008152828.jpg

  DPU究竟有什么作用?根據(jù)英偉達官方的解釋,DPU是一種SOC,集三個關(guān)鍵要素于一身:

  行業(yè)標準的、最高性能及軟件可編程的多核CPU,通常基于廣泛的Arm架構(gòu),與其SOC組件密切配合;

  高性能網(wǎng)絡(luò)接口,能以線速或網(wǎng)絡(luò)中的可用速度解析、處理數(shù)據(jù),并高效地將數(shù)據(jù)傳輸?shù)紾PU和CPU。

  各種靈活和可編程的加速引擎,可以卸載AI、機器學(xué)習(xí)、安全、電信和存儲等應(yīng)用,并提升性能。

  DPU的這些功能對于實現(xiàn)安全的下一代云上大規(guī)模計算至關(guān)重要。

  基于英偉達今年四月收購的Mellanox的最新研究成果,英偉達推出了兩款DPU產(chǎn)品,英偉達BlueField-2 DPU與BlueField-2X DPU。

微信圖片_20201008152921.jpg

微信圖片_20201008152923.jpg

  據(jù)英偉達介紹,BlueField-2 DPU具有英偉達Mellanox Connext-6 SmartNIC的所有特點,并與強大的Arm內(nèi)核連接在一起,且是可完全編程的,能夠提供每秒200千兆比特的數(shù)據(jù)傳輸速率,加速關(guān)鍵數(shù)據(jù)中心的安全、網(wǎng)絡(luò)和存儲任務(wù)。

  BlueField-2X DPU則擁有包括BlueField-2 DPU的所有關(guān)鍵特性,其特性能夠通過英偉達安培GPU的AI功能得以增強。

  為了能夠讓開發(fā)人員在DPU加速的數(shù)據(jù)中心基礎(chǔ)設(shè)施服務(wù)上構(gòu)建應(yīng)用程序,英偉達還推出類似于英偉達CUDA編程模型幫助開發(fā)人員構(gòu)建GPU加速的應(yīng)用程序——DOCA軟件開發(fā)工具包。

  值得一提的是,DOCA為開發(fā)人員提供了一個全面、開放的平臺,完全集成在一個軟件目錄中,能夠為第三方應(yīng)用程序提供商提供一個方便的軟件環(huán)境,利用DPU加速數(shù)據(jù)中心,并開發(fā)、認證和分發(fā)應(yīng)用程序給客戶。

  黃仁勛宣布,將在英偉達下一代安培GPU添加新的BlueField-2,用于英偉達AI計算。

  此外,黃仁勛還公布了英偉達DPU的發(fā)展路線圖,預(yù)計在2023年推出400 TOPS、400Gbps的BlueField-4,這意味著在短短幾年內(nèi),英偉達DPU的計算吞吐量將跨越近1000倍。

  2

  EGX AI平臺部署人工智能,民主化的Jetson AI機器人

  黃仁勛認為,總有一天數(shù)以萬計的人工智能設(shè)備和機器人將遍布家庭、辦公樓、商店等場所,充斥整個地球,”為了支持這一大規(guī)模的轉(zhuǎn)變,英偉達創(chuàng)建了一個加速計算平臺,幫助公司實現(xiàn)數(shù)據(jù)中心的現(xiàn)代化,并在任何地方部署人工智能。“

  這里所說的加速計算平臺即英偉達EGX人工智能平臺,該平臺的系統(tǒng)能夠通過戴爾、聯(lián)想、浪潮、超微等領(lǐng)先的服務(wù)器制造商獲得。

  英偉達還宣布,EGX平臺正在擴大合并英偉達安培GPU和BlueField-2 DPU在單個PCIe卡上的功能,為企業(yè)提供了一個共同的平臺來構(gòu)建安全、加速的數(shù)據(jù)中心。

  為了部署和管理EGX服務(wù)器,英偉達推出一項名為英偉達艦隊司令部的新服務(wù),將邊緣計算的安全和實時處理能力與遠程管理和軟件服務(wù)的易用性結(jié)合起來,能夠通過統(tǒng)一的控制平面,集中管理遍布廣大地區(qū)的服務(wù)器,包括工廠、醫(yī)院、零售店甚至城市街道。據(jù)悉,全球供應(yīng)鏈解決方案的領(lǐng)導(dǎo)者KION集團正在使用英偉達EGX AI平臺為其智能倉庫系統(tǒng)開發(fā)AI應(yīng)用程序,提高零售配送中心的吞吐量和效率。

  去年,英偉達推出了售價為99美元的Jetson AI計算機,今年擴大Jetson AI在邊緣平臺上的入門級開發(fā)套件,售價僅為59美元。

  據(jù)悉,作為Jetson系列的新成員,Jetson Nano 2GB開發(fā)人員套件是為教學(xué)和學(xué)習(xí)人工智能的人群而設(shè)計的,其范圍從入門級AI設(shè)備到高級平臺,用黃仁勛的話講,Jetson AI機器人是民主化的機器人。為了支持人工智能教學(xué),英偉達還宣布了Jetson免費在線的可用性,補充了許多開源項目,數(shù)千名開發(fā)人員都活躍在Jetson社區(qū),培訓(xùn)和獲得人工智能認證。

  Booz Allen Hamilton分析和人工智能研究主任Drew Farris說:”在Booz Allen,我們尋求增強人們改變世界的能力。我們正在使用英偉達 Jetson來培訓(xùn)新的技術(shù)資源,因為人工智能對于企業(yè)和人員來說至關(guān)重要,利用人工智能來解決最困難的全球問題挑戰(zhàn)?!?/p>

  3

  安培架構(gòu)拓展至專業(yè)視覺產(chǎn)品線,Omniverse構(gòu)建元宇宙

  除了在數(shù)據(jù)中心和邊緣人工智能方面取得的進展,英偉達還宣布推出協(xié)作工具Omniverse平臺的開放測試版本和AI數(shù)據(jù)流平臺Maxine,構(gòu)建致力于AI醫(yī)療研究的超級計算機”劍橋1“。此外,英偉代還在GCT fall上宣布延展至專業(yè)視覺產(chǎn)品線的安培架構(gòu)。

  Omniverse是世界上第一個基于英偉達RTX的三維仿真和協(xié)作平臺,它融合了物理和虛擬世界,實時模擬現(xiàn)實,并具有真實感的細節(jié)?!監(jiān)mniverse允許設(shè)計師、藝術(shù)家、創(chuàng)作者甚至人工智能在不同的世界中使用不同的工具,在一個共同的世界中連接合作,共同創(chuàng)造一個世界。“黃仁勛說。

  使用Maxine,開發(fā)人員可以減少視頻帶寬消耗,降低供應(yīng)商成本名為終端用戶提供能流暢的視頻會議體驗,改善視頻會議的經(jīng)驗。

  除了提高普通流媒體的用戶體驗,英偉達在GCT Fall上宣布,正在與AWS展開合作,發(fā)布英偉達CloudXR,并在Amazon EC2 P3和G4上可用。據(jù)悉,英偉達CloudXR平臺包括 CloudXR軟件開發(fā)工具包、Quadro虛擬工作站軟件和AI SDK。借助云流式的體驗,專業(yè)人員可以輕松設(shè)置、擴展和訪問來自任何地方身臨其境的體驗,不再受到VR環(huán)境的限制。

  在GTC Fall上,英偉達還宣布推出面向?qū)I(yè)設(shè)計師的Quadro RTX A6000和英偉達A40 GPU,與上一代產(chǎn)品相比,新一代GPU具有新的RT核心、Tensor核心和CUDA核心,加快了圖形渲染和AI的速度。

  最后,值得注意的是,在此次演講中,黃仁勛也提到了英偉達與Arm的關(guān)系,宣布了推進Arm平臺重大舉措:

  首先,英偉達將用GPU、網(wǎng)絡(luò)、存儲和安全技術(shù)補充Arm的業(yè)務(wù),創(chuàng)建完整的加速平臺。

  第二,英偉達正在與Arm合作伙伴合作,為HPC、云、邊緣和PC創(chuàng)建平臺,這需要芯片、系統(tǒng)和系統(tǒng)軟件。

  第三,英偉達正在將AI和RTX引擎移植到Arm。

  ”今天,這些功能只能在x86上使用,有了這一舉措,Arm平臺也將在加速和AI計算方面的領(lǐng)先地位?!包S仁勛說。

 


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。