2022年3月3日,中國北京—— Graphcore? 今日正式發(fā)布全新IPU系統(tǒng)產(chǎn)品——Bow系列。Bow Pod系統(tǒng)產(chǎn)品采用了全球首款3D Wafer-on-Wafer處理器——Bow IPU。Bow IPU是新一代Bow Pod AI計算機系統(tǒng)的核心。與上代產(chǎn)品相比,它可為真實世界的AI應(yīng)用提供高達40%的性能提升和16%的電源效率提升,同時價格保持不變,且無需更改現(xiàn)有代碼。Bow的命名來源于倫敦市的一處地名。
Bow IPU處理器
Bow-2000 計算刀片
同時,Graphcore將于2024年交付全球首臺超級智能計算機—— Good ? Computer(古德計算機)。Graphcore正在開發(fā)新一代IPU技術(shù),為這款Good? Computer提供超過10 Exa-Flops的AI浮點計算;最高可達4PB的存儲,帶寬超過10PB/秒;支持超過500萬億參數(shù)的AI模型;3D Wafer-on-Wafer邏輯棧;同時獲得Poplar? SDK的完全支持。該計算機預(yù)計價格在100萬美元至1.5億美元(取決于配置)。這款超未來的智能計算機之所以被命名為Good,一方面是Graphcore致力于打造“好”的計算機,一方面是向計算機科學(xué)家先驅(qū)Jack Good(杰克·古德)致敬。
Graphcore大中華區(qū)總裁兼全球首席營收官盧濤表示:“隨著AI計算市場的整體快速發(fā)展,客戶需要兼顧性能、效率和可靠性的計算機系統(tǒng)。我們發(fā)布新一代IPU,正是為了支持全球技術(shù)開發(fā)者和創(chuàng)新者在AI計算領(lǐng)域取得新的技術(shù)突破,實現(xiàn)高質(zhì)量發(fā)展。我們希望不斷開拓IPU在中國的AI應(yīng)用場景,通過IPU賦能高效AI計算,支持中國創(chuàng)新者不斷推進機器智能的邊界?!?br/>
Bow Pod的出色性能
旗艦產(chǎn)品Bow Pod256提供超過89 PetaFLOPS的AI計算,而超大規(guī)模Bow Pod1024可提供350 PetaFLOPS的AI計算,支持機器學(xué)習(xí)工程師在AI模型規(guī)模呈指數(shù)增長的情況下仍可領(lǐng)先一步,在機器智能領(lǐng)域取得新的技術(shù)突破。
Bow Pod旨在為各種AI應(yīng)用大規(guī)模提供真實世界的性能,從用于自然語言處理的GPT和BERT到用于計算機視覺的EfficientNet和ResNet,再到圖神經(jīng)網(wǎng)絡(luò)和許多其他應(yīng)用。
·在與配有Bow Pod系統(tǒng)的Mk2 IPU-Pod系統(tǒng)相同的峰值功率范圍內(nèi),客戶發(fā)現(xiàn)各種AI應(yīng)用的性能提升高達40%。
·對于最先進的計算機視覺模型EfficientNet,Bow Pod16性能比同類Nvidia DGX A100系統(tǒng)提升5倍以上,而價格只有一半,因而總體擁有成本提升高達10倍。
·與上代產(chǎn)品相比,除了40%的性能提升,Bow Pod系統(tǒng)還可以大幅提高電源效率。經(jīng)過一系列實際應(yīng)用測試表明,Bow Pod的每瓦性能最高可提升16%。
Wafer-on-Wafer創(chuàng)新技術(shù)
Bow Pod系統(tǒng)核心的Bow IPU處理器采用了全球首項3D半導(dǎo)體技術(shù),從而支持Bow Pod 系統(tǒng)實現(xiàn)了巨大的性能提升和更高的電源效率。Wafer-on-Wafer 3D技術(shù)由Graphcore與臺積電合作開發(fā)。Wafer-on-Wafer技術(shù)有潛力在硅片之間提供更高的帶寬,從而優(yōu)化電源效率,在晶圓級別提升Colossus架構(gòu)的功率。
Bow IPU中的Wafer-on-Wafer,兩個晶圓結(jié)合在一起,產(chǎn)生一個新的3D裸片。其中一個晶圓用于AI處理,在架構(gòu)上與GC200 IPU處理器兼容,擁有1472個獨立的IPU-Core tile,能夠運行超過8800個線程,具有900MB的處理器內(nèi)存儲,而第二個晶圓擁有供電裸片。
通過在供電裸片中添加深溝槽電容器,位置在處理內(nèi)核和存儲旁,我們能夠更高效地供電,從而實現(xiàn)350 TeraFLOPS的AI計算,實現(xiàn)40%的性能提升。通過與臺積電緊密合作,我們充分驗證了整套技術(shù),包括背面硅通孔(BTSV)和Wafer-on-Wafer(WoW)混合鍵合中的多項突破性技術(shù)。
作為Bow Pod系統(tǒng)的組成部分,最新Bow-2000 IPU Machine采用了與第二代IPU-M2000 machine同樣強大的系統(tǒng)架構(gòu),但現(xiàn)在配備了四個強大的Bow IPU處理器,可提供1.4 PetaFLOPS的AI計算。
Bow-2000可以完全向后兼容現(xiàn)有的IPU-POD系統(tǒng),其高速、低時延的IPU結(jié)構(gòu)和靈活的1U外形尺寸保持不變。Bow-2000是整個Bow Pod系列的基礎(chǔ)組成部分。Bow-2000可安裝在戴爾、Atos、Supermicro、浪潮和聯(lián)想等領(lǐng)先品牌的主機服務(wù)器上,從而組成Bow Pod系統(tǒng)。整個Bow Pod系列包括Bow Pod16(4臺Bow-2000和一臺主機服務(wù)器)、Bow Pod32(8臺Bow-2000和一臺主機服務(wù)器)、Bow Pod64以及更大的旗艦系統(tǒng)Bow Pod256和Bow Pod1024。
最新Bow Pod系統(tǒng)現(xiàn)已上市,并開始在全球范圍內(nèi)發(fā)貨。