在近日舉行的re:Invent 2020 CEO主題大會上,AWS ec2/instance-types/habana-gaudi/" target="_self">宣布 了采用多達8個Habana? Gaudi? 加速器的EC2實例,比目前GPU的EC2實例在機器學習性價比上提升了40%1,基于Gaudi? 的EC2實例計劃于2021年上半年提供使用。
在主題大會上,AWS首席執(zhí)行官Andy Jassy強調(diào)了各行業(yè)對高性能、更實惠的人工智能工作的巨大需求。隨著公司計劃引入以Gaudi為特色的新EC2實例進行深度學習訓練,AWS將進一步降低AI數(shù)據(jù)集的訓練成本,并降低希望利用AI提供業(yè)務(wù)分析、改善效率和增強用戶體驗的客戶的運營總成本。
8卡的Gaudi 解決方案可以在TensorFlow上每秒處理12000張圖像訓練ResNet-50模型。每個Gaudi處理器集成了32GB的HBM2內(nèi)存,并集成了用于服務(wù)器內(nèi)部處理器互聯(lián)的RoCE功能。憑借AWS彈性架構(gòu)適配器(EFA)的技術(shù)可以跨服務(wù)器擴展,從而允許AWS及其客戶無縫地擴展使用多個基于Gaudi的系統(tǒng)以實現(xiàn)高效和可擴展的分布式訓練。
Habana的SynapseAI軟件套件專為在Habana Gaudi處理器上提供高性能的深度學習訓練,SynapseAI與TensorFlow和Pythorch等流行的深度學習框架集成,對Gaudi進行了優(yōu)化。開發(fā)人員將可以獲取開放的Gaudi軟件、參考模型和文檔。參考模型將在Habana的GitHub知識庫中公開發(fā)布,并將包括各種流行的模型,如圖像分類、對象檢測、自然語言處理和推薦系統(tǒng)。SynapseAI軟件套件包括Habana的圖形編譯器和實時Tensor Processor Core (TPC)內(nèi)核庫、固件和驅(qū)動程序,以及用于定制內(nèi)核開發(fā)的TPC SDK和SynapseAI Profiler等開發(fā)工具。有關(guān)在Gaudi上使用新的AWS EC2實例的更多信息,請參閱我們的白皮書。
Habana將在目前Gaudi效能基礎(chǔ)上,推出下一代TSMC 7nm 的Gaudi2?,讓AI訓練應(yīng)用和服務(wù)廣大客戶、數(shù)據(jù)科學家和研究人員。
了解更多Gaudi AI訓練的優(yōu)勢,歡迎訪問EC2實例 網(wǎng)頁,以及Habana?AI訓練介紹。
1該性價比>由AWS根據(jù)AWS內(nèi)部測試給出。 Habana? Labs不控制或?qū)徍说谌綌?shù)據(jù);您的成本和結(jié)果可能會有所不同。
Gaudi?性能基于8個Gaudi?處理器的服務(wù)器,HLS-1和0.11版本的SynapseAI軟件套件。
關(guān)于英特爾
英特爾(NASDAQ: INTC)作為行業(yè)引領(lǐng)者,創(chuàng)造改變世界的技術(shù),推動全球進步并讓生活豐富多彩。在摩爾定律的啟迪下,我們不斷致力于推進半導體設(shè)計與制造,幫助我們的客戶應(yīng)對最重大的挑戰(zhàn)。通過將智能融入云、網(wǎng)絡(luò)、邊緣和各種計算設(shè)備,我們釋放數(shù)據(jù)潛能,助力商業(yè)和社會變得更美好。如需了解英特爾創(chuàng)新的更多信息,請訪問英特爾中國新聞中心newsroom.intel.cn 以及官方網(wǎng)站 intel.cn 。