10月16日,在北京舉行的2018XDF賽靈思開(kāi)發(fā)者大會(huì)上,浪潮聯(lián)合賽靈思宣布推出全球首款集成HBM2高速緩存的FPGA AI加速卡F37X,可在不到75W典型應(yīng)用功耗提供28.1TOPS的INT8計(jì)算性能和460GB/s的超高數(shù)據(jù)帶寬,適合于機(jī)器學(xué)習(xí)推理、視頻轉(zhuǎn)碼、圖像識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理、基因組測(cè)序分析、NFV、大數(shù)據(jù)分析查詢等各類(lèi)應(yīng)用場(chǎng)景,實(shí)現(xiàn)高性能、高帶寬、低延遲、低功耗的AI計(jì)算加速。
浪潮集團(tuán)副總裁李金在XDF大會(huì)做主題演講
F37X是浪潮專(zhuān)為AI極致性能設(shè)計(jì)的尖端FPGA加速卡,它采用Xilinx Virtex UltraScale 架構(gòu),提供285萬(wàn)個(gè)系統(tǒng)邏輯單元和9024個(gè)DSP單元,INT8計(jì)算性能達(dá)到了28.1TOPS,集成8GB HBM2高速緩存,帶寬達(dá)460GB/s,相比單DDR4 DIMM提升20倍。當(dāng)AI計(jì)算模型尺寸小于HBM2容量時(shí),可全部預(yù)先載入高速緩存之中,消除了外部讀寫(xiě)帶來(lái)的數(shù)據(jù)傳輸延遲并提高處理速度,使AI計(jì)算完全放到片上成為可能。性能數(shù)據(jù)顯示,浪潮F37X在AI圖像識(shí)別實(shí)時(shí)推理場(chǎng)景,基于GoogLeNet深度學(xué)習(xí)網(wǎng)絡(luò)模型,當(dāng)BatchSize=1時(shí)性能高達(dá)8600 images/s,是CPU性能的40倍。F37X典型應(yīng)用功耗僅為75瓦,性能功耗比高達(dá)375Gops/W。此外,F(xiàn)37X板載24GB DDR4內(nèi)存及雙端口100Gbps高速網(wǎng)絡(luò)接口。F37X設(shè)計(jì)為全高半長(zhǎng)PCI-E 3.0板卡,緊致的尺寸可使得單臺(tái)AI服務(wù)器支持更多加速卡設(shè)備,從而提供極限計(jì)算與通信性能。
全球首款集成HBM2的FPGA AI加速卡F37X
F37X可支持C/C 、OpenCL和RTL三種主流的編程語(yǔ)言開(kāi)發(fā)環(huán)境。相應(yīng)SDx工具套件內(nèi)含SDAccel?、Vivado?及SDK工具,應(yīng)用已有的OpenCV、BLAS、Encoder、DNN、CNN等加速庫(kù),實(shí)現(xiàn)對(duì)主流深度學(xué)習(xí)框架如Caffe、TensorFlow、Torch、Theano等的支持,覆蓋機(jī)器學(xué)習(xí)推理、視頻圖像處理、數(shù)據(jù)庫(kù)分析、金融、安全等典型AI應(yīng)用領(lǐng)域,提供強(qiáng)大的生態(tài)支持,具備更加出色的易編程性,可靈活快速開(kāi)發(fā)和遷移不同的AI定制算法應(yīng)用,在軟件生產(chǎn)力上實(shí)現(xiàn)了質(zhì)的飛躍。
浪潮集團(tuán)副總裁李金表示:“AI正以前所未有的速度重構(gòu)產(chǎn)業(yè)創(chuàng)新,AI算法將不斷快速迭代,線上推理將成為AI計(jì)算的主要場(chǎng)景。浪潮一直致力創(chuàng)新FPGA軟硬件技術(shù),幫助客戶持續(xù)獲得領(lǐng)先的AI計(jì)算競(jìng)爭(zhēng)力。浪潮F37X加速卡將為全球用戶提供快速可定制、實(shí)時(shí)高性能、高密低功耗的先進(jìn)的FPGA解決方案,加速AI應(yīng)用的線上部署。”
賽靈思公司數(shù)據(jù)中心銷(xiāo)售副總裁FreddyEngineer表示:“浪潮因產(chǎn)品執(zhí)行和創(chuàng)新而享譽(yù)全球。浪潮將為客戶提供搭載Xilinx加速卡的服務(wù)器,我們?yōu)榇硕院?。我們非常高興能成為浪潮的開(kāi)發(fā)合作伙伴,聯(lián)合推出突破性產(chǎn)品F37X,它通過(guò)HBM2提供前所未有的內(nèi)存帶寬,將加速數(shù)據(jù)分析、AI和需要最低延遲數(shù)據(jù)訪問(wèn)的工作負(fù)載?!?/p>
浪潮是全球領(lǐng)先的AI計(jì)算力廠商,從計(jì)算平臺(tái)、管理套件、框架優(yōu)化、應(yīng)用加速等四個(gè)層次致力于打造敏捷、高效、優(yōu)化的AI基礎(chǔ)設(shè)施。浪潮幫助AI客戶在語(yǔ)音、圖像、視頻、搜索、網(wǎng)絡(luò)等方面取得數(shù)量級(jí)的應(yīng)用性能提升。據(jù)IDC《2017年中國(guó)AI基礎(chǔ)架構(gòu)市場(chǎng)調(diào)查報(bào)告》顯示,浪潮AI服務(wù)器市場(chǎng)份額達(dá)57%高居第一。