一直以來,高通在推動終端側(cè)人工智能芯片的應用方面不遺余力?,F(xiàn)在這家全球最大的手機芯片提供商又推出了面向數(shù)據(jù)中心推理計算的云端AI芯片Cloud AI 100,正式宣告進入云端AI芯片市場。
迄今為止,作為終端側(cè)最主流的人工智能芯片解決方案,驍龍人工智能芯片已經(jīng)為市面上超過10億部智能手機提供AI運算加速,越來越多的手機用戶享受到人工智能芯片帶來的智慧體驗與便利。顯然,高通并不想只局限于終端側(cè)人工智能芯片領(lǐng)域,隨著Cloud AI 100這款云端AI芯片的發(fā)布,高通把終端側(cè)AI的技術(shù)和規(guī)模優(yōu)勢轉(zhuǎn)移到云端AI芯片領(lǐng)域,全新的Cloud AI 100云端AI芯片和其他云端AI芯片解決方案(GPU、CPU 和 FPGA)相比,在性能功耗上能夠達到10倍的提升,和高通驍龍處理器的終端側(cè)AI 計算能力相比則至少有50倍的提升。這款云端AI芯片的問世將為當今數(shù)據(jù)中心AI推理加速市場樹立全新標桿。
據(jù)市場調(diào)研公司預測,用于數(shù)據(jù)中心的云端AI芯片市場規(guī)模將從2018年的25億美元增長到2023年的212億美元。僅AI推理這一細分市場從2018年到2025年將有10倍的增長,達到170億美元。從云端AI芯片的用量來看,AI推理芯片使用場景廣泛,需求量巨大。在2019年舊金山舉辦的AI Day會議上,高通宣布推出的這款Cloud AI 100云端AI芯片,就是專為滿足急劇增長的云端AI推理處理的需求而設計。同時將基于驍龍AI芯片的終端側(cè)AI技術(shù)優(yōu)勢拓展至數(shù)據(jù)中心,從云到端全面塑造人工智能生態(tài)。
經(jīng)過多年的技術(shù)演進,驍龍AI芯片已經(jīng)成為智能手機處理器行業(yè)的標準,在性能不斷提高的同時,低功耗、少發(fā)熱已經(jīng)成為驍龍AI芯片在設計上的核心優(yōu)勢,現(xiàn)在這兩個優(yōu)勢不僅可以被手機終端消費者所享受,現(xiàn)在也惠及到云端服務器、數(shù)據(jù)中心。一直以來,降低用電、減少發(fā)熱都是服務器、數(shù)據(jù)中心迫切想要實現(xiàn)的目標。當前AI服務器行業(yè)使用的其他計算架構(gòu),很可能會出現(xiàn)明顯的電力損耗、產(chǎn)生大量熱能等問題,Cloud AI 100這款云端AI芯片從高通自家的驍龍AI芯片的架構(gòu)設計和制造工藝中汲取靈感,使云端AI芯片的運行效率有了極大改善,因此其同等性能下的功耗只有競爭對手們的十分之一。此外Cloud AI 100這款云端AI芯片,還有一個明顯的優(yōu)勢,那就是這款云端AI芯片并非特別隸屬服務器應用項目,而是卡式設計作為協(xié)同處理器提供運算加速,同時在整體配置上也沒有做太大限制,主要針對運算規(guī)模進行彈性布署,可以將云端AI芯片以插卡形式“即插即用”到云端服務器上,使用非常方便。
不僅使用方便、功耗低,更重要的是Cloud AI 100云端AI芯片性能強悍。由7納米制程工藝打造,支持業(yè)界領(lǐng)先的軟件棧,包括PyTorch、Glow、TensorFlow、Keras和ONNX,這個云端AI芯片的峰值AI性能將達到350 TOPS,可以高速執(zhí)行密集的浮點和整數(shù)運算。與傳統(tǒng)的現(xiàn)場可編程門陣列 (FPGA) 相比,Cloud AI 100這款AI芯片在推斷任務方面比目前最先進的AI推理解決方案平均速度要快10倍左右。區(qū)別于純CPU、CPU+FPGA之后的第三代高性能AI計算體系,Cloud AI 100這樣的專用于推理計算的云端AI芯片在架構(gòu)上本身就更適合專門類型的機器學習推理計算。
憑借更高的AI算力、更節(jié)能環(huán)保的設計、更方便的快捷的使用方式,Cloud AI 100云端AI芯片將為服務提供商帶來更強大的在線AI體驗,讓用戶真正體會到AI的好處。在這個“應用為王”的時代,將云端AI芯片作為新的游戲平臺,這便是Cloud AI 100的“完美應用場景”之一。一直以來,游戲過程中的延時和卡頓都是讓玩家痛心疾首的致命傷,在云端服務器上執(zhí)行的高能效AI推理可以減輕移動終端的AI處理負荷。在2019年深圳人工智能開放日活動上,高通聯(lián)合vivo、騰訊王者榮耀開發(fā)團隊和騰訊AI Lab,一起演繹了一場專業(yè)游戲電競賽。通過MOBA類游戲場景的實驗環(huán)境來不斷提升和優(yōu)化AI電競戰(zhàn)隊的實力,為移動電競帶來體驗的升級和優(yōu)化,由此可以看出移動游戲?qū)⑹亲钅馨l(fā)揮Cloud AI 100極致性能的應用。而騰訊云也可能成為國內(nèi)首批Cloud AI 100云端AI芯片的用戶。
顯而易見,Cloud AI 100這款人工智能芯片的發(fā)布是高通正式參與云端AI芯片領(lǐng)域的標志,憑借Cloud AI 100云端AI芯片的性能優(yōu)勢,預計到2025年,該芯片市場規(guī)模將達到 6630萬美元。云端人工智能芯片領(lǐng)域一個有很大增長潛力的新興市場,高通以全新的云端AI芯片產(chǎn)品切入進去將為自身業(yè)務開辟新的領(lǐng)地。當Cloud AI 100云端AI芯片量產(chǎn)后,其強悍性能會真正落在實處,為消費者帶來智慧生活體驗的全新改變。