2019年，英特爾人工智能收入達(dá)到38億美元，在軟硬件協(xié)同創(chuàng)新、產(chǎn)業(yè)合作以及生態(tài)構(gòu)建等方面的進(jìn)展，推動(dòng)了英特爾以數(shù)據(jù)為中心的業(yè)務(wù)的增長(zhǎng)。而英特爾對(duì)于人工智能的探索，也經(jīng)歷了不少的波折。

　　去年年底，英特爾斥資約20億美元收購(gòu)以色列人工智能公司Habana Labs。隨即，英特爾宣布新近收購(gòu)的Habana的系列產(chǎn)品將取代原定的服務(wù)器端AI加速芯片Nervana Spring Crest NNP-T，而Spring Crest NNP-T系列將停止開(kāi)發(fā)。

　　根據(jù)相關(guān)資料顯示，英特爾之所以做出這個(gè)決定，是Habana在被收購(gòu)之前，其芯片就已經(jīng)被應(yīng)用于市場(chǎng)當(dāng)中，而這也能幫助英特爾能夠迅速切入到AI芯片競(jìng)爭(zhēng)當(dāng)中。據(jù)悉，Habana的芯片分為兩個(gè)系列，即針對(duì)訓(xùn)練的Gaudi系列和針對(duì)推理的Goya系列。

　　被收購(gòu)后，Habana作為一個(gè)獨(dú)立的業(yè)務(wù)部門(mén)，向英特爾的數(shù)據(jù)平臺(tái)集團(tuán)匯報(bào)。在被英特爾收購(gòu)一年以后，Habana的表現(xiàn)如何?；蛟S，從Habana最近與AWS的合作中便可讓我們窺見(jiàn)他的鋒芒。

　　云端訓(xùn)練芯片市場(chǎng)的挑戰(zhàn)者

　　眾所周知，云端訓(xùn)練芯片市場(chǎng)一直是英偉達(dá)的天下。伴隨著人工智能應(yīng)用的場(chǎng)景越來(lái)越多，云端訓(xùn)練芯片市場(chǎng)成為了一塊大蛋糕，這也使得很多廠商都在力圖這個(gè)領(lǐng)域的發(fā)展。英特爾便是其中之一，而Habana則是英特爾突破這塊市場(chǎng)的得力干將。

　　Habana的Gaudi系列是針對(duì)訓(xùn)練芯片市場(chǎng)而打造的，不久前，其Gaudi系列產(chǎn)品成功進(jìn)入到了AWS的服務(wù)器當(dāng)中。據(jù)官方新聞顯示，Invent 2020（AWS re:Invent 2020）大會(huì)上，AWS首席執(zhí)行官Andy Jassy宣布了采用最多8個(gè)Habana Gaudi加速器的EC2實(shí)例。

　　據(jù)稱(chēng)，對(duì)于機(jī)器學(xué)習(xí)工作負(fù)載，這些全新EC2實(shí)例的性?xún)r(jià)比相較目前基于GPU的EC2實(shí)例提升高達(dá)40%。8卡的Gaudi 解決方案可以在TensorFlow上每秒處理12000張圖像訓(xùn)練ResNet-50模型。每個(gè)Gaudi處理器集成了32GB的HBM2內(nèi)存，并集成了用于服務(wù)器內(nèi)部處理器互聯(lián)的RoCE功能。憑借AWS彈性架構(gòu)適配器（EFA）的技術(shù)可以跨服務(wù)器擴(kuò)展，從而允許AWS及其客戶(hù)無(wú)縫地?cái)U(kuò)展使用多個(gè)基于Gaudi的系統(tǒng)以實(shí)現(xiàn)高效和可擴(kuò)展的分布式訓(xùn)練。

　　從功耗上看，本次AWS采用的是16納米制程的Gaudi，其功耗在260W-300W之間，功耗比A100 GPU略有一點(diǎn)優(yōu)勢(shì)。Habana在現(xiàn)有制程和功耗上的表現(xiàn)，說(shuō)明整個(gè)架構(gòu)相對(duì)A100 GPU沒(méi)有任何劣勢(shì)，應(yīng)該還有一定的優(yōu)勢(shì)。

　　對(duì)于云端訓(xùn)練市場(chǎng)來(lái)說(shuō)，英偉達(dá)的GPU架構(gòu)一直是這個(gè)領(lǐng)域的主流。而本次AWS采用Gaudi產(chǎn)品則向業(yè)界傳遞了這樣一個(gè)信號(hào)——在訓(xùn)練端我們確實(shí)可以通過(guò)不同的架構(gòu)對(duì)AI進(jìn)行加速，并帶來(lái)不一樣的客戶(hù)體驗(yàn)。

　　Habana Labs中國(guó)區(qū)總經(jīng)理于明揚(yáng)認(rèn)為，性?xún)r(jià)比和軟件生態(tài)是決定一個(gè)訓(xùn)練芯片能否打入市場(chǎng)的關(guān)鍵。他表示：“性?xún)r(jià)比能夠吸引用戶(hù)去嘗試一個(gè)新平臺(tái)，軟件生態(tài)則是能夠幫助用戶(hù)將現(xiàn)有的模型更方便、快捷地遷移到新平臺(tái)的關(guān)鍵。”

　　而這，也是AWS選擇Gaudi的原因。（據(jù)介紹，明年的一季度，AWS會(huì)開(kāi)放給客戶(hù)去申請(qǐng)Gaudi的資源，去體驗(yàn)Gaudi的性能）

　　Habana獲得了什么

　　在英特爾看來(lái)，片間互聯(lián)和系統(tǒng)間互連會(huì)為整個(gè)訓(xùn)練系統(tǒng)帶來(lái)非常大的影響。

　　因此，片內(nèi)之間是否可以更多的加載數(shù)據(jù)、如何通過(guò)實(shí)現(xiàn)數(shù)據(jù)并行化成為了Habana在進(jìn)行訓(xùn)練芯片設(shè)計(jì)時(shí)所要考慮的兩個(gè)因素。

　　對(duì)于未來(lái)，于明揚(yáng)則表示：“Habana接下來(lái)將利用新的制程工藝來(lái)提升現(xiàn)有產(chǎn)品的設(shè)計(jì)。此外，Habana還將致力于與英特爾共同打造一個(gè)OneAPI的軟件生態(tài)?！?/p>

　　據(jù)介紹，Habana在后續(xù)training產(chǎn)品發(fā)展中會(huì)采用7nm，并會(huì)關(guān)注互聯(lián)技術(shù)等方面。這樣做的目的，一是可以實(shí)現(xiàn)對(duì)未來(lái)更大模型和更大數(shù)據(jù)集的支持。二是Habana將提供更具精度的數(shù)據(jù)支持。

　　在上文我們?cè)岬竭^(guò)，Habana在被收購(gòu)后是作為一個(gè)獨(dú)立的部門(mén)進(jìn)行運(yùn)營(yíng)，但對(duì)于Habana來(lái)說(shuō)，其云端AI在很大程度上是和英特爾現(xiàn)有團(tuán)隊(duì)是高度緊密吻合的。因此，與英特爾的資源進(jìn)行結(jié)合，也是Habana接下來(lái)發(fā)展的之一。

　　英特爾有足夠的客戶(hù)群，這為Habana帶來(lái)了發(fā)展契機(jī)。據(jù)于明揚(yáng)介紹，Habana被收購(gòu)之后獲得的人才和技術(shù)資源比原來(lái)擴(kuò)大了三倍。這在很大程度上支持了Habana開(kāi)發(fā)多個(gè)產(chǎn)品，以加深對(duì)客戶(hù)的支持。

　　其次，英特爾在AI市場(chǎng)有一個(gè)統(tǒng)一的平臺(tái)架構(gòu)，憑借其在AI領(lǐng)域的影響力，可以幫助Habana更快地發(fā)展，從而進(jìn)入到新的領(lǐng)域。據(jù)于明揚(yáng)介紹，明年Habana計(jì)劃會(huì)加入到OneAPI的產(chǎn)品序列當(dāng)中。

　　整個(gè)AI中，需要CPU、GPU以及像Habana這樣的ASIC扮演著不同的角色，英特爾的優(yōu)勢(shì)在于無(wú)論任何環(huán)節(jié)，英特爾都有合適的產(chǎn)品和解決方案。從一個(gè)產(chǎn)品到一個(gè)完成的生態(tài)，或許是英特爾提供給Habana的最大助力。

　　英特爾進(jìn)軍訓(xùn)練芯片市場(chǎng)初顯成效

　　借助Habana，英特爾得以進(jìn)軍訓(xùn)練芯片市場(chǎng)。

　　根據(jù)英特爾官方新聞稿中顯示，英特爾數(shù)據(jù)平臺(tái)事業(yè)部首席戰(zhàn)略官Remi El-Ouazzane對(duì)于與AWS之間的合作曾表示：“我們的產(chǎn)品組合反應(yīng)了人工智能并非是能用一種解決方案來(lái)滿(mǎn)足所有場(chǎng)景的計(jì)算挑戰(zhàn)。云服務(wù)提供商目前已廣泛采用了內(nèi)置人工智能性能的英特爾？至強(qiáng)？處理器來(lái)應(yīng)對(duì)人工智能推理工作負(fù)載。通過(guò)Habana，我們現(xiàn)在得以幫助他們降低人工智能模型的大規(guī)模訓(xùn)練成本，在高增長(zhǎng)的市場(chǎng)機(jī)遇中提供極富競(jìng)爭(zhēng)力的替代選擇?！?/p>

　　與AWS的合作，并不是Habana唯一取得的成績(jī)。據(jù)于明揚(yáng)介紹，Habana已經(jīng)與國(guó)內(nèi)頭部的互聯(lián)網(wǎng)公司以及二線的互聯(lián)網(wǎng)公司建立了廣泛的合作。這些公司基本上都已經(jīng)開(kāi)始試用Habana的產(chǎn)品，部分公司已經(jīng)開(kāi)始批量采購(gòu)，并在他們的產(chǎn)線上部署Habana推理和預(yù)測(cè)的產(chǎn)品。其中，訓(xùn)練產(chǎn)品相關(guān)的測(cè)試平臺(tái)已經(jīng)在開(kāi)始進(jìn)行不同模型的測(cè)試，以及新的模型的試運(yùn)行。

　　在英特爾亞洲人工智能銷(xiāo)售技術(shù)總監(jiān)伊紅衛(wèi)看來(lái)，人工智能和數(shù)據(jù)分析是未來(lái)10年起決定作用的工作負(fù)載，是關(guān)鍵的轉(zhuǎn)折性技術(shù)，也是英特爾未來(lái)增長(zhǎng)的重要驅(qū)動(dòng)因素，這將幫助英特爾加速邁向更廣闊的市場(chǎng)。

　　而這個(gè)市場(chǎng)或許就是英特爾正在做轉(zhuǎn)型的“以數(shù)據(jù)為中心”的市場(chǎng)。他們認(rèn)為，在以數(shù)據(jù)為中心的時(shí)代，釋放數(shù)據(jù)的指數(shù)級(jí)潛力，關(guān)鍵在于AI x 5G x 智能邊緣等轉(zhuǎn)折性技術(shù)，它們加速突破和融合，正成為智能世界的新型基礎(chǔ)設(shè)施，釋放智能的X效應(yīng)，驅(qū)動(dòng)產(chǎn)業(yè)新一輪的智能創(chuàng)新。