人工智能芯片的應(yīng)用場(chǎng)景細(xì)分市場(chǎng)越來(lái)越多,隨著人臉識(shí)別等應(yīng)用的普及與發(fā)展,專門為AI應(yīng)用定制的芯片開(kāi)始逐漸替代傳統(tǒng)的通用芯片。這樣的形勢(shì),給一些人工智能芯片的初創(chuàng)公司帶來(lái)了機(jī)會(huì)。這也使得各大AI算法公司紛紛推出自己的專用定制芯片。
從技術(shù)架構(gòu)來(lái)看,目前人工智能芯片主要可分為通用性芯片(比如常用的GPU)、半定制化芯片(FPGA)、全定制化芯片(ASIC)、類腦芯片四大類。
在全球范圍內(nèi),AI芯片早已成為各行業(yè)巨頭最為重視的戰(zhàn)略高地。Google很早就推出了自研的TPU;Nvidia在AI領(lǐng)域也是深耕多年,并且在云端AI芯片、汽車自動(dòng)駕駛領(lǐng)域占據(jù)了很大的市場(chǎng);2017年,Intel以150多億美金收購(gòu)了ADAS/自動(dòng)駕駛AI芯片及解決方案廠商Mobileye,此外還收購(gòu)了AI芯片公司Movidius;Facebook也有在芯片方向布局;不久前,Tesla也推出了自己的自動(dòng)駕駛AI芯片。
而在國(guó)內(nèi),如百度在2018年就發(fā)布了云端AI芯片“昆侖”;阿里去年也收購(gòu)了中天微,并且還成立了平頭哥半導(dǎo)體公司;同時(shí),在去年,眾多的語(yǔ)音AI算法廠商(如云知聲、Rokid、思必馳等)及視覺(jué)AI算法廠商(如地平線、云天勵(lì)飛等)也都紛紛推出了自己的AI芯片。
顯然,AI算法廠商推出自有的AI芯片,加速自身AI技術(shù)能夠更好更快的落地,已經(jīng)成為了一大趨勢(shì)。
摩爾定律終結(jié),算法即芯片開(kāi)啟新時(shí)代
2019年5月9日,依圖科技在上海舉行“極智·求索——依圖科技產(chǎn)品發(fā)布會(huì)”,并在會(huì)上發(fā)布了自研云端視覺(jué)推理AI芯片questcore?,以及基于該芯片構(gòu)建的軟硬件一體化系列產(chǎn)品和行業(yè)解決方案。
官方宣稱,questcore?是目前全球最智能、性價(jià)比最高的視覺(jué)推理芯片。這款A(yù)I芯片是由依圖科技和AI芯片初創(chuàng)團(tuán)隊(duì)ThinkForce聯(lián)合開(kāi)發(fā)的。
而需要指出的是,ThinkForce則是依圖科技投資的一家AI芯片公司。2017年ThinkForce曾獲得依圖科技、云鋒基金、紅杉資本、高瓴資本的4.5億元A輪融資。
依圖科技聯(lián)合創(chuàng)始人、CEO 朱瓏博士現(xiàn)場(chǎng)分享了他對(duì) AI 芯片的看法。在演講中,朱瓏博士表示,依圖預(yù)見(jiàn),摩爾定律的終結(jié)和人工智能技術(shù)的發(fā)展將開(kāi)啟一個(gè)新的時(shí)代——算法即芯片時(shí)代。“算法即芯片這句話非常本質(zhì),只有能找對(duì)問(wèn)題,找對(duì)場(chǎng)景,用對(duì)算法,并為此定制芯片,才有可能做到極致性價(jià)比。”
早在2017年,ThinkForce就宣布要發(fā)布AI芯片,不過(guò)從研發(fā)設(shè)計(jì)到流片及最終量產(chǎn)需要花費(fèi)大量的時(shí)間進(jìn)行產(chǎn)品驗(yàn)證。
盡管早在2018年就有數(shù)據(jù)AI算法公司發(fā)布了芯片,但是呂昊認(rèn)為,2018年發(fā)布的產(chǎn)品大部分以PPT為主,并沒(méi)有實(shí)現(xiàn)量產(chǎn)商用,也沒(méi)有經(jīng)過(guò)市場(chǎng)驗(yàn)證。相對(duì)2018年,2019年才是AI芯片的交卷的一年?!拔覀?月的發(fā)布是直接商用,畢竟我們不是一個(gè)傳統(tǒng)做芯片廠商,不是為了賣這顆芯片為目的來(lái)做這件事情?!眳侮槐硎荆瑥臅r(shí)間點(diǎn)來(lái)看,此次發(fā)布的AI芯片并不晚于任何一家同行公司。
依圖科技還在現(xiàn)場(chǎng)向業(yè)界展示了其技術(shù)前瞻性和垂直整合的能力,成為眾多明星初創(chuàng)企業(yè)中,率先將基礎(chǔ)算力和高端算法等核心實(shí)力同時(shí)握于手中的人工智能公司。
依圖questcore:性能強(qiáng)大、高能效、高性價(jià)比
據(jù)介紹,依圖questcore?采用16nm工藝,基于Arm內(nèi)核 ThinkForce自主研發(fā)的微內(nèi)核ManyCore架構(gòu),同時(shí)還針對(duì)依圖領(lǐng)先的AI算法做了專門優(yōu)化,能夠充分發(fā)揮依圖在機(jī)器視覺(jué)領(lǐng)域的專業(yè)積累和行業(yè)知識(shí),適用于人臉識(shí)別、視頻結(jié)構(gòu)化分析、行人再識(shí)別等多種圖像和視頻實(shí)時(shí)智能分析任務(wù)。
在實(shí)際的云端應(yīng)用場(chǎng)景,依圖 questcore? 最高能提供每秒15 TOPS的視覺(jué)推理性能,可以支持64路全高清實(shí)時(shí)解碼。最大功耗僅20W,比一個(gè)普通的電燈泡還小。在同等功耗下,依圖questcore?產(chǎn)品的視覺(jué)推理性能是市面現(xiàn)有主流同類產(chǎn)品的2~5倍。
不過(guò),目前這款A(yù)I芯片并不對(duì)外,主要是依圖自用,將主要用在依圖的云端和邊緣服務(wù)器上,結(jié)合產(chǎn)品和行業(yè)解決方案一起售賣。雖然是自用,但由于依圖的應(yīng)用場(chǎng)景很廣泛,因此足以支撐起其產(chǎn)品升級(jí)。另?yè)?jù)透露,依圖下一代的AI芯片目前也已經(jīng)在研發(fā)當(dāng)中。
此外,依圖還推出了基于questcore? 打造的原子服務(wù)器。根據(jù)官方的數(shù)據(jù)顯示,一臺(tái)依圖原子服務(wù)器提供的算力與 8 張英偉達(dá)P4卡服務(wù)器相當(dāng),而體積僅為后者的一半,但功耗卻不到20%。
在進(jìn)行視頻解析時(shí),1臺(tái)依圖原子服務(wù)器(搭載4核 questcore?芯片,除此之外無(wú)需其他配置),與8卡英偉達(dá)T4服務(wù)器(含雙核英特爾 x86 CPU)對(duì)比,單路視頻解析功耗僅為后者的 20%,與8卡英偉達(dá)P4 服務(wù)器(同樣含雙核英特爾 x86 CPU)相比,功耗約為后者的10%。
在發(fā)布會(huì)現(xiàn)場(chǎng)的插電演示中,依圖科技首席創(chuàng)新官呂昊博士手持一臺(tái)體積與15 英寸蘋(píng)果 MacBook Pro筆記本相當(dāng)?shù)囊缊D原子服務(wù)器,成功帶動(dòng)200路攝像頭同時(shí)完成實(shí)時(shí)智能視頻分析任務(wù),引發(fā)在場(chǎng)嘉賓強(qiáng)烈反響。
在智慧城市、安防、無(wú)人零售等領(lǐng)域,需要解決大量的視頻分析。呂昊表示,這顆AI芯片定位為一顆云端芯片,主要應(yīng)用于視頻解析等任務(wù)?,F(xiàn)場(chǎng)演示表明,單條主干道或者一整個(gè)小型園區(qū)所需的智能終端設(shè)備,只需要這樣小小一臺(tái)單手可持的服務(wù)器便能驅(qū)動(dòng),為智慧城市、智慧交通、智能安防、智能零售等大規(guī)模AI行業(yè)應(yīng)用的落地和普及奠定了堅(jiān)實(shí)的基礎(chǔ)。
當(dāng)然,對(duì)于客戶來(lái)說(shuō),數(shù)據(jù)中心的成本也是至關(guān)重要的需要考量的因素。依圖表示,數(shù)據(jù)中心應(yīng)該讓客戶“建得起、用得省、算得準(zhǔn)”,使用依圖 questcore?構(gòu)建的視頻解析系統(tǒng),可將原本需要 16 臺(tái)機(jī)柜的方案壓縮到 1 臺(tái),使整體建設(shè)費(fèi)用投入減少 50%,運(yùn)維成本降低 80%。
不僅如此,依圖原子服務(wù)器能夠直接在云端升級(jí)系統(tǒng),不需要大規(guī)模購(gòu)買或者更新已有的攝像頭、傳感器等終端設(shè)備,大幅提高了現(xiàn)有基礎(chǔ)設(shè)施的利用率。
替代英偉達(dá)P4,未來(lái)將挑戰(zhàn)50萬(wàn)路應(yīng)用
以“城市大腦”應(yīng)用為例,如果采用傳統(tǒng)的英偉達(dá)的P4方案,成本高昂(2000美金),不是所有企業(yè)都可以負(fù)擔(dān)。采用AI芯片后,一萬(wàn)路的解決方案不再需要超大的數(shù)據(jù)中心來(lái)進(jìn)行處理,同時(shí)可以挑戰(zhàn)更大型的50萬(wàn)路方案。采用這款A(yù)I芯片,將為依圖的服務(wù)器節(jié)省1/3的體積和能耗,同時(shí)讓依圖的產(chǎn)品解決方案發(fā)生巨大變化。
依圖強(qiáng)調(diào),由于這款A(yù)I芯片是自用,所以目前并沒(méi)有對(duì)標(biāo)的同類的產(chǎn)品。不過(guò)將取代之前自己采用的英偉達(dá)P4、T4方案。
呂昊表示,如果說(shuō)硬要比較的話,前段時(shí)間特斯拉推出的AI芯片F(xiàn)SD在設(shè)計(jì)上有很多相似之處,雖然具體應(yīng)用不同,但都專注于視頻解析能力的提升。 因此依圖的這顆AI芯片同樣也適用于智能駕駛應(yīng)用。
中國(guó)獨(dú)角獸公司有何底氣挑戰(zhàn)Nvidia等AI芯片巨頭?
作為一家AI芯片公司,其競(jìng)爭(zhēng)對(duì)手往往是半導(dǎo)體行業(yè)的傳統(tǒng)巨頭,比如英特爾、英偉達(dá)這樣的公司。在芯片的制造工藝、設(shè)計(jì)等各方面人才儲(chǔ)備是有絕對(duì)優(yōu)勢(shì)的。不過(guò)這并不表示初創(chuàng)公司就沒(méi)有機(jī)會(huì)了,因?yàn)槌鮿?chuàng)公司針對(duì)的應(yīng)用市場(chǎng)往往比較單一,不需要提供復(fù)雜的芯片設(shè)計(jì)來(lái)適應(yīng)通用市場(chǎng)。
呂昊認(rèn)為,AI時(shí)代來(lái)臨的一個(gè)機(jī)會(huì)是摩爾定律難以繼續(xù)下去了。單位面積晶體管數(shù)量的提升終將觸及物理極限。與此同時(shí),智能算法的性能仍在萬(wàn)倍增長(zhǎng),以依圖自主研發(fā)的人臉識(shí)別算法為例,過(guò)去4年算法精度提升了100萬(wàn)倍。
人工智能的提升不能再依靠晶體管密度的提升,而需要對(duì)芯片設(shè)計(jì)、整個(gè)體系結(jié)構(gòu)做調(diào)整。同時(shí)算法的調(diào)整、上層應(yīng)用、軟件的設(shè)計(jì)業(yè)至關(guān)重要。因此,在此次5月9日的發(fā)布會(huì)上,依圖提出了“算法即芯片”的戰(zhàn)略。
“我們非常相信垂直整合之后能夠給我們帶來(lái)突破,這個(gè)是我們和傳統(tǒng)芯片廠商最大的區(qū)別?!?呂昊認(rèn)為,AI時(shí)代算法和芯片需要強(qiáng)耦合才能夠在這樣一個(gè)比較復(fù)雜的設(shè)計(jì)空間里面找到一個(gè)更有競(jìng)爭(zhēng)力的設(shè)計(jì)。
對(duì)于依圖這樣一直深耕算法的公司來(lái)說(shuō),“算法級(jí)芯片”代表算法公司有很大的優(yōu)勢(shì)。在同類算法公司中,依圖的人臉識(shí)別算法的精度是其他廠商的100倍以上。除了視頻算法以外也有做語(yǔ)音算法,語(yǔ)義理解算法也登上了最近的《Nature Medicine》雜志。此外,依圖對(duì)行業(yè)具體應(yīng)用場(chǎng)景的應(yīng)用如安防、醫(yī)療也投入巨大,這也讓依圖選擇自己研發(fā)芯片有了底氣。
依圖的另一個(gè)優(yōu)勢(shì)是對(duì)未來(lái)算法發(fā)展趨勢(shì)的預(yù)判,呂昊表示依圖與ThinkForce在一起研究迭代了非常長(zhǎng)的時(shí)間、做了非常多的實(shí)驗(yàn)。對(duì)很多算法是有一個(gè)比較深的判斷,尤其是視覺(jué)推理。通過(guò)實(shí)踐,“我們很早在自己的模型上知道了低精度的INT8的設(shè)計(jì)是云端推理芯片一個(gè)必然的趨勢(shì)。這不是所有廠商都能判斷對(duì)的。”
由于對(duì)算法的精準(zhǔn)預(yù)判,依圖得以通過(guò)ASIC提前固化一些算法,以應(yīng)對(duì)AI算法的不斷提升以及變化。最后,通過(guò)AI芯片能夠在更小的設(shè)備和更好的功耗上完成更高的智能密度,有機(jī)會(huì)與傳統(tǒng)芯片廠商在同一起跑線競(jìng)爭(zhēng),甚至實(shí)現(xiàn)彎道超車。
隨著云端AI芯片及一系列產(chǎn)品的發(fā)布,從技術(shù)維度,依圖已具備視覺(jué)、語(yǔ)音、自然語(yǔ)言理解和智能決策等多個(gè)技術(shù)領(lǐng)域達(dá)到甚至領(lǐng)跑世界領(lǐng)先水平,全面解決機(jī)器看、聽(tīng)、理解的根本問(wèn)題,同時(shí)致力于提升算法精度、拓寬算法廣度。
從業(yè)務(wù)應(yīng)用維度,芯片及系列硬件產(chǎn)品的發(fā)布將強(qiáng)化依圖行業(yè)垂直整合的布局,通過(guò)世界級(jí)的算法、芯片、服務(wù)器和管理軟件,構(gòu)建更高性能、更低成本的芯片和硬件產(chǎn)品,讓算法對(duì)芯片的全面賦能,更將驅(qū)動(dòng)人工智能在更多場(chǎng)景下的應(yīng)用和落地。
AI算法的未來(lái),精度繼續(xù)提升的意義在哪里?
依圖科技首席創(chuàng)新官呂昊也在會(huì)后第一時(shí)間接受了芯智訊記者采訪,并詳細(xì)介紹了依圖科技的“算法即芯片”戰(zhàn)略。
提到未來(lái)趨勢(shì),呂昊表示AI算法精度一定會(huì)繼續(xù)不斷的提升。那么算法識(shí)別率從99%提升到99.9%的意義是什么呢?呂昊認(rèn)為,以人臉解鎖為例,人臉的算法精度不斷提升就能不斷解鎖應(yīng)用場(chǎng)景。
比如簡(jiǎn)單的1:1人證核驗(yàn),對(duì)精度要求不高,因此很多廠商都免費(fèi)了。往上一步,門禁、閘機(jī)、園區(qū)方案可能對(duì)算法要求更高。比如說(shuō)去年整個(gè)華為園區(qū)都是用依圖的門禁閘機(jī)系統(tǒng)。
再往上的應(yīng)用包括地鐵刷臉、刷臉支付,現(xiàn)在很多刷臉支付場(chǎng)景都需要你輸入手機(jī)號(hào)碼,這個(gè)體驗(yàn)上就比較差,站在你后面的人就能看到前面的人的手機(jī)號(hào),就不那么的智能。要想突破這些場(chǎng)景下的應(yīng)用就必須要有精度非常高的人臉識(shí)別。
這些應(yīng)用再提升到城市級(jí)別的大規(guī)模應(yīng)用,比如公安視頻監(jiān)控、反恐等,對(duì)于算法的精度要求就更高了。所以算法精度不斷地提升是有非常大意義的。就是低于某個(gè)線的性能的算法幾乎就不值錢,只有到你這個(gè)是市場(chǎng)上有你的稀缺性的時(shí)候才能體現(xiàn)出你的價(jià)值?!斑@個(gè)是為什么依圖這么專注地不斷提高自己算法精度的一個(gè)根本原因,并不是為了炫酷、秀肌肉?!眳侮槐硎?。
依圖大事記
上海依圖網(wǎng)絡(luò)科技有限公司成立于2012年9月,由朱瓏、林晨曦共同創(chuàng)立。
依圖科技人工智能技術(shù)的應(yīng)用領(lǐng)域包括:智能安防、依圖醫(yī)療、智慧金融、智慧城市、智能硬件等。
2017年7月,依圖科技在由美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)局(NIST)主辦的全球人臉識(shí)別測(cè)試(FRVT)中奪得第一,成績(jī)?cè)谇f(wàn)分之一誤報(bào)下達(dá)到識(shí)別準(zhǔn)確率95.5%,是當(dāng)時(shí)全球工業(yè)界在此項(xiàng)指標(biāo)下的最好水平。根據(jù)2018年6月的官方報(bào)告,依圖已將這一指標(biāo)提升到了接近極限的水平,即在千萬(wàn)分之一誤報(bào)下的識(shí)別準(zhǔn)確率已經(jīng)接近 99%。
2018年6月依圖科技完成由高成資本、工銀國(guó)際、浦銀國(guó)際的2億美元C 輪融資。
2018年7月16日,依圖科技完成興業(yè)國(guó)信資管1億美元融資。
2019年5月9日,依圖科技在上海舉行“極智·求索——依圖科技產(chǎn)品發(fā)布會(huì)”,并在會(huì)上發(fā)布了自研云端視覺(jué)推理AI芯片questcore?,以及基于該芯片構(gòu)建的軟硬件一體化系列產(chǎn)品和行業(yè)解決方案。