業(yè)內(nèi)知名媒體EE Times每年都會(huì)舉辦“Silicon 60”評(píng)選活動(dòng),選出全球最值得關(guān)注的60家半導(dǎo)體新創(chuàng)公司。統(tǒng)計(jì)顯示,今年選出來(lái)的“Silicon 60”企業(yè)以機(jī)器學(xué)習(xí)為主流,共有15家相關(guān)企業(yè)入選,與去年七月相比大幅提升,這從側(cè)面反映了近年來(lái)AI產(chǎn)業(yè)的流行。
值得一提的是,總部設(shè)在美國(guó)加利福尼亞州的企業(yè)出現(xiàn)在榜單中的頻率越來(lái)越高,今年更是有29家之多,當(dāng)中大多與人工智能芯片有關(guān),其中有一家企業(yè)更是首次入選——那就是由加州大學(xué)洛杉磯分校電子工程系博士劉峻誠(chéng)創(chuàng)立的耐能(Kneron)。
耐能科技的創(chuàng)始人兼CEO劉峻誠(chéng)
資料顯示,該公司2015年創(chuàng)立于美國(guó)圣地亞哥,是終端人工智能解決方案的領(lǐng)導(dǎo)廠商,提供軟硬件整合的解決方案,包括終端設(shè)備專用的神經(jīng)網(wǎng)絡(luò)處理器(Neural Processing Unit,NPU)以及各種圖像識(shí)別軟件。依賴于其高能耗的產(chǎn)品,耐能已經(jīng)也與格力和搜狗等多家大廠達(dá)成了長(zhǎng)期合作。公司更是在推出了兩代IP產(chǎn)品之后,謀劃于明年推出ASIC芯片,進(jìn)一步深耕人工智能應(yīng)用市場(chǎng)。
為了讓大家對(duì)這家人工智能新貴有更深入的了解,半導(dǎo)體行業(yè)觀察記者日前采訪了耐能的創(chuàng)始人兼CEO劉峻誠(chéng),給大家?guī)?lái)他對(duì)公司和行業(yè)的最新見(jiàn)解。
實(shí)力雄厚團(tuán)隊(duì)締造的人工智能IP新貴
過(guò)去幾年深度學(xué)習(xí)算法準(zhǔn)確率的提升,推動(dòng)了整個(gè)人工智能應(yīng)用的興旺,巨大的市場(chǎng)容量吸引了大量的創(chuàng)業(yè)者投身其中。尤其是在邊緣終端AI芯片方面,更是百花齊放,百家爭(zhēng)鳴。但這些企業(yè)做邊緣端AI芯片,只有兩個(gè)途徑可供選擇,那就是自研人工智能IP,或者授權(quán)第三方的NPU IP,而耐能在創(chuàng)業(yè)初期就是從NPU IP切入,也是當(dāng)中的一個(gè)佼佼者。
今年年初,該公司推出的第一代NPU IP在市場(chǎng)獲得了高度認(rèn)可。但銳意創(chuàng)新的耐能馬不停蹄,在短短的半年之后,就帶來(lái)了其第二代終端人工智能處理器系列NPU IP ——KDP Series。當(dāng)中包括了超低功耗版KDP 320、標(biāo)準(zhǔn)版KDP 520、高效能版KDP 720等三大產(chǎn)品,全系列產(chǎn)品的功耗低于0.5瓦(W),采用新的架構(gòu)設(shè)計(jì)讓計(jì)算更具彈性,整體效能相較于上一代產(chǎn)品大幅提升達(dá)3倍,峰值吞吐量(Peak Throughput)最高更是可以達(dá)到5.8TOPS(每秒萬(wàn)億次計(jì)算)。
耐能的第二代NPU核心技術(shù)
劉峻誠(chéng)表示,耐能新一代NPU產(chǎn)品在諸多方面取得顯著的突破,基于第一代產(chǎn)品的優(yōu)勢(shì),改善數(shù)據(jù)計(jì)算流程、提升整體計(jì)算效能與儲(chǔ)存資源使用率,同時(shí)針對(duì)不同的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行優(yōu)化,讓NPU可以更廣泛地應(yīng)用在各種終端設(shè)備,并滿足更復(fù)雜的計(jì)算需求。新的IP的出現(xiàn),也讓耐能在11月初正式推出支付等級(jí)3D AI軟硬件一體化解決方案,進(jìn)入新一個(gè)高增長(zhǎng)的市場(chǎng)。
耐能的NPU產(chǎn)品線
在問(wèn)到如何在群雄并立的AI芯片市場(chǎng)站穩(wěn)腳跟,并且在短短半年間就可以做到產(chǎn)品更新的時(shí)候,劉峻誠(chéng)告訴半導(dǎo)體行業(yè)觀察的記者,這首先依賴于其實(shí)力雄厚的技術(shù)團(tuán)隊(duì)。
“耐能的核心團(tuán)隊(duì)成員都有很強(qiáng)的技術(shù)背景,來(lái)自加州大學(xué)洛杉磯分校、圣地亞哥分校以及普渡大學(xué)、北京清華大學(xué)、臺(tái)灣大學(xué)、新竹清華大學(xué)等名校,而且長(zhǎng)期任職于高通、英特爾、三星、博通、IBM、貝爾實(shí)驗(yàn)室等國(guó)際大廠,在AI、計(jì)算機(jī)視覺(jué)和圖像處理領(lǐng)域的工作經(jīng)驗(yàn)平均超過(guò)10年。同時(shí),公司在自主原創(chuàng)的人工智能算法、神經(jīng)網(wǎng)絡(luò)軟件、硬件核心設(shè)計(jì)等領(lǐng)域,已在4個(gè)國(guó)家共申請(qǐng)了近20項(xiàng)專利?!保瑒⒕\(chéng)說(shuō)。
其次,耐能在圣地亞哥、臺(tái)北、深圳、珠海都設(shè)有辦公室,布局兩大洲四個(gè)城市。這也加速了他們的崛起。劉峻誠(chéng)指出,美國(guó)和中國(guó)大陸的AI技術(shù)更新迅速、市場(chǎng)龐大,臺(tái)灣能提供從設(shè)計(jì)、封裝到測(cè)試都很齊全的供應(yīng)鏈,這就使耐能的產(chǎn)品可以快速落地并交付給客戶。
第三,耐能起步早,和不少大廠都有長(zhǎng)期合作,從中獲取了大量訓(xùn)練數(shù)據(jù),加上耐能自主開(kāi)發(fā)的算法,可以針對(duì)不同需求調(diào)整功能。
在團(tuán)隊(duì)和產(chǎn)品的雙重影響下,耐能于2017年11月完成A輪融資,包含阿里巴巴創(chuàng)業(yè)者基金、中華開(kāi)發(fā)資本國(guó)際、奇景光電、高通、中科創(chuàng)達(dá)、紅杉資本的子基金Cloudatlas以及創(chuàng)業(yè)邦。2018年5月31日,耐能又獲得了由李嘉誠(chéng)旗下維港投資領(lǐng)投的A+輪融資,累計(jì)融資金額超過(guò)3300萬(wàn)美元。
“現(xiàn)在,耐能正在進(jìn)行新一輪融資,近期便將向外界公布?!?,劉峻誠(chéng)強(qiáng)調(diào)。相信其聚焦市場(chǎng)的容量,對(duì)耐能吸引投資產(chǎn)生了重要的推動(dòng)作用。
聚焦三大市場(chǎng)讓AI無(wú)處不在
劉峻誠(chéng)告訴半導(dǎo)體行業(yè)觀察的記者,耐能產(chǎn)品主要應(yīng)用于智能手機(jī)、智能家居與智能安防等三大領(lǐng)域。當(dāng)中的應(yīng)用場(chǎng)景包括了智能手機(jī)、智能門鎖、智能家電、智能監(jiān)控?cái)z像機(jī)、門禁系統(tǒng)、無(wú)人機(jī)、新零售、智能玩具等。公司的客戶、合作伙伴也包括了格力、搜狗、奇景光電等廠商。
能同時(shí)覆蓋這三個(gè)市場(chǎng)巨大的市場(chǎng),耐能各具特性的的超低功耗、標(biāo)準(zhǔn)和高效能的三大產(chǎn)品線布局是根本:
首先看其低功耗版的KDP 320。從劉峻誠(chéng)的介紹我們得知的,這個(gè)包含計(jì)算與靜態(tài)隨機(jī)存取內(nèi)存(SRAM)的處理器功耗不到5mW,能夠應(yīng)用到低功耗智能終端和手機(jī)等領(lǐng)域,而手機(jī)3D面部識(shí)別應(yīng)用就是其一個(gè)重要的應(yīng)用方向。據(jù)了解,依靠于耐能的這個(gè)方案,可進(jìn)行3D結(jié)構(gòu)光與來(lái)自雙鏡頭的立體圖像識(shí)別分析,讓真人面部識(shí)別更快速精準(zhǔn);
其次,再看標(biāo)準(zhǔn)版的KDP 520,這個(gè)處理器的計(jì)算能力可達(dá)481GOPS (500MHz) (每秒十億次計(jì)算),功耗也是僅有100mW??蛇M(jìn)行快速實(shí)時(shí)、大規(guī)模的面部、手勢(shì)、身體識(shí)別與分析以及深度學(xué)習(xí),是智能家居和安防市場(chǎng)的不二選擇。
第三,高效能版的KDP 700信息吞吐量可高達(dá)5.8TOPS(1GHz) (每秒萬(wàn)億次計(jì)算),功耗為300~500mW。這樣優(yōu)異的計(jì)算能力,讓它能處理更進(jìn)階與復(fù)雜的人工智能計(jì)算,以及深度學(xué)習(xí)推理應(yīng)用,能夠滿足高端智能手機(jī)、機(jī)器人、無(wú)人機(jī)和更高端的安防需求。
在這三大系列IP的加持下,耐能于今年11月舉辦的2018騰訊全球合作伙伴大會(huì)上帶來(lái)了支付等級(jí)的3D AI軟硬件一體化解決方案。
眾所周知,近年來(lái),由于智能手機(jī)和安防等應(yīng)用的推動(dòng),人臉識(shí)別的應(yīng)用越來(lái)越廣泛。國(guó)際權(quán)威市場(chǎng)洞察報(bào)告gen market insights在其名為《全球人臉識(shí)別設(shè)備市場(chǎng)研究報(bào)告》的報(bào)告中指出,全球的人臉識(shí)別市場(chǎng)將從2017的10.7億美元上升到2025年的71.1億美元,并在此期間以每年26.8%的增量不斷提升。耐能的方案就是為了解決這個(gè)問(wèn)題而來(lái)的。
據(jù)介紹,這套方案能夠采用商業(yè)化等級(jí)的CNN(Convolutional Neural Network , 卷積神經(jīng)網(wǎng)絡(luò))模型,適配于主流的CNN網(wǎng)絡(luò),以及2D、3D視覺(jué)應(yīng)用與音頻應(yīng)用。同時(shí),擁有領(lǐng)先的模型壓縮技術(shù),支持無(wú)損、有損壓縮,并與硬件設(shè)計(jì)協(xié)同工作,可減少模型尺寸和計(jì)算成本。能夠滿足結(jié)構(gòu)光、ToF和雙目視覺(jué)等多種硬件方案下的多種識(shí)別需求。
“依托超低功耗、擁有全球領(lǐng)先算力的耐能KDP系列AI芯片IP加持,耐能3D AI軟硬件一體化解決方案在智能手機(jī)、智能安防、智能家居、新零售、工業(yè)智聯(lián)網(wǎng)等領(lǐng)域均有不俗表現(xiàn)。我們現(xiàn)在也已經(jīng)與多家國(guó)際大廠展開(kāi)合作,預(yù)計(jì)將在2019年 Q2 大規(guī)模量產(chǎn)。”劉俊誠(chéng)強(qiáng)調(diào),并進(jìn)一步指出,“耐能將持續(xù)專注終端AI領(lǐng)域,提供客制化的、軟硬件整合的解決方案,以AI賦能終端設(shè)備,讓AI無(wú)處不在。在產(chǎn)品形態(tài)上,近期將對(duì)NPU產(chǎn)品進(jìn)行持續(xù)升級(jí),推出更高算力、更低功耗、更小體積的產(chǎn)品,以降低AI應(yīng)用門檻與客戶開(kāi)發(fā)成本。長(zhǎng)期來(lái)看,則將從視覺(jué)識(shí)別延伸至語(yǔ)音識(shí)別、人腦模擬等領(lǐng)域,在更長(zhǎng)的產(chǎn)品線上為客戶創(chuàng)造價(jià)值?!?/p>
在10月的北京安博會(huì)上,奇景光電推出了基于結(jié)構(gòu)光技術(shù)的3D傳感解決方案,該方案采用的便是耐能的人臉識(shí)別算法。而在12月中旬,據(jù)臺(tái)灣媒體報(bào)道,鈺創(chuàng)科技、鈺立微電子宣布推出基于耐能NPU IP的ToF方案。至于雙目視覺(jué)方案,據(jù)悉在2018騰訊全球合作伙伴大會(huì)上也已展出,不過(guò)相關(guān)廠商的名稱尚未公開(kāi),對(duì)此,劉峻誠(chéng)的回復(fù)是“基于保密義務(wù),暫不便說(shuō)明?!?/p>
攜手業(yè)內(nèi)領(lǐng)先IP供應(yīng)商探索未來(lái)的無(wú)限可能
除了持續(xù)推出領(lǐng)先的人工智能IP外,耐能還聯(lián)手業(yè)內(nèi)領(lǐng)先處理器IP和機(jī)器視覺(jué)IP供應(yīng)商,探索更多的可能。
今年12月初,耐能宣布,將結(jié)合耐能針對(duì)終端設(shè)備所設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)處理器(Neural Processing Unit , NPU)與新思科技(Synopsys )ARC?處理器,推出低功耗AI IP解決方案。雙方將共同展開(kāi)進(jìn)一步的合作推廣計(jì)劃,攜手拓展市場(chǎng),以加速終端人工智能的開(kāi)發(fā)與應(yīng)用。
行內(nèi)的人都知道,除了其領(lǐng)先的EDA工具好之外,新思科技在IP方面的表現(xiàn)也非常出色。而ARC?處理器IP則是其中的一個(gè)代表。從他們的官網(wǎng)我們可以看到,新思科技的 DesignWare? ARC? 處理器是 32 位 CPU,經(jīng) SoC 設(shè)計(jì)人員的優(yōu)化,可滿足各種不同用途的需求,從各類細(xì)分市場(chǎng)深度嵌入式應(yīng)用到高性能主機(jī)應(yīng)用,不一而足。設(shè)計(jì)人員可利用可綜合來(lái)定制各個(gè) ARC 核實(shí)例,使產(chǎn)品各不相同,以滿足特定性能、功耗和面積的要求。ARC?處理器還具有可延展性,可讓設(shè)計(jì)人員添加自己的定制指令,從而大大提高性能。 全球已有超過(guò) 225 家客戶使用新思科技ARC?處理器,這些客戶每年總共產(chǎn)出 19 多億塊基于 ARC?處理器IP的芯片。雙方的強(qiáng)強(qiáng)聯(lián)合必能給終端應(yīng)用帶來(lái)無(wú)限可能。
劉峻誠(chéng)也表示:“結(jié)合耐能NPU 低功耗、體積小的特性與新思科技ARC?處理器的優(yōu)異性能,協(xié)助客戶采用終端人工智能解決方案的進(jìn)度。低功耗AI IP解決方案可應(yīng)用于智能家居、3D人臉解鎖以及對(duì)能耗和空間有高度要求的物聯(lián)網(wǎng)設(shè)備,且能滿足復(fù)雜的計(jì)算需求?!?/p>
與另一家IP供應(yīng)商Cadence(楷登電子)的合作,進(jìn)一步拓展了耐能產(chǎn)品的應(yīng)用范圍。在談雙方搞的合作之前,我們要先介紹一下Cadence的可定制處理器(Xtensa)。
業(yè)內(nèi)知名專家唐杉曾在其一篇文章中提到,Cadence Tensilica的可定制處理器(Xtensa)主要有兩方面的定制性:第一、可配置性(Configurability):從指令集,微結(jié)構(gòu),接口等方面都提供一些可配置的選項(xiàng)。你可以通過(guò)菜單選擇的方式定制適合你自己應(yīng)用的處理器;第二、可擴(kuò)展性(Extensibility):使用Tensilica Instruction Extension (TIE)的方法,增加你自己的指令,寄存器,寄存器堆等等。你可以使用和verilog類似的TIE語(yǔ)言來(lái)描述自己的datapath單元的功能,而相應(yīng)的RTL代碼和工具鏈則自動(dòng)生成。Cadence的Tensilica Vision P6 DSP則是雙方這次合作的一個(gè)重點(diǎn)。
據(jù)介紹,這個(gè)DSP是以Cadence Tensilica Xtensa架構(gòu)為基礎(chǔ),結(jié)合靈活硬件選項(xiàng)與豐富圖像、視覺(jué)DSP功能,以及眾多來(lái)自既有生態(tài)系統(tǒng)合作伙伴的圖像、視覺(jué)應(yīng)用程序,該軟件環(huán)境提供包括對(duì)1700多個(gè)基于OpenCV的視覺(jué)和OpenVX?1.1庫(kù)函數(shù)的完整與優(yōu)化的支持,并全面支持Tensilica廣大的其他應(yīng)用軟件、模擬、晶圓與服務(wù)等合作伙伴生態(tài)系統(tǒng)。
在劉峻誠(chéng)看來(lái),這個(gè)DSP結(jié)合耐能低能耗、高計(jì)算力的人工智能處理器NPU IP KDP 720,可以滿足他們創(chuàng)新圖像應(yīng)用的需求。通過(guò)采用此整合性方案,芯片廠商能夠輕松地與主機(jī)處理器整合,加速SoC的開(kāi)發(fā)進(jìn)度,為新興的智能設(shè)備開(kāi)發(fā)更豐富的視覺(jué)功能。
而在此前,耐能還與智原科技(Faraday)、晶心科技(Andes)、創(chuàng)意電子(GUC)等頭部IP廠商達(dá)成合作,從而構(gòu)建起匯聚國(guó)際一眾頭部IP廠商的供應(yīng)鏈。在業(yè)內(nèi)諸多NPU廠商中,這樣的供應(yīng)商陣容已足夠亮眼。
對(duì)于系統(tǒng)廠做終端AI芯片的看法
由于芯片的開(kāi)發(fā)越來(lái)越簡(jiǎn)單,終端客戶的客制化需求也越來(lái)越高,這就驅(qū)使很多終端系統(tǒng)廠走上自研AI芯片之路,甚至有些廠商連人工智能NPU IP也都自主研發(fā),這就從某種程度上壓逼了IP供應(yīng)商和芯片供應(yīng)商的生存空間。華為在今年10月舉辦華為2018全聯(lián)接大會(huì)上推出了其兩款采用自主研發(fā)加速器IP的AI芯片Ascend 910和Ascend 310,就引發(fā)了媒體對(duì)其相關(guān)供應(yīng)商的生存大討論。
在問(wèn)到這個(gè)問(wèn)題的時(shí)候,劉峻誠(chéng)告訴半導(dǎo)體行業(yè)觀察的記者:“各界廠商爭(zhēng)相涌入,表明AI的發(fā)展成果和前景正得到日益廣泛的認(rèn)可。耐能樂(lè)見(jiàn)AI芯片市場(chǎng)持續(xù)壯大,并期待和友商一起推動(dòng)產(chǎn)業(yè)進(jìn)步。同時(shí),不同廠商的產(chǎn)品方向與應(yīng)用領(lǐng)域各異,彼此形成既競(jìng)爭(zhēng)又合作的關(guān)系。在AI產(chǎn)業(yè)從野蠻生長(zhǎng)向精細(xì)發(fā)展過(guò)渡的階段,這種競(jìng)合關(guān)系將加速產(chǎn)業(yè)洗牌,投機(jī)者將被淘汰,深耕細(xì)分市場(chǎng)的企業(yè)則有望異軍突起。”
“耐能專注終端AI領(lǐng)域,面向智能手機(jī)、智能家居與職能安防等市場(chǎng)提供軟硬件整合的方案,包括終端設(shè)備專用的NPU、IP、算法等,并與多家國(guó)際大廠展開(kāi)業(yè)務(wù)層面的合作。相信只要找準(zhǔn)并堅(jiān)守自身的方向,不僅可在未來(lái)的AI芯片市場(chǎng)占據(jù)一席之地,與這些科技巨頭或互聯(lián)網(wǎng)公司也有合作空間?!保瑒⒕\(chéng)進(jìn)一步指出。
為了滿足客戶的多樣化需求,除了持續(xù)推出高能效的NPU IP和軟件算法外,耐能將觸角伸到了芯片側(cè)。整體的宗旨就是奉行“客制化”策略,根據(jù)客戶需求提供定制化的產(chǎn)品與解決方案。其間,除了客戶的公司實(shí)力與供應(yīng)鏈整合能力,其主導(dǎo)產(chǎn)品與行業(yè)特點(diǎn)無(wú)疑也是驅(qū)動(dòng)耐能提供何種產(chǎn)品或解決方案的重要因素。
“具體來(lái)看,針對(duì)智能手機(jī)、智能安防領(lǐng)域,由于下游市場(chǎng)已高度成熟、品牌集中度較高,芯片廠商到終端廠商均具有很強(qiáng)的供應(yīng)鏈整合能力,客戶的需求主要是IP,因此耐能也定位為IP提供方。而在智能家居市場(chǎng),競(jìng)爭(zhēng)格局比較開(kāi)放,客戶對(duì)IP和芯片的需求都大量存在,單一的IP或芯片并不能滿足,耐能便決定IP和芯片并舉”,劉峻誠(chéng)說(shuō)。
微軟全球執(zhí)行副總裁、全球電腦視覺(jué)和圖形學(xué)研究領(lǐng)域的專家沈向洋在早前接受《彭博商業(yè)周刊》采訪的時(shí)候說(shuō)到,人工智能的寒冬一定會(huì)再來(lái)。在這種環(huán)境下,如何能適應(yīng)市場(chǎng)需求推出更多的產(chǎn)品,如何更方便地解決用戶真正的需求,是現(xiàn)在遍地開(kāi)花的AI芯片創(chuàng)業(yè)公司需要考慮的問(wèn)題。
而耐能已經(jīng)看到了這點(diǎn),并跨出了重要一步。