業(yè)內知名媒體EE Times每年都會舉辦“Silicon 60”評選活動,選出全球最值得關注的60家半導體新創(chuàng)公司。統(tǒng)計顯示,今年選出來的“Silicon 60”企業(yè)以機器學習為主流,共有15家相關企業(yè)入選,與去年七月相比大幅提升,這從側面反映了近年來AI產(chǎn)業(yè)的流行。
值得一提的是,總部設在美國加利福尼亞州的企業(yè)出現(xiàn)在榜單中的頻率越來越高,今年更是有29家之多,當中大多與人工智能芯片有關,其中有一家企業(yè)更是首次入選——那就是由加州大學洛杉磯分校電子工程系博士劉峻誠創(chuàng)立的耐能(Kneron)。
耐能科技的創(chuàng)始人兼CEO劉峻誠
資料顯示,該公司2015年創(chuàng)立于美國圣地亞哥,是終端人工智能解決方案的領導廠商,提供軟硬件整合的解決方案,包括終端設備專用的神經(jīng)網(wǎng)絡處理器(Neural Processing Unit,NPU)以及各種圖像識別軟件。依賴于其高能耗的產(chǎn)品,耐能已經(jīng)也與格力和搜狗等多家大廠達成了長期合作。公司更是在推出了兩代IP產(chǎn)品之后,謀劃于明年推出ASIC芯片,進一步深耕人工智能應用市場。
為了讓大家對這家人工智能新貴有更深入的了解,半導體行業(yè)觀察記者日前采訪了耐能的創(chuàng)始人兼CEO劉峻誠,給大家?guī)硭麑竞托袠I(yè)的最新見解。
實力雄厚團隊締造的人工智能IP新貴
過去幾年深度學習算法準確率的提升,推動了整個人工智能應用的興旺,巨大的市場容量吸引了大量的創(chuàng)業(yè)者投身其中。尤其是在邊緣終端AI芯片方面,更是百花齊放,百家爭鳴。但這些企業(yè)做邊緣端AI芯片,只有兩個途徑可供選擇,那就是自研人工智能IP,或者授權第三方的NPU IP,而耐能在創(chuàng)業(yè)初期就是從NPU IP切入,也是當中的一個佼佼者。
今年年初,該公司推出的第一代NPU IP在市場獲得了高度認可。但銳意創(chuàng)新的耐能馬不停蹄,在短短的半年之后,就帶來了其第二代終端人工智能處理器系列NPU IP ——KDP Series。當中包括了超低功耗版KDP 320、標準版KDP 520、高效能版KDP 720等三大產(chǎn)品,全系列產(chǎn)品的功耗低于0.5瓦(W),采用新的架構設計讓計算更具彈性,整體效能相較于上一代產(chǎn)品大幅提升達3倍,峰值吞吐量(Peak Throughput)最高更是可以達到5.8TOPS(每秒萬億次計算)。
耐能的第二代NPU核心技術
劉峻誠表示,耐能新一代NPU產(chǎn)品在諸多方面取得顯著的突破,基于第一代產(chǎn)品的優(yōu)勢,改善數(shù)據(jù)計算流程、提升整體計算效能與儲存資源使用率,同時針對不同的神經(jīng)網(wǎng)絡模型進行優(yōu)化,讓NPU可以更廣泛地應用在各種終端設備,并滿足更復雜的計算需求。新的IP的出現(xiàn),也讓耐能在11月初正式推出支付等級3D AI軟硬件一體化解決方案,進入新一個高增長的市場。
耐能的NPU產(chǎn)品線
在問到如何在群雄并立的AI芯片市場站穩(wěn)腳跟,并且在短短半年間就可以做到產(chǎn)品更新的時候,劉峻誠告訴半導體行業(yè)觀察的記者,這首先依賴于其實力雄厚的技術團隊。
“耐能的核心團隊成員都有很強的技術背景,來自加州大學洛杉磯分校、圣地亞哥分校以及普渡大學、北京清華大學、臺灣大學、新竹清華大學等名校,而且長期任職于高通、英特爾、三星、博通、IBM、貝爾實驗室等國際大廠,在AI、計算機視覺和圖像處理領域的工作經(jīng)驗平均超過10年。同時,公司在自主原創(chuàng)的人工智能算法、神經(jīng)網(wǎng)絡軟件、硬件核心設計等領域,已在4個國家共申請了近20項專利?!?,劉峻誠說。
其次,耐能在圣地亞哥、臺北、深圳、珠海都設有辦公室,布局兩大洲四個城市。這也加速了他們的崛起。劉峻誠指出,美國和中國大陸的AI技術更新迅速、市場龐大,臺灣能提供從設計、封裝到測試都很齊全的供應鏈,這就使耐能的產(chǎn)品可以快速落地并交付給客戶。
第三,耐能起步早,和不少大廠都有長期合作,從中獲取了大量訓練數(shù)據(jù),加上耐能自主開發(fā)的算法,可以針對不同需求調整功能。
在團隊和產(chǎn)品的雙重影響下,耐能于2017年11月完成A輪融資,包含阿里巴巴創(chuàng)業(yè)者基金、中華開發(fā)資本國際、奇景光電、高通、中科創(chuàng)達、紅杉資本的子基金Cloudatlas以及創(chuàng)業(yè)邦。2018年5月31日,耐能又獲得了由李嘉誠旗下維港投資領投的A+輪融資,累計融資金額超過3300萬美元。
“現(xiàn)在,耐能正在進行新一輪融資,近期便將向外界公布?!保瑒⒕\強調。相信其聚焦市場的容量,對耐能吸引投資產(chǎn)生了重要的推動作用。
聚焦三大市場讓AI無處不在
劉峻誠告訴半導體行業(yè)觀察的記者,耐能產(chǎn)品主要應用于智能手機、智能家居與智能安防等三大領域。當中的應用場景包括了智能手機、智能門鎖、智能家電、智能監(jiān)控攝像機、門禁系統(tǒng)、無人機、新零售、智能玩具等。公司的客戶、合作伙伴也包括了格力、搜狗、奇景光電等廠商。
能同時覆蓋這三個市場巨大的市場,耐能各具特性的的超低功耗、標準和高效能的三大產(chǎn)品線布局是根本:
首先看其低功耗版的KDP 320。從劉峻誠的介紹我們得知的,這個包含計算與靜態(tài)隨機存取內存(SRAM)的處理器功耗不到5mW,能夠應用到低功耗智能終端和手機等領域,而手機3D面部識別應用就是其一個重要的應用方向。據(jù)了解,依靠于耐能的這個方案,可進行3D結構光與來自雙鏡頭的立體圖像識別分析,讓真人面部識別更快速精準;
其次,再看標準版的KDP 520,這個處理器的計算能力可達481GOPS (500MHz) (每秒十億次計算),功耗也是僅有100mW??蛇M行快速實時、大規(guī)模的面部、手勢、身體識別與分析以及深度學習,是智能家居和安防市場的不二選擇。
第三,高效能版的KDP 700信息吞吐量可高達5.8TOPS(1GHz) (每秒萬億次計算),功耗為300~500mW。這樣優(yōu)異的計算能力,讓它能處理更進階與復雜的人工智能計算,以及深度學習推理應用,能夠滿足高端智能手機、機器人、無人機和更高端的安防需求。
在這三大系列IP的加持下,耐能于今年11月舉辦的2018騰訊全球合作伙伴大會上帶來了支付等級的3D AI軟硬件一體化解決方案。
眾所周知,近年來,由于智能手機和安防等應用的推動,人臉識別的應用越來越廣泛。國際權威市場洞察報告gen market insights在其名為《全球人臉識別設備市場研究報告》的報告中指出,全球的人臉識別市場將從2017的10.7億美元上升到2025年的71.1億美元,并在此期間以每年26.8%的增量不斷提升。耐能的方案就是為了解決這個問題而來的。
據(jù)介紹,這套方案能夠采用商業(yè)化等級的CNN(Convolutional Neural Network , 卷積神經(jīng)網(wǎng)絡)模型,適配于主流的CNN網(wǎng)絡,以及2D、3D視覺應用與音頻應用。同時,擁有領先的模型壓縮技術,支持無損、有損壓縮,并與硬件設計協(xié)同工作,可減少模型尺寸和計算成本。能夠滿足結構光、ToF和雙目視覺等多種硬件方案下的多種識別需求。
“依托超低功耗、擁有全球領先算力的耐能KDP系列AI芯片IP加持,耐能3D AI軟硬件一體化解決方案在智能手機、智能安防、智能家居、新零售、工業(yè)智聯(lián)網(wǎng)等領域均有不俗表現(xiàn)。我們現(xiàn)在也已經(jīng)與多家國際大廠展開合作,預計將在2019年 Q2 大規(guī)模量產(chǎn)?!眲⒖≌\強調,并進一步指出,“耐能將持續(xù)專注終端AI領域,提供客制化的、軟硬件整合的解決方案,以AI賦能終端設備,讓AI無處不在。在產(chǎn)品形態(tài)上,近期將對NPU產(chǎn)品進行持續(xù)升級,推出更高算力、更低功耗、更小體積的產(chǎn)品,以降低AI應用門檻與客戶開發(fā)成本。長期來看,則將從視覺識別延伸至語音識別、人腦模擬等領域,在更長的產(chǎn)品線上為客戶創(chuàng)造價值?!?/p>
在10月的北京安博會上,奇景光電推出了基于結構光技術的3D傳感解決方案,該方案采用的便是耐能的人臉識別算法。而在12月中旬,據(jù)臺灣媒體報道,鈺創(chuàng)科技、鈺立微電子宣布推出基于耐能NPU IP的ToF方案。至于雙目視覺方案,據(jù)悉在2018騰訊全球合作伙伴大會上也已展出,不過相關廠商的名稱尚未公開,對此,劉峻誠的回復是“基于保密義務,暫不便說明?!?/p>
攜手業(yè)內領先IP供應商探索未來的無限可能
除了持續(xù)推出領先的人工智能IP外,耐能還聯(lián)手業(yè)內領先處理器IP和機器視覺IP供應商,探索更多的可能。
今年12月初,耐能宣布,將結合耐能針對終端設備所設計的神經(jīng)網(wǎng)絡處理器(Neural Processing Unit , NPU)與新思科技(Synopsys )ARC?處理器,推出低功耗AI IP解決方案。雙方將共同展開進一步的合作推廣計劃,攜手拓展市場,以加速終端人工智能的開發(fā)與應用。
行內的人都知道,除了其領先的EDA工具好之外,新思科技在IP方面的表現(xiàn)也非常出色。而ARC?處理器IP則是其中的一個代表。從他們的官網(wǎng)我們可以看到,新思科技的 DesignWare? ARC? 處理器是 32 位 CPU,經(jīng) SoC 設計人員的優(yōu)化,可滿足各種不同用途的需求,從各類細分市場深度嵌入式應用到高性能主機應用,不一而足。設計人員可利用可綜合來定制各個 ARC 核實例,使產(chǎn)品各不相同,以滿足特定性能、功耗和面積的要求。ARC?處理器還具有可延展性,可讓設計人員添加自己的定制指令,從而大大提高性能。 全球已有超過 225 家客戶使用新思科技ARC?處理器,這些客戶每年總共產(chǎn)出 19 多億塊基于 ARC?處理器IP的芯片。雙方的強強聯(lián)合必能給終端應用帶來無限可能。
劉峻誠也表示:“結合耐能NPU 低功耗、體積小的特性與新思科技ARC?處理器的優(yōu)異性能,協(xié)助客戶采用終端人工智能解決方案的進度。低功耗AI IP解決方案可應用于智能家居、3D人臉解鎖以及對能耗和空間有高度要求的物聯(lián)網(wǎng)設備,且能滿足復雜的計算需求?!?/p>
與另一家IP供應商Cadence(楷登電子)的合作,進一步拓展了耐能產(chǎn)品的應用范圍。在談雙方搞的合作之前,我們要先介紹一下Cadence的可定制處理器(Xtensa)。
業(yè)內知名專家唐杉曾在其一篇文章中提到,Cadence Tensilica的可定制處理器(Xtensa)主要有兩方面的定制性:第一、可配置性(Configurability):從指令集,微結構,接口等方面都提供一些可配置的選項。你可以通過菜單選擇的方式定制適合你自己應用的處理器;第二、可擴展性(Extensibility):使用Tensilica Instruction Extension (TIE)的方法,增加你自己的指令,寄存器,寄存器堆等等。你可以使用和verilog類似的TIE語言來描述自己的datapath單元的功能,而相應的RTL代碼和工具鏈則自動生成。Cadence的Tensilica Vision P6 DSP則是雙方這次合作的一個重點。
據(jù)介紹,這個DSP是以Cadence Tensilica Xtensa架構為基礎,結合靈活硬件選項與豐富圖像、視覺DSP功能,以及眾多來自既有生態(tài)系統(tǒng)合作伙伴的圖像、視覺應用程序,該軟件環(huán)境提供包括對1700多個基于OpenCV的視覺和OpenVX?1.1庫函數(shù)的完整與優(yōu)化的支持,并全面支持Tensilica廣大的其他應用軟件、模擬、晶圓與服務等合作伙伴生態(tài)系統(tǒng)。
在劉峻誠看來,這個DSP結合耐能低能耗、高計算力的人工智能處理器NPU IP KDP 720,可以滿足他們創(chuàng)新圖像應用的需求。通過采用此整合性方案,芯片廠商能夠輕松地與主機處理器整合,加速SoC的開發(fā)進度,為新興的智能設備開發(fā)更豐富的視覺功能。
而在此前,耐能還與智原科技(Faraday)、晶心科技(Andes)、創(chuàng)意電子(GUC)等頭部IP廠商達成合作,從而構建起匯聚國際一眾頭部IP廠商的供應鏈。在業(yè)內諸多NPU廠商中,這樣的供應商陣容已足夠亮眼。
對于系統(tǒng)廠做終端AI芯片的看法
由于芯片的開發(fā)越來越簡單,終端客戶的客制化需求也越來越高,這就驅使很多終端系統(tǒng)廠走上自研AI芯片之路,甚至有些廠商連人工智能NPU IP也都自主研發(fā),這就從某種程度上壓逼了IP供應商和芯片供應商的生存空間。華為在今年10月舉辦華為2018全聯(lián)接大會上推出了其兩款采用自主研發(fā)加速器IP的AI芯片Ascend 910和Ascend 310,就引發(fā)了媒體對其相關供應商的生存大討論。
在問到這個問題的時候,劉峻誠告訴半導體行業(yè)觀察的記者:“各界廠商爭相涌入,表明AI的發(fā)展成果和前景正得到日益廣泛的認可。耐能樂見AI芯片市場持續(xù)壯大,并期待和友商一起推動產(chǎn)業(yè)進步。同時,不同廠商的產(chǎn)品方向與應用領域各異,彼此形成既競爭又合作的關系。在AI產(chǎn)業(yè)從野蠻生長向精細發(fā)展過渡的階段,這種競合關系將加速產(chǎn)業(yè)洗牌,投機者將被淘汰,深耕細分市場的企業(yè)則有望異軍突起?!?/p>
“耐能專注終端AI領域,面向智能手機、智能家居與職能安防等市場提供軟硬件整合的方案,包括終端設備專用的NPU、IP、算法等,并與多家國際大廠展開業(yè)務層面的合作。相信只要找準并堅守自身的方向,不僅可在未來的AI芯片市場占據(jù)一席之地,與這些科技巨頭或互聯(lián)網(wǎng)公司也有合作空間?!保瑒⒕\進一步指出。
為了滿足客戶的多樣化需求,除了持續(xù)推出高能效的NPU IP和軟件算法外,耐能將觸角伸到了芯片側。整體的宗旨就是奉行“客制化”策略,根據(jù)客戶需求提供定制化的產(chǎn)品與解決方案。其間,除了客戶的公司實力與供應鏈整合能力,其主導產(chǎn)品與行業(yè)特點無疑也是驅動耐能提供何種產(chǎn)品或解決方案的重要因素。
“具體來看,針對智能手機、智能安防領域,由于下游市場已高度成熟、品牌集中度較高,芯片廠商到終端廠商均具有很強的供應鏈整合能力,客戶的需求主要是IP,因此耐能也定位為IP提供方。而在智能家居市場,競爭格局比較開放,客戶對IP和芯片的需求都大量存在,單一的IP或芯片并不能滿足,耐能便決定IP和芯片并舉”,劉峻誠說。
微軟全球執(zhí)行副總裁、全球電腦視覺和圖形學研究領域的專家沈向洋在早前接受《彭博商業(yè)周刊》采訪的時候說到,人工智能的寒冬一定會再來。在這種環(huán)境下,如何能適應市場需求推出更多的產(chǎn)品,如何更方便地解決用戶真正的需求,是現(xiàn)在遍地開花的AI芯片創(chuàng)業(yè)公司需要考慮的問題。
而耐能已經(jīng)看到了這點,并跨出了重要一步。