AI的熱潮已經(jīng)過去？許多關(guān)注AI的人或許會給出的判斷。這種判斷也有一些依據(jù)，AI發(fā)展三大要素之一的AI芯片，在2016年左右出現(xiàn)大量的初創(chuàng)公司，之后火熱了兩年左右時間后，又逐漸涼了下來。
但2020年下半年開始，AI芯片初創(chuàng)公司的融資消息又多了起來，在本月的WAIC 2021期間，多家云端AI芯片和邊緣AI芯片初創(chuàng)公司都發(fā)布了新產(chǎn)品，AI芯片似乎又熱了起來。
AI芯片為什么“涼”了幾年又“熱”了起來？AI普及的關(guān)鍵到底是什么？RISC-V芯片會成為AIoT市場的主角嗎？
體驗不好的AI產(chǎn)品傷害了消費者
—
2017年左右掀起的新一輪AI熱潮，有兩個關(guān)鍵性事件。一個是2012年AlexNet在ImageNet大規(guī)模視覺識別挑戰(zhàn)賽中用卷積神經(jīng)網(wǎng)絡(luò)（CNN）贏得了圖像識別競賽，再次掀起了學(xué)界研究AI的熱潮。到了2017年，AlphaGo戰(zhàn)勝人類頂級棋手柯潔，并橫掃整個圍棋界。AI的熱潮從學(xué)界蔓延至產(chǎn)業(yè)界，并引發(fā)全民關(guān)注。
“我覺得AI能再一次熱起來是因為神經(jīng)網(wǎng)絡(luò)在技術(shù)有了突破后，能夠解決一些問題，而這恰好能滿足消費者對智能美好生活的向往。”嘉楠科技創(chuàng)始人、董事長兼首席執(zhí)行官張楠賡對雷鋒網(wǎng)表示。
很快地，AI音箱、AI機器人、AI家電、AI故事機等眾多AI產(chǎn)品迅速推向市場，其中出貨量最大的AI音箱迅速普及，但很快被消費者拋棄。
“通過縮減材料降低成本，推出體驗不好的產(chǎn)品對市場傷害非常大，因為沒有好的體驗，整個市場的規(guī)模很難變大。降低成本應(yīng)該靠更好的技術(shù)。”張楠賡說，“AI產(chǎn)品還是沒有達到消費者的預(yù)期，消費者需要的是一個完整的產(chǎn)品，這是我認(rèn)為AI又涼下來的原因?！?/p>
英特爾研究院副總裁、英特爾中國研究院院長宋繼強也告訴雷鋒網(wǎng)：“現(xiàn)在很多AI系統(tǒng)，只有一個原型，但到商業(yè)化的時候，原型是不行的。AI創(chuàng)新要真正的規(guī)?；l(fā)展起來，一定要很認(rèn)真嚴(yán)肅地做垂直整合?！?/p>
也就是說，AI產(chǎn)品的實際體驗與消費者期待的產(chǎn)品之間仍有鴻溝。從AI智能硬件公司的角度，在AI芯片和AI算法的支持下，他們推出了比以往更加智能的產(chǎn)品，產(chǎn)品性能有了顯著的提升。但從消費者的角度，AI產(chǎn)品依舊不夠智能，甚至有些傻，很難持續(xù)使用或購買新的AI產(chǎn)品。
“還有一個問題是價格，對于智能硬件和白色家電，消費者的要求是性能是世界級，但價格預(yù)期是‘地獄級’，這是矛盾所在?！睆堥s說?！安贿^，只要有明確的需求和目標(biāo)，實現(xiàn)世界級的性能，同時兼顧可接受的價格并非不能達成的目標(biāo)，嘉楠希望在未來1-3年內(nèi)達成這個目標(biāo)。”
還要看到，邊緣推理是AI應(yīng)用大規(guī)模落地的關(guān)鍵。這是因為，云邊協(xié)同已經(jīng)成為主流的計算范式。在云邊協(xié)同的架構(gòu)中，邊緣AI在數(shù)據(jù)脫敏、數(shù)據(jù)感知和實時決策上有效彌補了時延和數(shù)據(jù)隱私上的短板，也能降低高昂的IT基礎(chǔ)設(shè)施成本。
此時，更高性能的AI芯片非常關(guān)鍵。
需求釋放，邊緣AI芯片市場
規(guī)模絕對值快速增加
—
嘉楠在AI邊緣芯片市場占有先發(fā)優(yōu)勢，2018年推出了首款A(yù)I推理芯片勘智K210，這款A(yù)I SoC投片的時候還沒有MobileNetV2和YOLOv3算法，所以只有1TOPS的AI算力?！坝捎诳敝荎210研發(fā)時間較早，在算力規(guī)劃上沒有考慮到后來才出現(xiàn)的算法模型，導(dǎo)致這款芯片在應(yīng)用場景的拓展上受到限制?！睆堥s如此評價這款芯片。
在整個業(yè)界探索AI芯片和AI應(yīng)用的背景下，嘉楠的首款A(yù)I芯片獲得了多個頭部教育機器人客戶的訂單。在2020年全球疫情和缺芯的環(huán)境下也實現(xiàn)了可觀的營收。
“今年很多應(yīng)用市場需求快速增加，僅上半年我們就實現(xiàn)了1300多萬的AI芯片營收，如果下半年產(chǎn)能問題不能解決，我預(yù)計營收和上半年相當(dāng)?！睆堥s說，“我看到的是今年市場需求特別旺盛，增長比較快?！?/p>
當(dāng)然，AI邊緣芯片市場仍舊處于絕對值增長很快，但總體規(guī)模依舊不大的狀態(tài)。在快速增長的市場里，除了AI教育以及增加AI功能網(wǎng)絡(luò)攝像機（IPC），用邊緣AI芯片做人群聚集檢測、超聲波定位、機器狗、跟拍云臺等創(chuàng)新的產(chǎn)品越來越多。
“勘智主打的還是AI性能，基于勘智K210的能力，有些創(chuàng)新應(yīng)用是我們沒有想到的。更加智能的產(chǎn)品也需要更高性能的AI芯片，其實像家庭場景里的掃地機器人，面對的環(huán)境也非常復(fù)雜，需要比較高的算力，還要控制成本?！睆堥s表示。
為此，嘉楠推出了勘智K510邊緣推理芯片，CPU依舊采用RISC-V（雙核64位），全新的KPU將AI性能提升至3TOPS，支持TensorFlow、PyTorch和ONNX 模型導(dǎo)入，配合KPU為AI加速還增加了DSP。
另外，勘智K510支持三路傳感器輸入1080P視頻，擁有眾多高速和低速接口，其中高速接口DDR PHY和MIPI RX/TX DPHY均是嘉楠完全自主知識產(chǎn)權(quán)的IP。
從推出的時間看，勘智K510比嘉楠的產(chǎn)品路線圖晚了半年多時間。據(jù)雷鋒網(wǎng)了解，其中的原因包括這是嘉楠第一個比較大規(guī)模的AI芯片，幾乎重新設(shè)計了AI加速單元KPU，高速接口也是完全自研，再加上產(chǎn)能緊缺等多重因素，導(dǎo)致勘智K510推出的時間比預(yù)期晚一些。
“產(chǎn)品更早推出肯定會更好一些，但稍微晚一點也有好處。我們推出第一款A(yù)I芯片的時候，絕大部分中小客戶只能用原廠的芯片做一些嵌入式的開發(fā)。今年有能力開發(fā)AI芯片的客戶多了很多，許多客戶還有自己的AI算法。市場在成熟，應(yīng)用場景也在不斷增加，這對我們產(chǎn)品的推廣是好事。”張楠賡如此解釋。
與傳統(tǒng)的功能芯片不同，AI芯片的開發(fā)者并不知道自己明確的需求，這對要預(yù)測未來三到五年市場需求的AI芯片公司來說，定義產(chǎn)品難度更大。但比較明確的是，隨著AI應(yīng)用復(fù)雜程度的增加，對AI的算力需求也隨之增加，提升AI性能成為關(guān)鍵。
“勘智K510的KPU相比上一代基本是重新設(shè)計。原來的KPU比較簡單，如果用第一代架構(gòu)進行等比放大提升性能會有很多問題。新設(shè)計的第二代架構(gòu)更加通用，可伸縮性更好，很容易實現(xiàn)零點幾TOPS到幾TOPS的算力，同時兼容性也更好?！睆堥s表示。
提升AI性能的同時，勘智K510的視覺性能也有了顯著提高，集成了最新一代圖像處理單元和3D ISP模塊，支持深度攝像頭TOF傳感器，可以在無需軟件參與的情況下自動解析和提取深度圖像，加速3D圖像處理。
張楠賡指出，勘智K510是一款中高端算力芯片，視覺硬件配置也是這款芯片的重頭戲，同時支持最多3個攝像頭的輸入，其中一路支持3D功能，也是迎合市場需求，能夠滿足比如活體檢測等需求。勘智K510也能夠應(yīng)用于高清航拍器、視頻會議、機器人、STEAM教育、工業(yè)相機和輔助駕駛等場景。
雷鋒網(wǎng)（公眾號：雷鋒網(wǎng)）注意到，勘智K510在降低功耗方面從多角度入手，比如通過NoC總線架構(gòu)解決龐大時鐘樹帶來的芯片大功耗和大面積問題；KPU根據(jù)不同層級的帶寬、計算和存儲需求的調(diào)整，提高數(shù)據(jù)的復(fù)用率降低芯片功耗；還通過支持語音VAD功能，滿足低功耗設(shè)計需求等。
不過，能夠?qū)⒓伍腁I芯片推向更廣闊市場的關(guān)鍵是RISC-V。
沖向萬億美元的AIoT市場
—
“易用性非常重要，開發(fā)者如果使用CPU或者DSP就能實現(xiàn)功能，能夠降低開發(fā)成本和加速產(chǎn)品上市時間?！睆堥s說，“這也是我們在雙核64位RISC-V CPU基礎(chǔ)上增加DSP的重要原因?！?/p>
更強的CPU性能對于一款SoC的重要性也越來越高?！坝幸粋€很有意思的現(xiàn)象，5年前，業(yè)界很多人認(rèn)為SoC中的CPU的作用會被弱化，大部分的任務(wù)都會用硬件加速器處理，包括AI應(yīng)用。但這兩年，無論是手機還是PC，CPU的競爭越來越激烈，絕大部分的任務(wù)還是在CPU上完成，CPU又變得很重要，所以對CPU的性能需求也大幅度增加?！睆堥s表示。
“我認(rèn)為，未來幾年桌面級和移動端先進的技術(shù)和架構(gòu)會迅速下放到原來的MCU中，這個變化可能要到將來3-5年才能看到?！彼鞒鲱A(yù)測。
CPU在SoC中的重要性又變得重要，意味著CPU的性能和易用性成為競爭的關(guān)鍵。在AIoT市場，雖然統(tǒng)治移動市場的Arm占據(jù)優(yōu)勢地位，但最近兩年RISC-V指令集芯片在這一市場進展迅猛，在對軟件支持要求不高的應(yīng)用中，RISC-V已經(jīng)被大量應(yīng)用，但需要更高性能和更多軟件支持的應(yīng)用就面臨挑戰(zhàn)。
實際上，勘智K510的CPU是嘉楠自研。“第一代產(chǎn)品我們用的是RISC-V開源內(nèi)核，明顯的優(yōu)勢是不需要買版權(quán)節(jié)省成本，但漏洞也比較多。新一代的勘智AI芯片之所以選擇自研，主要還是因為我們的需求超過了開源內(nèi)核的需求。”張楠賡解釋為何開始自研RISC-V CPU。
硬件的自研對于有實力的芯片公司而言相對容易，但軟件生態(tài)的建設(shè)就需要整個行業(yè)的共同努力。“無論是阿里在RISC-V方面的工作，或者如果英特爾收購SiFive，這對整個RISC-V生態(tài)的建設(shè)都有非常積極的作用?！睆堥s說：“我們是RISC-V堅定的擁護者，所以我們無論是硬件還是軟件，都受益于RISC-V社區(qū)，當(dāng)然我們也將自己的設(shè)計和文檔都上傳到RISC-V社區(qū)，希望能夠以身作則推動RISC-V生態(tài)的發(fā)展?！?/p>
“更多系統(tǒng)的支持對于我們產(chǎn)品的規(guī)模推廣有非常明顯的效果。剛推出勘智K210的時候，沒有系統(tǒng)的支持，開發(fā)者想要開發(fā)難度很大。后來有了RTOS和Linux的支持，這對我們勘智K510的應(yīng)用非常有用?！睆堥s表示。
“目前看來，RISC-V芯片用到游戲領(lǐng)域可能會差一些，但除此之外的應(yīng)用，使用RISC-V芯片都問題不大。”張楠賡認(rèn)為“但我也不認(rèn)為RISC-V會完全淘汰Arm，Arm在很多領(lǐng)域依舊會占有一席之地。”
不可否認(rèn)的是，RISC-V的生態(tài)建設(shè)依舊是在追趕Arm的生態(tài)，遠談不上趕超。就嘉楠而言，他們設(shè)計出更高性能的AI芯片之后，但很多功能的實現(xiàn)因為軟件人員的缺乏，進度受阻。
張楠賡說他早已意識到缺乏軟件人員的問題，但他并不打算采用大量招聘軟件人才的方式解決這一問題，而是保持嘉楠硬件的基因，通過與更專業(yè)的合作伙伴共同解決軟件方面的挑戰(zhàn)。
張楠賡透露，嘉楠最早會在今年下半年公布在軟件方面的合作進展。
還有一個更深層次的問題，嘉楠為什么要選擇不成熟的RISC-V CPU推出AI芯片？張楠賡的回答是：“在行業(yè)的選擇上，我們選擇了AI這個有巨大需求量的市場，在技術(shù)上，選擇RISC-V有成本優(yōu)勢，在未來的AI市場會大有所為，開源開放也是我們一直擁護的。”
麥肯錫預(yù)測，全球AIoT市場規(guī)模2025年或?qū)⑦_到11.2萬億美元。張楠賡對嘉楠未來3-5年實現(xiàn)億元級別的AI營收繼續(xù)保持樂觀，并且預(yù)測，當(dāng)嘉楠的AI業(yè)務(wù)營收達到500萬到1.5億美元的某個時點，會迎來爆發(fā)點。
小結(jié)
—
AI和AI芯片為什么會在幾年的火熱之后就涼了？可以說是落地進展緩慢，更進一步來說缺少完整的AI產(chǎn)品，給消費者提供良好的體驗。作為提升產(chǎn)品體驗的關(guān)鍵，芯片算力的提升至關(guān)重要。嘉楠作為率先推出AI芯片，也是最早選擇RISC-V的公司，其產(chǎn)品和技術(shù)的演進給我們了解AIoT市場的發(fā)展提供了非常多可參考的信息。
從使用公版CPU到選擇自研，從KPU架構(gòu)的升級，到自研高速接口，可以看到這個市場在高速增長，也能看到嘉楠對于AI市場，以及做一件更大事情的信心。
張楠賡說：“一個公司的成功，最核心的是戰(zhàn)略的正確，對于嘉楠來說堅持自主研發(fā)就是戰(zhàn)略，解決別人沒有解決的事情?！?/p>
芯片出貨量已過億級，已經(jīng)有300人芯片團隊的嘉楠，保持每兩年迭代一款A(yù)I芯片，按照算力高低分為2系、5系、8系滿足終端和邊緣市場需求，針對場景優(yōu)化的勘智芯片，會帶給我們什么驚喜？
