在全球處理器領(lǐng)域,以X86架構(gòu)和ARM架構(gòu)為主流的指令集架構(gòu)占據(jù)了絕對(duì)優(yōu)勢(shì)。架構(gòu)授權(quán)成為我國(guó)處理器廠商發(fā)展無(wú)法越過(guò)的屏障以及發(fā)展保持持續(xù)性的潛在不利因素。以RISC-V(第五代精簡(jiǎn)指令處理器)為代表的開(kāi)源指令集架構(gòu)的出現(xiàn),被業(yè)內(nèi)視為最有可能打破目前處理器生態(tài)格局的途徑。近年來(lái),RISC-V在世界范圍內(nèi)逐漸步入發(fā)展熱潮。2018年以來(lái),RISC-V在我國(guó)也受到越來(lái)越多的重視,中國(guó)RISC-V產(chǎn)業(yè)聯(lián)盟和中國(guó)開(kāi)放指令生態(tài)系統(tǒng)(RISC-V)聯(lián)盟相繼成立。如何利用RISC-V的開(kāi)源特性與新興技術(shù)實(shí)現(xiàn)國(guó)產(chǎn)SoC的國(guó)產(chǎn)化發(fā)展,成為我國(guó)集成電路產(chǎn)業(yè)共同關(guān)注的話題。
2019年7月11日下午,由《電子技術(shù)應(yīng)用》雜志社、中電會(huì)展與信息傳播有限公司、EETOP(易特創(chuàng)芯)聯(lián)合承辦的“基于RISC-V的SoC國(guó)產(chǎn)化發(fā)展路徑”研討會(huì)在成都世紀(jì)城新國(guó)際會(huì)展中心召開(kāi)。電子科技大學(xué)電子科學(xué)與工程學(xué)院副教授黃樂(lè)天、芯來(lái)科技創(chuàng)始人& CEO胡振波、知存科技創(chuàng)始人王紹迪從基于RISC-V指令集擴(kuò)展的專用SoC設(shè)計(jì)、國(guó)產(chǎn)化RISC-V處理器核及配套工具鏈、RISC-V在AI-SoC芯片中的應(yīng)用等多方位多角度,闡述了我國(guó)利用開(kāi)源開(kāi)放的RISC-V構(gòu)建中國(guó)自主可控芯的不斷探索。
《電子技術(shù)應(yīng)用》楊暉(左一)、知存科技王紹迪(左二)、電子科大黃樂(lè)天(右二)、芯來(lái)科技胡振波(右一)合影
基于RISC-V的SoC國(guó)產(chǎn)化發(fā)展路徑直播視頻
黃樂(lè)天:基于RISC-V擴(kuò)展指令集的專用SoC設(shè)計(jì)
電子科技大學(xué)副教授黃樂(lè)天博士就職于電子科學(xué)與工程學(xué)院,長(zhǎng)期以來(lái)從事計(jì)算機(jī)系統(tǒng)架構(gòu)與系統(tǒng)級(jí)芯片設(shè)計(jì)交叉方向的研究,包括片上多核處理器與片上網(wǎng)絡(luò)、異構(gòu)計(jì)算系統(tǒng)與芯片、領(lǐng)域?qū)S锰幚砥髋c可重構(gòu)計(jì)算等。
電子科技大學(xué)副教授黃樂(lè)天博士
傳統(tǒng)SoC的設(shè)計(jì)方向是以軟制硬,而目前的SoC必須靠硬件對(duì)軟件進(jìn)行加速,這種加速方式主要有下圖所示三種。
專用SoC中加速器的三種耦合方式
RISC-V除常規(guī)指令之外,還有定制指令,并為其預(yù)留了編碼格式,利用預(yù)留編碼格式,設(shè)計(jì)人員可以為他們想要加速的應(yīng)用程序添加所需的任何指令。 這是一個(gè)強(qiáng)大的功能,因?yàn)樗粫?huì)破壞任何軟件兼容性,同時(shí)為發(fā)明和差異化留出空間。
黃博士的團(tuán)隊(duì)基于RISC-V架構(gòu)設(shè)計(jì)了基于自定義擴(kuò)展指令的神經(jīng)網(wǎng)絡(luò)加速器。
神經(jīng)網(wǎng)絡(luò)加速器的實(shí)現(xiàn)方式
加速器中,5個(gè)加速模塊共用RoCC接口,需要對(duì)輸入向信號(hào)做一到多仲裁,輸出向信號(hào)做多到一仲裁。
神經(jīng)網(wǎng)絡(luò)加速器總體硬件設(shè)計(jì)
經(jīng)驗(yàn)證,該加速器的每個(gè)模塊都能有效地加速相應(yīng)的計(jì)算,且向量長(zhǎng)度越長(zhǎng),加速效果越明顯。
上述設(shè)計(jì)案例證明,RISC-V的指令集格式非常適宜于通過(guò)指令擴(kuò)展設(shè)計(jì)專用加速器,Rocket Chip定義的RoCC給定了較為完備的指令擴(kuò)展接口設(shè)計(jì)方法。但問(wèn)題也很明顯,即目前國(guó)產(chǎn)化的RISC-V處理器大多把其當(dāng)成ARM的替代品,對(duì)于指令擴(kuò)展和專用SoC設(shè)計(jì)的支持不足。未來(lái),在人工智能/神經(jīng)網(wǎng)絡(luò)領(lǐng)域,需要繼續(xù)探索指令擴(kuò)展加速器與專用SoC設(shè)計(jì)方法;同時(shí)通過(guò)對(duì)各種形式加速器的研究逐步形成設(shè)計(jì)方法學(xué),從而更加廣泛的指導(dǎo)專用SoC設(shè)計(jì);在前兩者研究的基礎(chǔ)上提出領(lǐng)域?qū)S茫―omain Specific)SoC架構(gòu)、設(shè)計(jì)自動(dòng)化工具和流程,形成可以支持“敏捷開(kāi)發(fā)”的設(shè)計(jì)自動(dòng)化工具集。
芯來(lái)科技:本土RISC-V的先行者和布道者 賦能國(guó)內(nèi)AIoT產(chǎn)業(yè)變革
芯來(lái)科技成立于2018年,是中國(guó)大陸知名的專業(yè)RISC-V處理器內(nèi)核IP和解決方案公司,同時(shí)還是中國(guó)RISC-V產(chǎn)業(yè)聯(lián)盟(CRVIC)副理事長(zhǎng)單位,以及中國(guó)開(kāi)放指令集生態(tài)(RISC-V)聯(lián)盟(CRVA)會(huì)員單位,致力于與上下游合作伙伴共同構(gòu)建RISC-V的產(chǎn)業(yè)生態(tài)系統(tǒng)。芯來(lái)科技創(chuàng)始人& CEO胡振波出版了國(guó)內(nèi)第一本和第二本RISC-V中文書(shū)籍,堪稱中國(guó)本土RISC-V的先行者和布道者。
芯來(lái)科技創(chuàng)始人& CEO胡振波
芯來(lái)科技推出的N200系列RISC-V處理器內(nèi)核IP,專為超低功耗與嵌入式場(chǎng)景而設(shè)計(jì),達(dá)到業(yè)界一流的指標(biāo),非常適合替代傳統(tǒng)的8051與ARM Cortex-M系列內(nèi)核。該內(nèi)核IP系列已經(jīng)過(guò)量產(chǎn)驗(yàn)證,目前已經(jīng)全面推向市場(chǎng)。
芯來(lái)產(chǎn)品路線圖
其中,N201內(nèi)核是一款入門級(jí)商用RISC-V處理器內(nèi)核,可廣泛應(yīng)用于對(duì)面積、成本和功耗敏感的IoT領(lǐng)域芯片的微控制部分。N201內(nèi)核支持RISC-V RV32IC/EC指令集架構(gòu)、支持機(jī)器模式(Machine Mode),可完美替代ARM Cortex-M0或傳統(tǒng)8051八位內(nèi)核。
N201內(nèi)核
同時(shí),芯來(lái)科技還推出一項(xiàng)RISC-V處理器內(nèi)核IP普惠計(jì)劃——“一分錢計(jì)劃”,用戶只需三步便可以加入到芯來(lái)“一分錢計(jì)劃”,就可幾乎免費(fèi)地獲取與使用N201內(nèi)核。
芯來(lái)科技“一分錢計(jì)劃”
除了標(biāo)準(zhǔn)的處理器內(nèi)核IP,芯來(lái)科技還提供RISC-V專用處理器、軟件工具鏈、SoC子系統(tǒng)的定制服務(wù)和解決方案,從而賦能客戶實(shí)現(xiàn)產(chǎn)品的差異化與高效的性價(jià)比。
知存科技:RISC-V在AI SoC芯片中的應(yīng)用
知存科技CEO王紹迪
隨著深度學(xué)習(xí)的進(jìn)一步發(fā)展和AI芯片算力的提升,邊緣人工智能芯片將迎來(lái)更大的爆發(fā)點(diǎn)。安防、自動(dòng)駕駛、智慧城市、智慧家庭等應(yīng)用場(chǎng)景都將逐步走向落地。據(jù)有關(guān)預(yù)測(cè),未來(lái)2-5年,邊緣人工智能芯片市場(chǎng)需求將增長(zhǎng)至3000億人民幣。而AI芯片作為AI的載體,被大家寄予厚望,尤其是高算力、低成本、低功耗的AI芯片。
邊緣市場(chǎng)增長(zhǎng)迅速 ($20~30B in 2025)
得益于免費(fèi)、開(kāi)源、可模組化特色,基于RISC-V打造低功耗AI芯片成為一個(gè)新的解決思路。RISC-V在AI中的優(yōu)勢(shì)非常明顯:(1)性價(jià)比高,可顯著降低邊緣AI芯片的成本;指令集精簡(jiǎn),邏輯硬件少,芯片面積??;可按需自由組合的模塊化指令集,針對(duì)專用芯片降低芯片面積;無(wú)向前兼容負(fù)擔(dān),芯片面積小;(2)高效,精簡(jiǎn)指令集,硬件簡(jiǎn)單、功耗低,工作頻率高;(3)靈活,可自定義指令,適用于專用場(chǎng)景,從而提高效率;(4)良好的生態(tài)發(fā)展,目前已經(jīng)有200多家公司和組織成員參與維護(hù)和更新指令集,支持Linux、RTOS、RT-Thread等,且工具鏈愈加完善,未來(lái)隨著越來(lái)越多玩家的加入,還將涌現(xiàn)越來(lái)越好的軟件。
目前,RISC-V在AI中的商業(yè)化也取得了多項(xiàng)進(jìn)展,在美國(guó),NVIDIA早早就加入了RISC-V基金會(huì),并做了不少研究,近日還公開(kāi)了在深度神經(jīng)網(wǎng)絡(luò)(DNN)中應(yīng)用RISC-V指令集的可能。Mythic也與其他十幾家企業(yè)和組織共同成立了OpenHW組織,特斯拉也加入RISC-V基金會(huì),并考慮在新款芯片中使用免費(fèi)的RISC-V設(shè)計(jì)。在國(guó)內(nèi),比特大陸在Sophon Edge人工智能芯片中就采用了RISC-V架構(gòu),嘉楠耘智也在去年年底發(fā)布了全球第一款基于RISC-V的邊緣計(jì)算商用芯片。
在很多AI推理運(yùn)算中,90%以上的運(yùn)算資源都消耗在數(shù)據(jù)搬運(yùn)的過(guò)程。芯片內(nèi)部到外部的帶寬以及片上緩存空間限制了運(yùn)算的效率?,F(xiàn)在工業(yè)界和學(xué)術(shù)界很多人認(rèn)為存算一體化是未來(lái)的趨勢(shì)。
AI運(yùn)算的瓶頸
存算一體化分為幾種:DRAM和SSD中植入計(jì)算芯片或者邏輯計(jì)算單元,可以被叫做存內(nèi)處理或者近數(shù)據(jù)計(jì)算,這種方式非常適合云端的大數(shù)據(jù)和神經(jīng)網(wǎng)絡(luò)訓(xùn)練等應(yīng)用;另一種就是存儲(chǔ)和計(jì)算完全結(jié)合在一起,使用存儲(chǔ)的器件單元直接完成計(jì)算,比較適合神經(jīng)網(wǎng)絡(luò)推理類應(yīng)用。
存算一體
知存科技是后者,即將存儲(chǔ)和計(jì)算結(jié)合到閃存單元中的存算一體。知存科技使用單一浮柵存儲(chǔ)陣列完成深度學(xué)習(xí)網(wǎng)絡(luò)的存儲(chǔ)和計(jì)算功能,運(yùn)算過(guò)程中無(wú)需緩存、內(nèi)存和邏輯運(yùn)算加速器,在存儲(chǔ)單元器件中直接完成計(jì)算,從而徹底解決人工智能運(yùn)算中的存儲(chǔ)墻和算力問(wèn)題。
知存科技的存算一體
目前知存科技基于自主研發(fā)的存算一體架構(gòu)和存儲(chǔ)陣列的嵌入式智能語(yǔ)音芯片已經(jīng)完成流片,支持DNN、LSTM等多種常用網(wǎng)絡(luò),支持可變運(yùn)算和參數(shù)精度,預(yù)計(jì)2019年年末進(jìn)入量產(chǎn)。
研討會(huì)現(xiàn)場(chǎng)討論熱烈,演講嘉賓和與會(huì)聽(tīng)眾就基于RISC-V的國(guó)產(chǎn)SoC的發(fā)展展開(kāi)深入探討。大家一致認(rèn)為,國(guó)產(chǎn)SoC想要擺脫X86、ARM架構(gòu)的限制,實(shí)現(xiàn)真正的崛起,RISC-V將是一個(gè)最大的機(jī)遇,它給了我們和全球一致的起跑線,錯(cuò)過(guò)RISC-V 我們可能又將錯(cuò)過(guò)一個(gè)時(shí)代!欣慰的是,國(guó)內(nèi)RISC-V生態(tài)體系正在逐步建立起來(lái),也涌現(xiàn)了一批代表性企業(yè)真正投入到基于RISC-V指令集的處理器內(nèi)核及相應(yīng)開(kāi)發(fā)環(huán)境等工作中。可以預(yù)見(jiàn),未來(lái)幾年,RISC-V將助力國(guó)產(chǎn)SoC迎來(lái)最佳發(fā)展期。