《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 嵌入式技術(shù) > 業(yè)界動(dòng)態(tài) > 清華微電子所團(tuán)隊(duì)提出AI芯片的存儲(chǔ)優(yōu)化新方法

清華微電子所團(tuán)隊(duì)提出AI芯片的存儲(chǔ)優(yōu)化新方法

2018-06-07

  6月2日 ~ 6日,第45屆國(guó)際計(jì)算機(jī)體系結(jié)構(gòu)大會(huì)(International Symposium on Computer Architecture,簡(jiǎn)稱ISCA)在美國(guó)洛杉磯召開(kāi)。清華大學(xué)微電子所博士生涂鋒斌在會(huì)上做了題為《RANA:考慮eDRAM刷新優(yōu)化的神經(jīng)網(wǎng)絡(luò)加速框架》(RANA: Towards Efficient Neural Acceleration with Refresh-Optimized Embedded DRAM)的報(bào)告。該研究成果大幅提升了人工智能計(jì)算芯片的能量效率。

1.jpg

  清華微電子所博士生涂鋒斌報(bào)告現(xiàn)場(chǎng)

  ISCA是計(jì)算機(jī)體系結(jié)構(gòu)領(lǐng)域的頂級(jí)會(huì)議。本次大會(huì)共收到378篇投稿,收錄64篇論文,錄用率僅為16.9%。本文是今年中國(guó)唯一被收錄的署名第一完成單位的論文。尹首一副教授為本文通訊作者,論文合作者還包括清華大學(xué)微電子所魏少軍教授和劉雷波教授等。

  隨著人工智能應(yīng)用中神經(jīng)網(wǎng)絡(luò)規(guī)模的不斷增大,計(jì)算芯片的大量片外訪存會(huì)造成巨大的系統(tǒng)能耗,因此存儲(chǔ)優(yōu)化是人工智能計(jì)算芯片設(shè)計(jì)中必須解決的一個(gè)核心問(wèn)題??芍貥?gòu)研究團(tuán)隊(duì)提出一種面向神經(jīng)網(wǎng)絡(luò)的新型加速框架:數(shù)據(jù)生存時(shí)間感知的神經(jīng)網(wǎng)絡(luò)加速框架(RANA)。RANA框架采用了三個(gè)層次的優(yōu)化技術(shù):數(shù)據(jù)生存時(shí)間感知的訓(xùn)練方法,混合計(jì)算模式和支持刷新優(yōu)化的eDRAM存儲(chǔ)器,分別從訓(xùn)練、調(diào)度和架構(gòu)三個(gè)層面優(yōu)化整體系統(tǒng)能耗。實(shí)驗(yàn)結(jié)果顯示,RANA框架可以消除99.7%的eDRAM刷新能耗開(kāi)銷,而性能和精度損失可以忽略不計(jì)。相比于傳統(tǒng)的采用SRAM的人工智能計(jì)算芯片,使用RANA框架的基于eDRAM的計(jì)算芯片在面積開(kāi)銷相同的情況下可以減少41.7%的片外訪存和66.2%的系統(tǒng)能耗,使人工智能系統(tǒng)的能量效率獲得大幅提高。

3.jpg

  數(shù)據(jù)生存時(shí)間感知的神經(jīng)網(wǎng)絡(luò)加速框架(RANA)

  可重構(gòu)計(jì)算團(tuán)隊(duì)近年來(lái)基于可重構(gòu)架構(gòu)設(shè)計(jì)了Thinker系列人工智能計(jì)算芯片(Thinker I,Thinker II,Thinker S),受到學(xué)術(shù)界和工業(yè)界的廣泛關(guān)注??芍貥?gòu)計(jì)算團(tuán)隊(duì)此次研究成果,從存儲(chǔ)優(yōu)化和軟硬件協(xié)同設(shè)計(jì)的角度大幅提升了芯片能量效率, 為人工智能計(jì)算芯片的架構(gòu)演進(jìn)開(kāi)拓了新方向。


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問(wèn)題,請(qǐng)及時(shí)通過(guò)電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。