前言：

近年來(lái)，邊緣計(jì)算技術(shù)試圖讓這些設(shè)備在不依賴互聯(lián)網(wǎng)的情況下仍然可以保持智能。

這就要求它們所搭載的芯片本身具有處理AI任務(wù)的能力。

這些小型設(shè)備所搭載的電池電量十分有限，往往不足以處理復(fù)雜的AI任務(wù)。

因此，提高AI芯片的能效變得至關(guān)重要。

解決能源問(wèn)題很關(guān)鍵

在傳統(tǒng)的芯片里，數(shù)據(jù)的計(jì)算和存儲(chǔ)通常在兩個(gè)獨(dú)立的單元進(jìn)行。

研究發(fā)現(xiàn)在這樣的芯片中，絕大多數(shù)的能量并非用于AI計(jì)算，而是消耗在計(jì)算和存儲(chǔ)單元之間頻繁的數(shù)據(jù)移動(dòng)中。

無(wú)人機(jī)、智能可穿戴設(shè)備和工業(yè)物聯(lián)網(wǎng)傳感器等設(shè)備都配備了AI芯片，因此計(jì)算可以在數(shù)據(jù)發(fā)源地之互聯(lián)網(wǎng)的［邊緣］進(jìn)行，可以實(shí)時(shí)處理并保證數(shù)據(jù)隱私。

在今天的AI芯片中，數(shù)據(jù)處理和數(shù)據(jù)存儲(chǔ)在計(jì)算單元和內(nèi)存單元中。

這些單元之間頻繁的數(shù)據(jù)移動(dòng)消耗了AI處理過(guò)程中的大部分能量，而微型邊緣設(shè)備上的AI功能會(huì)受到電池容量的限制。

目前，邊緣設(shè)備上的大多數(shù)AI應(yīng)用程序都涉及將數(shù)據(jù)從設(shè)備移動(dòng)到云端，AI在云端對(duì)其進(jìn)行處理和分析，然后將結(jié)果移回設(shè)備。

雖然使用RRAM芯片進(jìn)行計(jì)算不一定是新的，但通常，它會(huì)導(dǎo)致芯片上執(zhí)行的計(jì)算精度降低，并且芯片架構(gòu)缺乏靈活性。

因此減少數(shù)據(jù)移動(dòng)是解決能源問(wèn)題的關(guān)鍵。

研究小組發(fā)布新型AI芯片

斯坦福大學(xué)，加州大學(xué)圣地亞哥分校，以及清華大學(xué)合作研究團(tuán)隊(duì)提出了一個(gè)新的解決方案。

研究小組已經(jīng)開(kāi)發(fā)了一個(gè)新的內(nèi)存中計(jì)算（CIM：compute－in－memory）芯片的原型，消除了這種分離的需要。

他們?cè)?月17日發(fā)表在《自然》雜志上的論文中稱，他們的原型展示了兩倍于現(xiàn)有AI平臺(tái)的效率。

這款芯片采用了基于阻變存儲(chǔ)器（RRAM）的［存算一體］架構(gòu)來(lái)減少數(shù)據(jù)流動(dòng)。

它在支持多種AI應(yīng)用的同時(shí)，大幅提升了能效，使得在邊緣設(shè)備中實(shí)現(xiàn)復(fù)雜的AI任務(wù)成為可能。

這就好比直接在倉(cāng)庫(kù)中對(duì)原材料進(jìn)行加工生產(chǎn)，而不必頻繁地把原材料運(yùn)往專門的加工車間，極大地減少了數(shù)據(jù)流動(dòng)，從而大幅提升了芯片的能效。

NeuRRAM芯片的新穎之處

NeuRRAM芯片的能效不僅是目前最先進(jìn)的內(nèi)存計(jì)算芯片的兩倍，而且它提供的結(jié)果也與傳統(tǒng)數(shù)字芯片一樣準(zhǔn)確。

NeuRRAM的新穎之處在于，對(duì)于各種AI應(yīng)用，極高的效率現(xiàn)在與極大的靈活性相結(jié)合，與標(biāo)準(zhǔn)數(shù)字通用計(jì)算平臺(tái)相比，精度幾乎沒(méi)有損失。

研究人員通過(guò)一種稱為能量延遲產(chǎn)物（EDP）的測(cè)量來(lái)測(cè)量芯片的能效。

NeuRRAM芯片實(shí)現(xiàn)了比最先進(jìn)的芯片低1．6至2．3倍的EDP（越低越好）和7至13倍的計(jì)算密度。

它在手寫數(shù)字識(shí)別任務(wù)中實(shí)現(xiàn)了99％的準(zhǔn)確率；85．7％用于圖像分類任務(wù)；和84．7％的谷歌語(yǔ)音命令識(shí)別任務(wù)。

此外，該芯片還實(shí)現(xiàn)了圖像恢復(fù)任務(wù)中圖像重建誤差降低70％。

采用新存儲(chǔ)技術(shù)實(shí)現(xiàn)多核存算一體

NeuRRAM芯片使用的阻變存儲(chǔ)器是一種新型的非易失性存儲(chǔ)技術(shù)。

這種技術(shù)具有高密度，非易失，易加工等優(yōu)點(diǎn)，是低功耗，低成本的邊緣計(jì)算場(chǎng)景的理想選擇。

除了更高的能效，NeuRRAM也是首個(gè)支持多種神經(jīng)網(wǎng)絡(luò)模型的多核存算一體芯片。

因此，NeuRRAM可以被應(yīng)用到多類邊緣計(jì)算任務(wù)中，例如圖像分類，圖像去噪，關(guān)鍵詞識(shí)別。

在這些不同應(yīng)用中，NeuRRAM均可實(shí)現(xiàn)和傳統(tǒng)數(shù)字芯片相當(dāng)?shù)腁I推理準(zhǔn)確度。

NeuRRAM還不是一顆產(chǎn)品級(jí)芯片，但是它驗(yàn)證了全棧式優(yōu)化對(duì)于該技術(shù)產(chǎn)業(yè)化的重要性。

這款NeuRRAM神經(jīng)形態(tài)芯片使AI離在與云斷開(kāi)的廣泛邊緣設(shè)備上運(yùn)行又近了一步。

架構(gòu)設(shè)計(jì)有別于傳統(tǒng)芯片

在NeurRRAM架構(gòu)中，CMOS神經(jīng)元電路與RRAM權(quán)重在物理上交錯(cuò)。

它與傳統(tǒng)設(shè)計(jì)不同，傳統(tǒng)設(shè)計(jì)中的CMOS電路通常位于RRAM砝碼的外圍。

神經(jīng)元與RRAM陣列的連接可以配置為神經(jīng)元的輸入或輸出。

這允許神經(jīng)網(wǎng)絡(luò)在各種數(shù)據(jù)流方向上進(jìn)行推理，而不會(huì)產(chǎn)生面積或功耗方面的開(kāi)銷。

這反過(guò)來(lái)又使體系結(jié)構(gòu)更易于重新配置。

作為神經(jīng)形態(tài)AI芯片，NeuroRRAM在48個(gè)神經(jīng)突觸內(nèi)核上執(zhí)行并行分布式處理。

為了同時(shí)實(shí)現(xiàn)高通用性和高效率，NeuRRAM通過(guò)將神經(jīng)網(wǎng)絡(luò)模型中的一層映射到多個(gè)內(nèi)核上以對(duì)多個(gè)數(shù)據(jù)進(jìn)行并行推理來(lái)支持?jǐn)?shù)據(jù)并行性。

此外，NeuRRAM通過(guò)將模型的不同層映射到不同的內(nèi)核并以流水線方式執(zhí)行推理來(lái)提供模型并行性。

將推動(dòng)未來(lái)的邊緣計(jì)算

目前，NeuRRAM只是一種物理概念層面的驗(yàn)證，但要轉(zhuǎn)化為實(shí)際的邊緣設(shè)備則需要更多開(kāi)發(fā)。

這種結(jié)合效率、準(zhǔn)確性和執(zhí)行不同任務(wù)的能力充分展示了芯片的潛力。

如果成功，像NeuRRAM這樣的RRAM內(nèi)存計(jì)算芯片具有幾乎無(wú)限的潛力。它們可以嵌入農(nóng)田進(jìn)行實(shí)時(shí)AI計(jì)算，根據(jù)當(dāng)前土壤條件調(diào)整灌溉系統(tǒng)。

大規(guī)模生產(chǎn)這些芯片會(huì)更加便宜，且適應(yīng)性強(qiáng)、功耗低，可以用于改善我們的日常生活，如用于家庭健康監(jiān)測(cè)的醫(yī)療設(shè)備。

也可用于解決從氣候變化到糧食安全的各種問(wèn)題。

AI計(jì)算是非常消耗能源的，但大部分的能源消耗不是由計(jì)算本身造成的。能源密集型部分是在AI芯片內(nèi)的內(nèi)存和計(jì)算單元之間移動(dòng)數(shù)據(jù)。

結(jié)尾：

現(xiàn)在考慮商業(yè)化的問(wèn)題還為時(shí)過(guò)早。

雖然他們認(rèn)為該芯片的高效硬件實(shí)現(xiàn)與內(nèi)存中計(jì)算是一個(gè)成功的組合，但廣泛采用仍將取決于能否降低能效基準(zhǔn)。

部分資料參考：澎湃新聞：《Nature：新型AI芯片大幅提升能效，邊緣物聯(lián)網(wǎng)時(shí)代即將到來(lái)？》，智科院：《新的AI芯片的能源效率是替代品的兩倍》

更多信息可以來(lái)這里獲取==>>電子技術(shù)應(yīng)用-AET<<