自「天機(jī)」登上《自然》封面一年多以來(lái)，這已是清華大學(xué)的類(lèi)腦計(jì)算研究最近第三次被自然雜志收錄。

　　10 月 14 日，在最新一期《自然》雜志上，出現(xiàn)了一項(xiàng)類(lèi)腦計(jì)算體系結(jié)構(gòu)的突破性進(jìn)展。

　　來(lái)自清華大學(xué)、北京信息科學(xué)與技術(shù)國(guó)家研究中心、美國(guó)特拉華大學(xué)（University of Delaware）科研團(tuán)隊(duì)的研究者在論文《A system hierarchy for brain-inspired computing》（一種類(lèi)腦計(jì)算系統(tǒng)層次結(jié)構(gòu)）中提出了「類(lèi)腦計(jì)算完備性」（neuromorphic completenes）概念。該研究被認(rèn)為會(huì)加速類(lèi)腦計(jì)算，及通用人工智能等方向的研究。

　　目前，發(fā)展通用人工智能（AGI）通常有兩種方法：神經(jīng)科學(xué)導(dǎo)向和計(jì)算機(jī)科學(xué)導(dǎo)向。由于兩種方法在公式和編碼方式上存在根本差異，它們依賴(lài)于不同且不兼容的平臺(tái)，阻礙了 AGI 的發(fā)展。

　　論文鏈接：https://www.nature.com/articles/s41586-020-2782-y

　　該研究的第一作者為清華大學(xué)計(jì)算機(jī)系研究員張悠慧，與清華大學(xué)教授、清華大學(xué)類(lèi)腦計(jì)算中心主任施路平共同為該論文的通訊作者。

　　神經(jīng)形態(tài)計(jì)算從生物大腦中獲取靈感，為計(jì)算機(jī)技術(shù)和體系結(jié)構(gòu)的下一波發(fā)展提供了方向。類(lèi)腦計(jì)算與傳統(tǒng)計(jì)算機(jī)架構(gòu)不同，后者是圍繞圖靈完備和完善的馮諾依曼結(jié)構(gòu)，前者目前還沒(méi)有沒(méi)有廣義的系統(tǒng)層次結(jié)構(gòu)，或?qū)︻?lèi)腦性計(jì)算的完整性的理解。這會(huì)影響類(lèi)腦計(jì)算軟件和硬件之間的兼容性，從而阻礙了大類(lèi)腦式計(jì)算的開(kāi)發(fā)效率。

　　面對(duì)這一挑戰(zhàn)，清華大學(xué)等機(jī)構(gòu)的研究者們提出了「類(lèi)腦計(jì)算完備」概念，它放寬了對(duì)硬件完整性的要求，并提出了相應(yīng)的系統(tǒng)層次結(jié)構(gòu)，其中包括圖靈完備的軟件抽象模型和通用的抽象神經(jīng)形態(tài)架構(gòu)。

　　使用這種層次結(jié)構(gòu)，我們可以將各種程序描述為統(tǒng)一的表示形式，并轉(zhuǎn)換為任何神經(jīng)形態(tài)完整硬件上的等效可執(zhí)行文件。這意味著，這一體系可以確保編程語(yǔ)言的可移植性、硬件完整性和編譯可行性。

　　為了支持在各種典型硬件平臺(tái)上執(zhí)行不同類(lèi)型的程序，研究人員實(shí)現(xiàn)了一系列工具鏈軟件，進(jìn)而證明了該系統(tǒng)結(jié)構(gòu)的優(yōu)勢(shì)。

　　全新的系統(tǒng)層次結(jié)構(gòu)

　　在這項(xiàng)研究中，研究者提出了一種具有高度通用性和普適性的類(lèi)腦計(jì)算系統(tǒng)層次結(jié)構(gòu)，該結(jié)構(gòu)包括三個(gè)層次：軟件、硬件和編譯。

　　與傳統(tǒng)的計(jì)算系統(tǒng)層次結(jié)構(gòu)不同，對(duì)于類(lèi)腦計(jì)算系統(tǒng)層次結(jié)構(gòu)而言，軟件層指的是神經(jīng)形態(tài)應(yīng)用和開(kāi)發(fā)框架（如 Nengo 和 PyTorch）。相應(yīng)地，研究者提出將 POG 作為軟件的中間表征， EPG 作為硬件的中間表征（CFG，控制流圖），并引入編譯工具將 POG 轉(zhuǎn)換為 EPG。對(duì)于硬件層，研究者提出了抽象神經(jīng)形態(tài)結(jié)構(gòu)（ANA），包括調(diào)度單元、處理單元、內(nèi)存和互連網(wǎng)絡(luò)，作為神經(jīng)形態(tài)硬件（TrueNorth、SpiNNaker、Tianjic 和 Loihi）抽象。

　　考慮到類(lèi)腦計(jì)算的相似性，研究者進(jìn)一步提出了「類(lèi)腦計(jì)算完備性」的概念，引入了逼近等價(jià)（approximation equivalence）和近似等價(jià)（precise equivalence）。

　　類(lèi)腦計(jì)算機(jī)系統(tǒng)與傳統(tǒng)計(jì)算機(jī)系統(tǒng)的層次結(jié)構(gòu)對(duì)比。

　　軟件

　　圖中的軟件是指編程語(yǔ)言或框架，以及以它們?yōu)榛A(chǔ)構(gòu)建的算法或模型。在這一層面上，研究者提出了一個(gè)統(tǒng)一的、通用的軟件抽象模型——POG（programming operator graph）——來(lái)適配多種類(lèi)腦算法和模型設(shè)計(jì)。POG 由統(tǒng)一的描述方法和事件驅(qū)動(dòng)的并行程序執(zhí)行模型組成，該模型集成了存儲(chǔ)和處理。它描述了什么是類(lèi)腦程序并定義了如何執(zhí)行該程序。由于 POG 是圖靈完備的，它能夠最大程度上支持多種應(yīng)用、編程語(yǔ)言和框架。

　　硬件

　　硬件部分包括所有類(lèi)腦芯片和架構(gòu)模型。研究者設(shè)計(jì)了抽象神經(jīng)形態(tài)結(jié)構(gòu)作為硬件抽象。它有一個(gè) EPG（ execution primitive graph），用作和上一層之間的接口，來(lái)描述它可以執(zhí)行的程序。EPG 有一個(gè)混合的「control-flow–dataflow」表示，用來(lái)最大化其對(duì)不同硬件的適應(yīng)性，同時(shí)也符合一個(gè)流行的硬件趨勢(shì)——混合架構(gòu)。

　　編譯

　　編譯是將一個(gè)程序轉(zhuǎn)化為硬件所支持的一種等價(jià)形式的中間層。為了提高可用性，研究者提出了一組基本的硬件執(zhí)行原語(yǔ)，這些原語(yǔ)在主流的類(lèi)腦芯片中得到了廣泛的支持，同時(shí)證明了配備了這套原語(yǔ)的硬件是神經(jīng)形態(tài)完備的。此外，研究者還以一個(gè)工具鏈軟件作為編譯層的實(shí)例，論證了該層次結(jié)構(gòu)的可行性、合理性和優(yōu)越性。

　　研究者提到：「這一層次結(jié)構(gòu)避免了硬件和軟件之間的緊密耦合，確保任何類(lèi)腦程序都可以用圖靈完備 POG 來(lái)表示，然后在任何神經(jīng)形態(tài)完備的硬件上編譯成等效的可執(zhí)行 EPG。我們確保了編程的可移植性、硬件的完整性和編譯的可行性，并通過(guò)實(shí)驗(yàn)驗(yàn)證了神經(jīng)形態(tài)完備性引入的系統(tǒng)設(shè)計(jì)維度優(yōu)化效果。這一層次結(jié)構(gòu)也促進(jìn)了軟硬件的協(xié)同設(shè)計(jì)?！?/p>

　　與當(dāng)今常規(guī)計(jì)算機(jī)的「圖靈完備性」概念與「馮諾依曼」體系結(jié)構(gòu)相對(duì)應(yīng)，全新的類(lèi)腦計(jì)算完備性及軟硬件去耦合的類(lèi)腦計(jì)算系統(tǒng)層次結(jié)構(gòu)證明了自身的可行性，同時(shí)又?jǐn)U展了類(lèi)腦計(jì)算系統(tǒng)應(yīng)用范圍，使之能支持通用計(jì)算。

　　這項(xiàng)研究為處于起步階段的類(lèi)腦計(jì)算方向，填補(bǔ)了完備性理論與相應(yīng)系統(tǒng)層次結(jié)構(gòu)方面的空白，有利于自主掌握新型計(jì)算機(jī)系統(tǒng)核心技術(shù)。

　　《自然》雜志的一位審稿人認(rèn)為，「這是一個(gè)新穎的觀點(diǎn)，并可能被證明是神經(jīng)形態(tài)計(jì)算領(lǐng)域以及面向人工智能研究的重大發(fā)展。」