人們對人類大腦工作機理的不斷探求,催生了高效類腦計算的研究。隨著半導(dǎo)體技術(shù)的更新迭代,神經(jīng)形態(tài)器件為研究人員帶來了實現(xiàn)高效類腦計算的曙光。機遇與挑戰(zhàn)并存,在神經(jīng)形態(tài)器件的工作機理和材料等方面也會遇到諸多困難。清華大學(xué)精密儀器系類腦計算團(tuán)隊對此開展了深入的研究,并獲得系列突破。
從功能上看,人類大腦儼然是一個強大的“信息處理系統(tǒng)”,但卻如同一個“黑匣子”,時至今日人們對其機理依舊知之甚少?,F(xiàn)代神經(jīng)科學(xué)表明,人類大腦大約包含860億個神經(jīng)元,這與銀河系中恒星的數(shù)量大致相當(dāng),而連接神經(jīng)元的突觸數(shù)量更是達(dá)到神經(jīng)元數(shù)量的1000倍,由此可見大腦結(jié)構(gòu)的高度復(fù)雜性,這在很大程度上遲滯了人們探索大腦工作機理的腳步。慶幸的是,近幾十年飛速發(fā)展的神經(jīng)科學(xué)正在為破譯“黑匣子”帶來更多啟示。
在嘗試?yán)斫獯竽X的同時,人們也在試圖構(gòu)建與大腦功能類似的類腦計算系統(tǒng)。20世紀(jì)以來,半導(dǎo)體技術(shù)和計算機科學(xué)獲得巨大發(fā)展,進(jìn)而掀起構(gòu)建電子大腦的熱潮。當(dāng)前,基于馮?諾依曼架構(gòu)的計算機仍是主流,并能夠代替人類更快、更準(zhǔn)確地執(zhí)行基于固定規(guī)則的任務(wù)。隨著對更高級人工智能需求的日益迫切,人們逐漸意識到馮?諾依曼架構(gòu)計算機在適應(yīng)性、容錯和泛化能力方面依然落后于人腦,人們亟需找到更加類腦的計算范式。神經(jīng)形態(tài)電子學(xué)為實現(xiàn)這一目標(biāo)帶來了曙光,其旨在通過模擬神經(jīng)行為來實現(xiàn)計算功能,而模擬神經(jīng)行為則需要與其特性相似的半導(dǎo)體器件來實現(xiàn),即神經(jīng)形態(tài)器件。
━━ ━━
憶阻器與神經(jīng)形態(tài)器件
時間回溯到1971年,蔡少棠(Leon O. Chua)在“Memristor-The Missing Circuit Element”一文中通過啟發(fā)式的推理,預(yù)言了在電阻、電容、電感三大基礎(chǔ)電路元件之外還存在另一種基礎(chǔ)元件——憶阻器,如圖1所示。在預(yù)言37年之后的2008年,惠普實驗室在《自然》(Nature)上發(fā)表“The Missing Memristor Found”一文,宣布在新型微納半導(dǎo)體器件中觀測到憶阻現(xiàn)象。因此,蔡少棠也被譽為“憶阻器之父”。
憶阻器的電阻可調(diào)性和記憶特性(當(dāng)前電阻值取決于電壓/電流的激勵歷史)與神經(jīng)突觸的長期可塑性十分相似,而突觸可塑性正是大腦學(xué)習(xí)和記憶功能的基礎(chǔ)。此后,憶阻器件和神經(jīng)形態(tài)器件幾乎成為了兩個可以互換的概念,神經(jīng)形態(tài)電子學(xué)也進(jìn)入了一個快速發(fā)展的階段。除了生物相似性之外,憶阻器(電路)與傳統(tǒng)的互補金屬氧化物半導(dǎo)體(CMOS)器件(電路)相比,還在可微縮能力、存儲密度、功耗等方面具有潛在優(yōu)勢。
在過去的十?dāng)?shù)年里,基于憶阻效應(yīng)的神經(jīng)形態(tài)器件取得了許多重要進(jìn)展。在材料技術(shù)方面,從無機物到有機物,從普通材料到量子材料,從鐵電材料到鐵磁材料,從體材料到低維材料等等,都展示出各自獨特的神經(jīng)形態(tài)特性。在功能方面,憶阻器可模擬的突觸可塑性功能越來越多,且已不再局限于突觸模擬,還能夠模擬神經(jīng)元功能,這為全憶阻器神經(jīng)形態(tài)電路的實現(xiàn)創(chuàng)造了可能性。除了單器件研究外,傳統(tǒng)晶體管與憶阻器混合的神經(jīng)形態(tài)集成電路研究也在規(guī)模、功能等方面不斷取得可喜的進(jìn)展。
目前,基于憶阻器的神經(jīng)形態(tài)技術(shù)仍然面臨許多挑戰(zhàn)。在仿生能力方面,神經(jīng)形態(tài)器件對生物神經(jīng)組織的模擬程度還不夠高,大多僅能模擬細(xì)胞尺度的宏觀電生理行為,而無法模擬在亞細(xì)胞尺度上的機制。在計算功能方面,神經(jīng)形態(tài)電路的功能還比較初級,大多作為人工深度神經(jīng)網(wǎng)絡(luò)算法的硬件加速器來使用,而無法充分演示生物神經(jīng)網(wǎng)絡(luò)特有的時間動力學(xué)計算優(yōu)勢。在集成技術(shù)方面,憶阻器在性能上還不能完全滿足大規(guī)模集成的需要,一般仍需傳統(tǒng)晶體管的協(xié)助,無法完全體現(xiàn)出憶阻器的可微縮性和低功耗優(yōu)勢。
從上述挑戰(zhàn)出發(fā),清華大學(xué)精密儀器系類腦計算團(tuán)隊(以下簡稱團(tuán)隊)在神經(jīng)形態(tài)器件的工作機理和材料等方面進(jìn)行了深入研究,并提出具有原創(chuàng)性和突破性的解決方案。
━━ ━━
三端口憶阻器:突觸長短期
可塑性在單器件中共存
通過借鑒神經(jīng)生物學(xué)原理,團(tuán)隊意識到即使在模擬最基礎(chǔ)的突觸可塑性功能方面,神經(jīng)形態(tài)器件也存在仿生程度不足而導(dǎo)致器件功能局限的問題。具體來說,神經(jīng)突觸除了長期可塑性之外,還存在短時程尺度的可塑性,兩者在亞細(xì)胞尺度上的發(fā)生區(qū)域和機制都截然不同,如圖2(a)所示。兩者的共存也是生物神經(jīng)網(wǎng)絡(luò)豐富的時間動力學(xué)的重要來源之一。然而,在傳統(tǒng)的神經(jīng)形態(tài)器件中,突觸的長期可塑性與短期可塑性都由同源的物理機制來模擬,且發(fā)生在器件的同一區(qū)域中,導(dǎo)致兩種可塑性互斥而無法共存。
針對這一問題,團(tuán)隊提出了一種三端口憶阻器解決方案,如圖2(b)所示。三端口憶阻器具有天然的兩個空間區(qū)域,即源漏溝道(源極和漏極之間的溝道)和柵極電容;也天然地具備兩種物理效應(yīng),即短時程的柵極電容效應(yīng)和長時程的柵極憶阻效應(yīng)。柵極電容效應(yīng)直接作用于溝道,短時地改變溝道導(dǎo)電性;而柵極憶阻效應(yīng)來源于柵極介質(zhì)狀態(tài)的改變,進(jìn)而間接影響溝道導(dǎo)電性。如此一來,突觸的長期與短期可塑性能夠在不同的區(qū)域中被不同的物理機制所模擬,從而實現(xiàn)在單器件中的共存,如圖2(c)所示。該研究為以動力學(xué)時間復(fù)雜度為特征的類腦計算提供了普適的基元器件,相關(guān)研究成果以“Truly Concomitant and Independently Expressed Short- and Long-Term Plasticity in a Bi2O2Se-Based Three-Terminal Memristor”為題在國際知名期刊《先進(jìn)材料》(Advanced Materials)上發(fā)表。
━━ ━━
基于碲導(dǎo)電通道生成和斷裂阻變
機理的全憶阻器件集成方案
在器件集成方面,大規(guī)模神經(jīng)形態(tài)突觸網(wǎng)絡(luò)目前仍普遍存在器件之間串?dāng)_的問題,這對神經(jīng)網(wǎng)絡(luò)推理和學(xué)習(xí)過程的可靠性產(chǎn)生了嚴(yán)重影響。傳統(tǒng)的解決方案是為每個憶阻器串聯(lián)一個晶體管開關(guān),開放處于工作狀態(tài)的通道,同時隔斷來自非工作狀態(tài)器件的干擾。值得注意的是,晶體管是一種面積較大且功耗較高的器件,而晶體管開關(guān)的介入勢必會使憶阻器技術(shù)在可微縮性和低功耗方面的優(yōu)勢無法得到體現(xiàn)。
針對這一問題,團(tuán)隊提出了一種基于單質(zhì)半導(dǎo)體碲(Te)導(dǎo)電通道生成和斷裂阻變機理的全憶阻器件集成方案。單質(zhì)碲半導(dǎo)體材料具有電化學(xué)活性、低熔點、低導(dǎo)熱系數(shù)和低電導(dǎo)率的特點,可以用于構(gòu)造在大驅(qū)動電流下實現(xiàn)瞬態(tài)開關(guān)的固態(tài)電化學(xué)器件,其功能類似于晶體管,但結(jié)構(gòu)更簡單、可微縮能力更強,如圖3(a)所示。實現(xiàn)這一功能的機制在于,碲導(dǎo)電通道先在電化學(xué)的作用下生成,而后又在大電流焦耳熱的作用下被熔斷。與此同時,利用相同的器件還可以在小電流下實現(xiàn)電阻狀態(tài)穩(wěn)定的調(diào)節(jié),模擬了突觸的長期可塑性,如圖3(b)所示。這與碲半導(dǎo)體具有比金屬更低的導(dǎo)電性有關(guān)。大電流開關(guān)和小電流突觸功能是神經(jīng)形態(tài)突觸網(wǎng)絡(luò)對器件的基本要求,但在傳統(tǒng)憶阻器中卻是一對基本矛盾。一般來說,大電流會使材料結(jié)構(gòu)的改變更加徹底,電阻狀態(tài)也會相應(yīng)地保持更長時間,反之則反。此即憶阻器在突觸網(wǎng)絡(luò)應(yīng)用中遇到的“電流-電阻保持時間”矛盾。團(tuán)隊通過巧妙利用碲半導(dǎo)體的電學(xué)、電化學(xué)和熱學(xué)綜合特性使之得以化解。團(tuán)隊還進(jìn)一步利用一對全同器件演示了完整的“開關(guān)/突觸”串聯(lián)器件功能,如圖3(c)所示,為同質(zhì)集成的憶阻器神經(jīng)形態(tài)突觸網(wǎng)絡(luò)提供了有價值的參考。相關(guān)研究成果以“A new opportunity for the emerging tellurium semiconductor: making resistive switching devices”為題在國際知名期刊《自然?通訊》(Nature Communications)上發(fā)表。
━━ ━━
最新進(jìn)展
在神經(jīng)形態(tài)器件研究方面,團(tuán)隊基于上述的階段性成果,正在逐步開展神經(jīng)形態(tài)器件集成電路研究,以期在系統(tǒng)層次上模擬大腦的計算功能,并實現(xiàn)材料-器件-系統(tǒng)的跨尺度協(xié)同優(yōu)化。此外,團(tuán)隊還受邀在國際知名期刊《先進(jìn)智能系統(tǒng)》(Advanced Intelligent Systems)上發(fā)表了由自身對類腦計算系統(tǒng)發(fā)展的見解以及對該領(lǐng)域進(jìn)展調(diào)研總結(jié)而成的題為“A Marr's Three-Level Analytical Framework for Neuromorphic Electronic Systems”的綜述文章。當(dāng)前,團(tuán)隊已經(jīng)研制出基于模擬型憶阻器、低工作電流(關(guān)態(tài)電流低至10-12安,開態(tài)電流低至10-8安)以及抗串?dāng)_的10k規(guī)模集成陣列,如圖4所示,并正在該平臺上部署一系列新型的類腦計算算法。
致謝:感謝國家自然科學(xué)基金項目(項目編號:61974082,61704096,61836004)、中國科協(xié)青年人才托舉工程項目(項目編號:2019QNRC001)、北京腦科學(xué)與類腦研究中心、清華大學(xué)-IDG/麥戈文腦科學(xué)研究院“Brain+X”項目、國家重點研發(fā)計劃項目(項目編號:2018YFE0200200)、北京市科技計劃項目(項目編號:Z181100001518006, Z191100007519009)、蘇州-清華創(chuàng)新引領(lǐng)行動專項項目(項目編號:2016SZ0102)以及清華大學(xué)-中電??导瘓F(tuán)有限公司類腦計算聯(lián)合研究中心的支持。
本文刊登于IEEE Spectrum中文版《科技縱覽》2021年11月刊。
專家簡介
李黃龍 : 清華大學(xué)精密儀器系/清華大學(xué)類腦計算研究中心/北京腦科學(xué)與類腦研究中心,副教授 。
楊逸飛: 清華大學(xué)精密儀器系/清華大學(xué)類腦計算研究中心,在讀博士研究生 。
郭云鵬: 清華大學(xué)精密儀器系/清華大學(xué)類腦計算研究中心,在讀博士研究生 。
王昕鑫: 清華大學(xué)精密儀器系/清華大學(xué)類腦計算研究中心,在讀博士研究生 。
孔瑞楷: 清華大學(xué)精密儀器系/清華大學(xué)類腦計算研究中心,在讀博士研究生 。
何玉寒: 清華大學(xué)精密儀器系/清華大學(xué)類腦計算研究中心,在讀博士研究生 。
苗辰飛: 清華大學(xué)電子工程系,在讀本科生 。