《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 其他 > 業(yè)界動態(tài) > 以存儲為中心的片上系統(tǒng)與人工智能

以存儲為中心的片上系統(tǒng)與人工智能

2016-12-18
作者:Sylvain Dubois,Crossbar半導(dǎo)體戰(zhàn)略市場營銷與業(yè)務(wù)開發(fā)副總裁

  當(dāng)高性能、低功耗以存儲器為中心的片上系統(tǒng)與物聯(lián)網(wǎng)設(shè)備和云服務(wù)器相結(jié)合時,能夠?qū)崿F(xiàn)怎樣的情形呢?

  斯坦福大學(xué)近期的一份報告表示,人工智能 (AI) 在近期不會取代人類的需求,但它將對日常生活產(chǎn)生深遠的影響,改變運輸、教育、醫(yī)療和娛樂等行業(yè)。深度神經(jīng)網(wǎng)絡(luò)算法與機器學(xué)習(xí)所產(chǎn)生的激動人心的發(fā)展成果將帶來新的智能接口、新的虛擬助手以及多個行業(yè)一系列應(yīng)用的進化 —— 這些曾經(jīng)只存在于研究實驗室中的夢想如今卻成為了消費者觸手可及的現(xiàn)實。

1.jpg

  圖1:來源 https://de.wikipedia.org/wiki/Go_(Spiel)#/media/File:Go_board.jpg

  Donarreiskoffer - Selbstfotografiert

  機器學(xué)習(xí)算法開始走向大眾的第一個例子是計算機開始在與棋手的對戰(zhàn)中取勝,比如最近與頂級圍棋選手之間的比賽(圖1)。而像這樣的可能性還會更多。我們現(xiàn)在正在進入一個監(jiān)視攝像頭和自動駕駛通過機器學(xué)習(xí)技術(shù)成為現(xiàn)實生活中高級計算機視覺應(yīng)用的時代。使用深度學(xué)習(xí)算法的語音識別和智能傳感器能夠提高機器人應(yīng)用的環(huán)境感知。用于電子商務(wù)與廣告建議的云分析以及商業(yè)分析或醫(yī)療建議也只不過是冰山一角,并且這些應(yīng)用的種類正變得越來越豐富。

  為了讓人工智能不僅限于實驗,需要改進用戶體驗,從而加快采納并且使公司能夠盈利。人工智能以及更具體的機器學(xué)習(xí)是幾乎每家未來企業(yè)盈利和與競爭對手實現(xiàn)更大差異的核心。在過去,數(shù)據(jù)存儲是成本中心,而如今它有機會成為利潤中心 —— 這是因為數(shù)據(jù)能夠訓(xùn)練算法并且創(chuàng)造新的應(yīng)用。

  算法需要訓(xùn)練大型數(shù)據(jù)集。處理這些數(shù)據(jù)的算法正變得越來越復(fù)雜,并且所有數(shù)據(jù)都需要實時處理。多年來,許多公司都清楚地知道數(shù)據(jù)采集是其商業(yè)模式中最寶貴的資產(chǎn)?,F(xiàn)在,人們已了解社交媒體公司為何提供如此便捷、免費的平臺用于圖片分享與發(fā)表評論。這一海量的合格數(shù)據(jù)現(xiàn)在已成為一項非常寶貴的資產(chǎn),并且為這些企業(yè)帶來了極高的價值:其應(yīng)用或設(shè)備所采集的大部分數(shù)據(jù)被直接輸入到深層神經(jīng)網(wǎng)絡(luò)以訓(xùn)練它們??梢钥焖僭L問、用于訓(xùn)練機器學(xué)習(xí)算法的數(shù)Zb存儲數(shù)據(jù)將帶來更具創(chuàng)新性的產(chǎn)品與應(yīng)用。

2.jpg

  圖2:人工智能可以將數(shù)據(jù)轉(zhuǎn)換為體驗。

  物聯(lián)網(wǎng)是人工智能的基礎(chǔ)

  物聯(lián)網(wǎng)是人工智能的自然基礎(chǔ),并且最終當(dāng)所有互連設(shè)備成為更智能、更具預(yù)測性的設(shè)備時,這兩者將會合二為一。物聯(lián)網(wǎng)主要用于采集數(shù)據(jù),而人工智能的主要工作則是使用數(shù)據(jù)。數(shù)據(jù)越多,人工智能算法的智能程度就越高。

  內(nèi)置于智能設(shè)備的聲控虛擬助手,比如蘋果公司的 Siri、亞馬遜的Alexa或谷歌的Home等的性能正變得越來越強大。類似于斯派克·瓊斯的浪漫主義科幻電影《云端情人》中的體驗可能在幾個月后就能實現(xiàn)。近期,需要對數(shù)據(jù)進行本地分析的人工智能型監(jiān)控攝像頭的發(fā)展速度正在加快。而將4K視頻上傳到云端進行處理和下載所產(chǎn)生的性能與成本挑戰(zhàn)將阻礙必須采取的措施。想象一下:當(dāng)無線網(wǎng)絡(luò)信號不佳時,駕駛輔助系統(tǒng)出現(xiàn)故障。大部分智能設(shè)備都需要通過更好地理解其環(huán)境和消費者的習(xí)慣來根據(jù)用戶體驗改善性能。進化的基礎(chǔ)是從我們過去的經(jīng)驗中學(xué)習(xí)并且改進我們的未來行為。

  這些生成大量可分析與可執(zhí)行數(shù)據(jù)集的技術(shù)需要有創(chuàng)新的存儲技術(shù)提供高性能與低能耗。

  Crossbar RRAM等非易失性存儲技術(shù)正在通過提供低功耗、低電壓的運行、與計算機內(nèi)核的單片集成以及可按字節(jié)尋址的寫入幫助解決嵌入式物聯(lián)網(wǎng)的性能與能源挑戰(zhàn)。RRAM是能耗最低的物聯(lián)網(wǎng)應(yīng)用存儲技術(shù),并且可以與單片解決方案上的處理內(nèi)核集成。

  RRAM通過與專用邏輯的片上集成加快深度神經(jīng)網(wǎng)絡(luò)算法。來自傳感器的數(shù)據(jù)可以保存在片上并且直接通過深度神經(jīng)網(wǎng)絡(luò)傳輸,從而采取直接行動。對象并非通過軟件的獲取行,而是通過與來自各傳感器的外部數(shù)據(jù)產(chǎn)生反應(yīng)來實現(xiàn)智能。數(shù)據(jù)采集與處理可以通過嵌入式RRAM集成到一個單片解決方案上。通過集成高密度片上存儲器與同一節(jié)點上的處理器,數(shù)據(jù)從處理器向片外存儲器子系統(tǒng)的傳輸及回傳所固有的延遲被消除。因此, RRAM 技術(shù)是一項加快挖掘新型大數(shù)據(jù)、人工智能領(lǐng)域潛力的創(chuàng)新,使多種應(yīng)用加快性能,并且大幅提高了能效、實現(xiàn)了出色的安全性并且減少了芯片的數(shù)量與尺寸。

3.JPG

  圖3:同一硅晶片上的非易失性存儲器和計算邏輯加快數(shù)據(jù)訪問并且提高能效

  人工智能所需的新架構(gòu)

  摩爾定律戛然而止,CPU的刷新頻率更低。目前英特爾處理器所遇到的馮·諾依曼存儲瓶頸問題可以通過更加以存儲器為中心的新系統(tǒng)架構(gòu)解決。必須減少存儲技術(shù)與計算之間的性能差異。傳統(tǒng)的閃存型存儲解決方案的讀取反應(yīng)時間在100微秒范圍內(nèi),而Crossbar 3D RRAM則為1微秒。除了 Crossbar的 RRAM之外,Intel Micron XPoint PCM、Everspin 和 Avalanche MRAM等新興存儲技術(shù)還支持其他多項倡議,它們都致力于解決這一挑戰(zhàn)。

  數(shù)據(jù)中心中的傳統(tǒng)架構(gòu)通常包含三個獨立的部分:

  帶頂尖處理內(nèi)核與配套DRAM存儲器的計算部分

  SSD或HDD單位字節(jié)成本最低的數(shù)據(jù)存儲部分

  連接計算部分與數(shù)據(jù)存儲部分的網(wǎng)絡(luò)

  分析師發(fā)現(xiàn)數(shù)據(jù)中心的集成度正呈現(xiàn)越來越高的趨勢,其中這三個組成部分 —— 計算、存儲和網(wǎng)絡(luò)被壓縮到一個緊湊的尺寸,這被稱之為“超融合服務(wù)器”。

  根據(jù)近期的一些報告,已有40%的企業(yè)數(shù)據(jù)中心使用超融合服務(wù)器,而這一市場有望在未來五年增長近80%。

  數(shù)據(jù)中心基礎(chǔ)架構(gòu)市場正在縮短服務(wù)器各元素延遲時間的方向快速發(fā)展。在一個單元中集成所有組件能夠減少延遲、總擁有成本和功耗。在超融合服務(wù)器中,計算、存儲和網(wǎng)絡(luò)部分可以實現(xiàn)更高效的互連。新的行業(yè)論壇正在實現(xiàn)處理器、存儲和IO之間的高帶寬低延遲數(shù)據(jù)訪問。在高性能計算應(yīng)用中,Intel Micron 3D XPoint PCM和 Crossbar 3D RRAM將通過減少存儲與計算之間的性能差距實現(xiàn)顯著的改進。

  可以直接在片上與處理邏輯集成的存儲技術(shù)將實現(xiàn)全新的以存儲器為中心的片上架構(gòu)。當(dāng)非易失性存儲器與計算邏輯共享同一塊硅晶片時,就能解決外部總線的性能瓶頸。嵌入式永久存儲技術(shù)的一個特殊應(yīng)用領(lǐng)域是建立在以存儲器為中心的片上系統(tǒng)基礎(chǔ)之上的深度學(xué)習(xí)硬件加速。人工智能和深度學(xué)習(xí)是這十年最有可能取得進展的計算技術(shù)。深層神經(jīng)網(wǎng)絡(luò)的核心是數(shù)據(jù)以及經(jīng)過訓(xùn)練的算法如何應(yīng)對新的數(shù)據(jù)集。行業(yè)對于新計算平臺的開發(fā)具有濃厚的興趣,這些計算平臺通過專門嵌入RRAM內(nèi)核的多個處理引擎具備了大規(guī)模并行計算能力。目前已有多家企業(yè)已經(jīng)在研究如何將RRAM單元作為神經(jīng)形態(tài)處理架構(gòu)的突觸。

4.jpg

  圖4:提供新人工智能體驗的RRAM并行計算平臺。

  在物聯(lián)網(wǎng)設(shè)備和云服務(wù)器中引入這些高性能、低功耗且以存儲器為中心的片上系統(tǒng)使數(shù)據(jù)和計算變得無處不在 —— 用戶可隨時隨地在需要時使用它們。這些解決方案不僅為云端提供了容量與規(guī)模都十分“龐大”的數(shù)據(jù),而且也帶來了嵌入式應(yīng)用實現(xiàn)新人工智能應(yīng)用所需的能效、安全性以及出色的低延遲性能。


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。