《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 人工智能 > 業(yè)界動(dòng)態(tài) > 人工智能機(jī)器學(xué)習(xí)計(jì)算和存儲(chǔ)同時(shí)進(jìn)行

人工智能機(jī)器學(xué)習(xí)計(jì)算和存儲(chǔ)同時(shí)進(jìn)行

2022-12-24
來源:laocuo1142

人工智能 (AI) 應(yīng)用程序在我們的日常生活中無處不在。隨著傳感器、5G通信、邊緣計(jì)算等技術(shù)的不斷演進(jìn),包括汽車、工廠自動(dòng)化設(shè)備、醫(yī)療保健設(shè)備、各種消費(fèi)電子產(chǎn)品和小型電池供電的物聯(lián)網(wǎng)(IoT)在內(nèi)的大型數(shù)據(jù)中心)節(jié)點(diǎn),從數(shù)字化、網(wǎng)絡(luò)化功能的增加,逐漸演變?yōu)閾碛胁煌瑢哟蔚摹爸悄堋薄?/p>

這些智能系統(tǒng)可以將收集到的海量數(shù)據(jù)轉(zhuǎn)化為有用的信息,做出快速?zèng)Q策并實(shí)時(shí)做出適當(dāng)響應(yīng),或者將數(shù)據(jù)傳輸?shù)皆贫诉M(jìn)行深入分析以獲得更高價(jià)值的見解。它們能否充分發(fā)揮作用,不僅取決于中央處理器(CPU)的計(jì)算能力,還取決于內(nèi)存,內(nèi)存不再僅僅負(fù)責(zé)簡(jiǎn)單的數(shù)據(jù)存儲(chǔ)功能,而是開始在共享中發(fā)揮越來越重要的作用處理器的計(jì)算任務(wù)。

Donald Huang 是 Macronix International Co., Ltd. (Macronix) 的產(chǎn)品營(yíng)銷部總監(jiān),該公司是非易失性存儲(chǔ)器集成組件的全球領(lǐng)導(dǎo)者。他以配備高級(jí)駕駛輔助系統(tǒng)(ADAS)和自動(dòng)駕駛功能的智能網(wǎng)聯(lián)汽車為例,表示這類配備攝像頭、激光雷達(dá)和雷達(dá)等傳感器的系統(tǒng)每天可產(chǎn)生高達(dá)數(shù)TB的數(shù)據(jù)。因此,它的存儲(chǔ)器不僅需要大量的存儲(chǔ)容量和高傳輸帶寬,而且還必須滿足嚴(yán)格的汽車規(guī)范,這些規(guī)范對(duì)可靠性和質(zhì)量要求非常高。而且,

此外,他強(qiáng)調(diào),當(dāng)AI應(yīng)用從云端走向邊緣時(shí),對(duì)于車輛等需要安全和快速響應(yīng)的邊緣設(shè)備,內(nèi)存在實(shí)時(shí)數(shù)據(jù)處理和高速傳輸方面提供的支持不可或缺,而對(duì)降低系統(tǒng)功耗和成本的解決方案的需求也在上升。

黃總指出,為滿足人工智能應(yīng)用對(duì)高存儲(chǔ)容量、高速傳輸和低時(shí)延的要求,內(nèi)存組件在系統(tǒng)中的作用開始發(fā)生范式轉(zhuǎn)變;過去,閃存在系統(tǒng)中只起到純后端存儲(chǔ)的作用,支撐前端DRAM和處理器的嵌入式SRAM。不過,隨著數(shù)據(jù)量的大幅增加,對(duì)傳輸帶寬和速度的要求也越來越高,他說,需要一種全新的內(nèi)存架構(gòu)來應(yīng)對(duì)這些新興的應(yīng)用。

他接著解釋,因應(yīng)大數(shù)據(jù)的需求,目前主流的NAND和NOR閃存已經(jīng)從2D結(jié)構(gòu)轉(zhuǎn)向3D結(jié)構(gòu),以達(dá)到更高的存儲(chǔ)密度和更低的成本。而人工智能系統(tǒng)也希望閃存能夠更靠近計(jì)算單元,以支持高速訪問并降低數(shù)據(jù)傳輸功耗。如今的新一代閃存直接在內(nèi)部增加了計(jì)算功能,準(zhǔn)備從幕后走向前臺(tái),與中央處理器(CPU)和圖形處理器(GPU)并肩作戰(zhàn)?!癕acronix 最新的 FortiX 系列 3D NAND/NOR 閃存就是這樣一個(gè)'以內(nèi)存為中心'的創(chuàng)新解決方案,”Donald 說。

FortiX系列產(chǎn)品除了提供3D閃存的高存儲(chǔ)容量、穩(wěn)定的質(zhì)量和可靠性外,還具有支持實(shí)時(shí)數(shù)據(jù)處理、高傳輸帶寬和低功耗等額外優(yōu)勢(shì)。Donald表示,F(xiàn)ortiX解決方案的內(nèi)存搜索(IMS)和內(nèi)存計(jì)算(CIM)是數(shù)字和模擬架構(gòu)的計(jì)算功能。當(dāng)傳統(tǒng)的存儲(chǔ)和計(jì)算分離的馮諾依曼架構(gòu)遇到延遲和功耗瓶頸時(shí),這種新架構(gòu)不僅可以大大減少內(nèi)存和CPU/GPU之間的數(shù)據(jù)傳輸。這不僅提高了速度并降低了功耗,而且還可以節(jié)省對(duì)模數(shù)轉(zhuǎn)換器、微控制器和 GPU 組件的需求,從而降低整體系統(tǒng)成本。FortiX 是 Macronix 團(tuán)隊(duì)花費(fèi)多年時(shí)間進(jìn)行研發(fā)的心血結(jié)晶。相關(guān)技術(shù)論文近年來在國(guó)際電子器件會(huì)議(IEDM)、國(guó)際固態(tài)電路會(huì)議(ISSCC)等全球?qū)W術(shù)研討會(huì)上受到青睞。而且,F(xiàn)ortiX一直在申請(qǐng)專利。

FortiX的IMS功能可以直接從內(nèi)存中已有的數(shù)據(jù)中搜索比較數(shù)據(jù)(精確或接近),支持并行輸入。Donald解釋說,3D NAND適合大數(shù)據(jù)量(>64Gb)的應(yīng)用,而3D NOR則支持TCAM和Hamming Distance Sorter架構(gòu)的高速應(yīng)用。有多種創(chuàng)新架構(gòu)提供靈活的選項(xiàng)來幫助物體檢測(cè)/圖像識(shí)別,包括智能車輛的車道識(shí)別等應(yīng)用。支持逐位邏輯運(yùn)算的 CIM 函數(shù)可以在深度神經(jīng)網(wǎng)絡(luò)推理任務(wù)中執(zhí)行所需的 MAC 運(yùn)算。Donald補(bǔ)充說,在性能方面,與傳統(tǒng)的馮諾依曼架構(gòu)系統(tǒng)相比,F(xiàn)ortiX IMS 3D NAND的內(nèi)部搜索速度高達(dá)300Gb/s,其每秒數(shù)據(jù)查詢率(QPS)可提升10倍以上,運(yùn)行功耗(有功功率)僅為300mW左右,遠(yuǎn)低于DRAM的1W功耗。此外,經(jīng)過FortiX IMS 3D NAND加速器運(yùn)行后,數(shù)據(jù)量可以減少到只有原來數(shù)據(jù)量的5%,大大減少了馮諾依曼架構(gòu)系統(tǒng)后續(xù)運(yùn)行的數(shù)據(jù)移動(dòng),不僅降低功耗和總成本,同時(shí)顯著提高性能。

不過,Donald 也強(qiáng)調(diào),新的 FortiX 架構(gòu)不同于現(xiàn)有的標(biāo)準(zhǔn)閃存產(chǎn)品。為了充分發(fā)揮FortiX的全部?jī)?yōu)勢(shì),旺宏在產(chǎn)品開發(fā)的早期階段就與客戶緊密合作,針對(duì)不同的應(yīng)用部署類似于特定應(yīng)用的標(biāo)準(zhǔn)產(chǎn)品,然后旨在將產(chǎn)品設(shè)計(jì)成通用的產(chǎn)品參考行業(yè)標(biāo)準(zhǔn),包括內(nèi)存接口。旺宏之所以能夠?yàn)榭蛻籼峁﹥?yōu)秀的技術(shù)支持,是因?yàn)橥瓴粌H擁有自己的晶圓廠生產(chǎn)線來確保內(nèi)存產(chǎn)品的質(zhì)量和可靠性,而且擁有強(qiáng)大的軟件和硬件工程師團(tuán)隊(duì)支持設(shè)計(jì)階段。雖然FortiX系列產(chǎn)品目前還沒有官宣,但Donald透露,旺宏一直在積極推動(dòng)與目標(biāo)應(yīng)用客戶的設(shè)計(jì)合作,很可能在未來兩三年內(nèi)推出終端產(chǎn)品,他也看好這一創(chuàng)新技術(shù)在人工智能時(shí)代的發(fā)展前景。旺宏歡迎對(duì)FortiX感興趣的廠商共同合作,共同探索和開發(fā)“以內(nèi)存為中心”解決方案的更多潛在應(yīng)用。



更多信息可以來這里獲取==>>電子技術(shù)應(yīng)用-AET<<

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請(qǐng)及時(shí)通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。