ChatGPT一經(jīng)發(fā)布便引起國內(nèi)外強烈反響，成為史上用戶數(shù)增長最快的消費者應用，也讓人工智能再次回到大眾關注的焦點。然而，高昂的部署成本已然是人工智能進入市場的主要障礙：從小模型到大模型，過去10年內(nèi)AI算法對算力的需求提升了40萬倍；大模型開發(fā)和訓練一次的成本便需1200萬美元。各大公司為籌建數(shù)據(jù)中心斥巨資搶購GPU的新聞不時見諸報端，越來越多的人希望尋找一種新方案，扭轉這種高投入低效率的現(xiàn)狀。
存算一體作為新一代計算技術，在數(shù)據(jù)運算和存儲過程中實現(xiàn)了一體化設計，旨在突破“存儲墻”實現(xiàn)超低功耗和更強的并行計算能力，被認為是后摩爾時代最重要的發(fā)展方向之一。目前，存算一體技術在國內(nèi)外企業(yè)的不懈努力下已經(jīng)實現(xiàn)初步的商業(yè)化應用?；蛟S數(shù)年之后，存算一體芯片就將進入千行百業(yè)，為人工智能的大規(guī)模應用提供不竭的算力支撐。
AI潮開啟，算力面臨瓶頸
自1956年美國達特茅斯學院首次提出人工智能的概念以來，AI技術不斷獲得突破和快速發(fā)展，對算力的需求也在不斷增加。2006年以前，AI算法尚未出現(xiàn)突破性進展，AI的訓練數(shù)據(jù)多以小數(shù)據(jù)為主，這一階段AI對算力的需求主要由CPU提供。2006年之后，隨著AI算法在深度學習上獲得突破，特別是谷歌旗下DeepMind團隊開發(fā)的AI系統(tǒng)AlphaGo戰(zhàn)勝韓國棋手李世石，引發(fā)全球AI熱潮，AI領域對于算力的需求就在不斷增加。研究人員發(fā)現(xiàn)，相比于CPU，GPU具備并行計算特性，在深度學習等人工智能先進算法所需的“暴力計算”場景中更為高效，使得研究機構和AI公司開始廣泛采用GPU進行人工智能領域的研究和應用。
2022年11月，OpenAI公司推出AI大模型ChatGPT，再次引發(fā)全球AI大模型發(fā)展浪潮。這一趨勢進一步加大了AI領域對算力的需求。目前，英偉達集成H100的計算卡已經(jīng)達到一卡難求地步，人們預測GPT-4可能在10000到25000張A100上進行訓練，Meta、特斯拉、Stability AI等都投入到對高性能GPU的搶購之中。這一形勢推動了AI芯片的投資和發(fā)展。
不過，當前主流AI芯片在為大模型提供算力支持時的表現(xiàn)并不完美，尚存很多不足之處。記者采訪北京大學集成電路學院院長蔡一茂時，他便指出，AIGC等人工智能新興技術的發(fā)展離不開算力，算力的基礎是人工智能芯片。當前人工智能技術的快速更新迭代對硬件部署提出了多個挑戰(zhàn)。
首先是算力規(guī)模與算力密度上的需求。大模型的出現(xiàn)促使AI對大規(guī)模芯片算力的需求更加強烈，按照傳統(tǒng)技術路線簡單堆砌芯片無法實現(xiàn)期待的算力規(guī)模增長，需要從提高算力密度和算力集成度等多個角度同時解決問題。其次是芯片能效問題變得更加突出。芯片高功耗導致的散熱等問題，不僅是芯片算力提升的主要障礙，也導致了大模型訓練與推理的成本巨大。當前AI芯片能效依然低下，大模型每次訓練和推斷的電費成本昂貴，導致當前大模型的應用經(jīng)濟性較低。
第三是AI芯片在執(zhí)行計算密集型任務時面臨的“內(nèi)存墻”問題。這導致計算芯片的功耗和性能都受限于處理器和存儲器之間的數(shù)據(jù)搬運，嚴重限制了AI芯片在計算規(guī)模、密度、效率等方面的提升。此外，AI芯片的通用性和可編程性趨勢也值得關注。目前大模型技術算法有趨同的發(fā)展趨勢，以Transformer為代表的網(wǎng)絡模型正在成為主流。定制化的AI芯片將難以滿足AI產(chǎn)業(yè)的發(fā)展，芯片的通用性和可編程性十分重要。
性能優(yōu)勢明顯，存算一體將成解決方案
其實，GPU并非AI大模型部署的唯一算力擔當。廣義而言，AI芯片指的是專門用于處理人工智能應用中大量計算任務的模塊，也就是說面向人工智能領域的芯片均被稱為AI芯片。從技術架構來看，目前用于AI處理的主流芯片主要包括GPU、FPGA、ASIC，以及存算一體芯片等。其中，GPU目前被運用的最為廣泛，如圖像渲染、特效制作等，在數(shù)據(jù)中心、超級計算機等大型計算設施中均在采用。FPGA是一種靈活可編程的硬件平臺，具備較高的計算性能和可定制性等優(yōu)點，在AI推理應用中表現(xiàn)較為出色。但這兩種芯片也存在上面所述的問題。ASIC是針對用戶對特定電子系統(tǒng)的需求而設計的專用集成電路，是固定算法最優(yōu)化設計的產(chǎn)物。在大模型技術算法趨同的情況下，定制化AI芯片整體市場規(guī)模有可能受到限制。
存算一體芯片被認為是下一代芯片，雖然目前還受限于成熟度，應用范圍不夠廣泛，但未來卻有著極大的發(fā)展空間。對此，蔡一茂便指出，新興的存算一體和近存計算技術直接在存儲器內(nèi)部或附近進行計算，通過將計算和存儲功能融合在一起提高數(shù)據(jù)處理和計算的效率和成本。在大模型時代，存算一體技術有望大幅度提升AI芯片的計算密度和能效，緩解AI 芯片性能與功耗之間的矛盾，提升大模型部署的經(jīng)濟性。特別是針對大模型的推理，存算一體保持權重的特點與大模型中大規(guī)模的參數(shù)部署需求相匹配，可能是存算一體技術最先服務大模型應用的場景之一。
知存科技創(chuàng)始人、CEO王紹迪在接受記者采訪時也表示，傳統(tǒng)芯片是先把數(shù)據(jù)從存儲系統(tǒng)中讀取出來，放到乘、加法器當中做計算，然后再把計算結果傳回到存儲系統(tǒng)當中。這種大規(guī)模的數(shù)據(jù)遷移導致了帶寬瓶頸和功耗浪費。存算一體則從計算架框的根本上避免了這種情況發(fā)生，同時帶來一系列性能優(yōu)勢。
首先是運算的性能更高。存算一體芯片的計算能力取決于存儲器的容量規(guī)模。所有電子設備當中都會集成存儲器，存儲與計算相伴而行，有運算的地方就需要對數(shù)據(jù)進行存儲，比如可穿戴手環(huán)中可能會集成2M的SD卡，筆記本電腦中會安裝1TB的NAND Flash，數(shù)據(jù)中心的閃存芯片可能會達到256TB。如果采用存算一體芯片，隨著存儲容量規(guī)模的提高，其運算能力也會隨之提高。
其次是功耗更低。同樣，由于數(shù)據(jù)傳輸路徑的優(yōu)化，存算一體技術在提高傳輸效率的同時，節(jié)省了數(shù)據(jù)傳輸?shù)膿p耗，帶來更好的能效比、低功耗，在相同算力下，AI部分能效比將有2-3個數(shù)量級的提升，更低散熱成本，更高可靠性。
第三是成本更低。單位算力成本遠低于傳統(tǒng)計算芯片。同時，存算一體可以采用更成熟的制造工藝，大算力芯片往往需要采用先進工藝，這使存算一體芯片的晶圓成本低得多。再考慮到配套的外圍芯片、元器件等因素，整個系統(tǒng)成本將有5倍左右降低。正是因為這些基于基礎架構革新所帶來的性能提升，存算一體技術有望在很大程度上解決AI大模型面臨的算力挑戰(zhàn)。隨著存算一體芯片逐漸進入市場，其將為人工智能的大規(guī)模應用奠定基礎。
從終端到云端，未來發(fā)展讓人期待
現(xiàn)在的AIGC不僅是云端，在終端側也有很多企業(yè)推動其應用發(fā)展。云端方面，越來越多大模型產(chǎn)品問世，僅我國10億級參數(shù)規(guī)模以上大模型已超80個，其中不乏科技巨頭發(fā)布的產(chǎn)品，如百度的“文心一言”、阿里云的“通義千問”、華為的“盤古大模型”等；終端方面，邊緣計算實現(xiàn)了計算資源和服務的下沉，能夠有效降低交互延遲、緩解數(shù)據(jù)傳輸帶寬壓力，目前高通推出混合式AI的概念、蘋果也在開發(fā)“AppleGPT”AI模型，未來將呈現(xiàn)AIGC技術從云端向邊緣延伸的趨勢。
在這樣的大背景下，存算一體也將沿著云端與終端雙向并行的路徑持續(xù)發(fā)展。王紹迪強調(diào)，存算一體芯片的適用領域其實十分寬廣。如果按終端和云端兩個領域劃分的話，從終端側的可穿戴設備、智能手機、無人機、安防，到規(guī)模更大的邊緣服務器、自動駕駛，再到云端的AIGC大模型應用，存算一體芯片都可以去做。
2022年，知存科技率先量產(chǎn)全球首顆存算一體SoC芯片WTM2101。一年左右時間，WTM2101已在TWS耳機、助聽器、AR眼鏡、智能家居控制等終端設備中實現(xiàn)商用，提供語音、輕量級視頻等AI處理。
在終端應用中，AI計算需要高算力下的低功耗。WTM-2系列就定位于小功率的電池供電場景，但可以提供一定強度的AI算力。在極低功耗下，傳統(tǒng)芯片技術很難滿足深度學習模型的運算需求，存算一體卻在一定程度上可以提供上算力支持。
今年知存科技將推出具有更高算力的WTM-8系列芯片。該系列芯片將主要面向移動智能終端如手機、XR、無人機等，覆蓋2D（1080P-8K）與3D視頻處理場景。與WTM2101相比，WTM-8系列芯片采用了第二代3D存內(nèi)計算架構，能夠提供算力至少24Tops，計算精度達12-bit，目前已經(jīng)完成投片，預計今年下半年或明年年初就可以推向市場。
云端市場也是存算一體的發(fā)展方向。王紹迪透露，知存科技除上述兩個系列的產(chǎn)品之外，還在規(guī)劃具備更高的性能的芯片系列，可用于AI服務器，應對大模型市場的發(fā)展需求。一旦該系列芯片發(fā)布，知存科技的產(chǎn)品線布局將變得更加厚實且合理，從低性能到高性能，從終端側到云端計算，都有著相應的產(chǎn)品覆蓋。
目前，全球范圍內(nèi)無論學術界還是工業(yè)界均對存算一體投入大量資源進行開發(fā)。不過蔡一茂也指出，在大模型到來之前，存算一體研究多數(shù)以零散的技術攻關為主，缺乏面向大算力方向的整體布局，也缺乏主導的應用需求牽引，因此距離大規(guī)模進入市場還有一定距離。但大模型是值得期待的存算一體應用場景，其對算力能效和密度的強烈需求正是存算一體的優(yōu)勢所在。面向大模型部署，從業(yè)者需要對存算一體進行體系化布局，從算法、框架、編譯器、工具鏈、指令集、架構、電路等跨層次協(xié)同設計，形成全棧式體系、工具鏈及生態(tài)鏈。大模型的到來必將極大推動存算一體的技術落地，其未來應用潛力和部署規(guī)模都讓人期待。
更多精彩內(nèi)容歡迎點擊==>>電子技術應用-AET<<
