7月11-12日,“第五屆中國集成電路設(shè)計創(chuàng)新大會暨IC應(yīng)用生態(tài)展”(ICDIA創(chuàng)芯展)
在蘇州盛大開幕。
作為中國領(lǐng)先的集成電路設(shè)計企業(yè),深圳市中興微電子技術(shù)有限公司(以下簡稱“中興微電子”)深度參與此次盛會。公司副總經(jīng)理石義軍與電子芯片設(shè)計專家王飛鳴在大會期間發(fā)表主題演講,深入闡述RISC-V開放架構(gòu)如何賦能大語言模型(LLM)高效推理,推動AI算力普惠化進(jìn)程。
中興微電子副總經(jīng)理石義軍
隨著大語言模型從實(shí)驗(yàn)室走向千行百業(yè),推理部署的“最后一公里”成為技術(shù)落地的關(guān)鍵戰(zhàn)場。當(dāng)前,大模型推理對算力的需求呈指數(shù)級增長,傳統(tǒng)GPU方案在高成本和專用性上的局限,制約了其在規(guī)?;占?,尤其是在中小場景和行業(yè)應(yīng)用中的廣泛落地。
中興微電子認(rèn)為,通用CPU憑借其高性價比、強(qiáng)兼容性與低延遲特性,正成為大模型推理服務(wù)器實(shí)現(xiàn)“普惠”的重要選項(xiàng)。而在這場算力革新中,RISC-V架構(gòu)憑借其開放、靈活、可擴(kuò)展的基因,展現(xiàn)出破解LLM高效推理核心命題的獨(dú)特潛力。
當(dāng)然,RISC-V 的架構(gòu)挑戰(zhàn)同樣顯著——從指令集擴(kuò)展的標(biāo)準(zhǔn)化到工具鏈的成熟度,從生態(tài)適配的協(xié)同性到性能邊界的突破,每一步都需要技術(shù)創(chuàng)新與實(shí)踐驗(yàn)證。
RISC-V服務(wù)器架構(gòu)的優(yōu)化,從來不是單點(diǎn)突破的"獨(dú)角戲",而是需要全產(chǎn)業(yè)共建的"協(xié)奏曲"。中興微電子呼吁芯片廠商、框架開發(fā)者、行業(yè)用戶與科研機(jī)構(gòu)攜手:共同定義RISC-V在大模型推理中的技術(shù)標(biāo)準(zhǔn),完善從硬件到軟件的全鏈路工具鏈,推動典型場景的標(biāo)桿案例落地。唯有如此,才能讓RISC-V真正成為大模型推理的"算力引擎",加速AI普惠時代的全面到來。
通過本次分享,中興微電子與全球產(chǎn)業(yè)伙伴深入交流,共同探索RISC-V架構(gòu)釋放大模型推理普惠潛力的技術(shù)路徑與商業(yè)模式,加速構(gòu)建開放、高效、經(jīng)濟(jì)的下一代AI算力基礎(chǔ)設(shè)施。