《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 人工智能 > 業(yè)界動(dòng)態(tài) > Arm 推出全球首個(gè) Armv9 邊緣 AI 計(jì)算平臺(tái),推動(dòng)物聯(lián)網(wǎng)實(shí)現(xiàn)新一代性能

Arm 推出全球首個(gè) Armv9 邊緣 AI 計(jì)算平臺(tái),推動(dòng)物聯(lián)網(wǎng)實(shí)現(xiàn)新一代性能

2025-03-03
來(lái)源:Arm
關(guān)鍵詞: ARM AI 物聯(lián)網(wǎng)

  新聞重點(diǎn):

  ·全球首個(gè) Armv9 邊緣 AI 計(jì)算平臺(tái)以 Cortex-A320 CPU 和 Ethos-U85 NPU 為核心,專為物聯(lián)網(wǎng)應(yīng)用優(yōu)化,支持運(yùn)行超 10 億參數(shù)的端側(cè) AI 模型,已獲得包括亞馬遜云科技 (AWS)、西門子和瑞薩電子等在內(nèi)的多家行業(yè)領(lǐng)先企業(yè)的支持。

  ·超高能效的 Arm Cortex-A320 通過(guò) Armv9 架構(gòu)提高物聯(lián)網(wǎng)應(yīng)用的效率、性能和安全性,推動(dòng)工業(yè)自動(dòng)化、智能攝像頭等領(lǐng)域的進(jìn)步。

  ·將 Arm Kleidi 延伸應(yīng)用到物聯(lián)網(wǎng)領(lǐng)域,可實(shí)現(xiàn)高達(dá) 70% 的性能提升,助力 2,000 多萬(wàn)開(kāi)發(fā)者無(wú)縫集成領(lǐng)先 AI 框架,簡(jiǎn)化邊緣 AI 開(kāi)發(fā)流程。

  Arm 控股有限公司(納斯達(dá)克股票代碼:ARM,以下簡(jiǎn)稱“Arm”)今日發(fā)布 Arm?v9 邊緣人工智能 (AI) 計(jì)算平臺(tái),該平臺(tái)以全新的 Arm Cortex?-A320 CPU 和領(lǐng)先的邊緣 AI 加速器 Arm Ethos?-U85 NPU 為核心,可支持運(yùn)行超 10 億參數(shù)的端側(cè) AI 模型。

08.JPG

  Arm 高級(jí)副總裁兼物聯(lián)網(wǎng)事業(yè)部總經(jīng)理 Paul Williamson 表示:“AI 的革新已不再局限于云端。隨著世界的互聯(lián)和智能化水平的日益提升,從智慧城市到工業(yè)自動(dòng)化,在邊緣側(cè)處理 AI 工作負(fù)載不僅帶來(lái)顯著的優(yōu)勢(shì),其必要性更是不可或缺。專為物聯(lián)網(wǎng)打造的 Armv9 邊緣 AI 計(jì)算平臺(tái)的推出,標(biāo)志著這一發(fā)展趨勢(shì)邁入了重要的里程碑。”

  Armv9 邊緣 AI 計(jì)算平臺(tái)——在邊緣集成效率、安全和智能

  OEM 廠商正面臨著前所未有的壓力,迫切需要快速推出解決方案,以應(yīng)對(duì)物聯(lián)網(wǎng)應(yīng)用不斷攀升的計(jì)算需求,這些需求包括自動(dòng)駕駛車輛在工廠環(huán)境中的精準(zhǔn)導(dǎo)航、智能攝像頭通過(guò)軟件升級(jí)靈活調(diào)整功能,以及構(gòu)建能夠提供更自然 AI 交互體驗(yàn)的人機(jī)界面。

  為了快速創(chuàng)新和擴(kuò)展,OEM 廠商需要在合適的位置靈活執(zhí)行 AI 工作負(fù)載,以實(shí)現(xiàn)更強(qiáng)大的安全性和更高的軟件靈活性,Armv9 技術(shù)正是能在大規(guī)模應(yīng)用中滿足這些需求的理想之選。Arm 此次發(fā)布的計(jì)算平臺(tái)集成了全新的超高能效 Armv9 CPU——Cortex-A320 和支持 Transformer 算子網(wǎng)絡(luò)的 Ethos-U85 NPU,打造出全球首個(gè)專為物聯(lián)網(wǎng)優(yōu)化的 Armv9 邊緣 AI 計(jì)算平臺(tái)。相較于去年推出的基于 Cortex-M85 的平臺(tái),新的邊緣 AI 計(jì)算平臺(tái)的機(jī)器學(xué)習(xí) (ML) 性能提高了八倍。

  Arm 技術(shù)的廣泛應(yīng)用,使得合作伙伴現(xiàn)在能夠在從云端到邊緣側(cè)的各種計(jì)算場(chǎng)景中部署強(qiáng)大的 Armv9 技術(shù)。從授權(quán)該技術(shù)以構(gòu)建 SoC 芯片的合作伙伴,到構(gòu)建下一代設(shè)備的 ODM 和 OEM 廠商,該平臺(tái)受到了包括亞馬遜云科技 (AWS)、西門子、瑞薩電子、研華科技和 Eurotech 在內(nèi)的多家業(yè)界領(lǐng)先合作伙伴的支持。

  全新 Cortex-A320 為下一代智能物聯(lián)網(wǎng)設(shè)備奠定安全基礎(chǔ)

  新型邊緣 AI 計(jì)算平臺(tái)的推出標(biāo)志著邊緣計(jì)算發(fā)展的重要里程碑。Cortex-A320 為物聯(lián)網(wǎng)帶來(lái)了先進(jìn)的 AI 功能和開(kāi)發(fā)者優(yōu)勢(shì),將 Armv9 架構(gòu)的功能擴(kuò)展到高能效設(shè)備,并提供全面的軟件支持。

  Cortex-A320 充分發(fā)揮了 Armv9 架構(gòu)的優(yōu)勢(shì),如針對(duì) ML 性能的 SVE2。相較于前代產(chǎn)品 Cortex-A35,Cortex-A320 的 ML 性能提升了十倍,標(biāo)量性能提升了 30%。

  該平臺(tái)所采用的 Armv9.2 架構(gòu)還為最小的 Cortex-A 設(shè)備帶來(lái)了高級(jí)的安全功能,例如指針驗(yàn)證 (PAC)、分支目標(biāo)識(shí)別 (BTI) 和內(nèi)存標(biāo)記擴(kuò)展 (MTE)。這些功能至關(guān)重要,因?yàn)檫吘壴O(shè)備通常在暴露的環(huán)境中運(yùn)行并處理敏感數(shù)據(jù)。

  隨著邊緣 AI 在 Arm 平臺(tái)上持續(xù)集成,這一全新產(chǎn)品的加入使 Arm 現(xiàn)已能為物聯(lián)網(wǎng)提供最為先進(jìn)的 Armv9 Cortex 處理器系列,覆蓋從極致性能到成本和能效受限的設(shè)備。

  將 Arm Kleidi 擴(kuò)展到物聯(lián)網(wǎng)

  邊緣 AI 普及面臨的最主要障礙之一是軟件開(kāi)發(fā)和部署的復(fù)雜性,這正是 Armv9 邊緣 AI 計(jì)算平臺(tái)軟件生態(tài)系統(tǒng)發(fā)揮優(yōu)勢(shì)的關(guān)鍵所在。Arm 將 Arm Kleidi 擴(kuò)展到物聯(lián)網(wǎng),這是一套面向 AI 框架開(kāi)發(fā)者的計(jì)算庫(kù),旨在優(yōu)化基于 Arm CPU 的 AI 和 ML 工作負(fù)載,無(wú)需開(kāi)發(fā)者額外操作。KleidiAI 已集成到常見(jiàn)的物聯(lián)網(wǎng) AI 框架中,如 Llama.cpp 和 ExecuTorch 或 LiteRT(通過(guò) XNNPACK),加速了 Meta Llama 3 和 Phi-3 等關(guān)鍵模型的性能。例如,在 Llama.cpp 上運(yùn)行微軟的 Tiny Stories 數(shù)據(jù)集時(shí),KleidiAI 為新的 Cortex-A320 帶來(lái)了高達(dá) 70% 的性能提升。

  這些提升至關(guān)重要,因?yàn)樵诋?dāng)今快節(jié)奏的技術(shù)環(huán)境中,產(chǎn)品的上市速度往往決定其成敗。新的邊緣 AI 計(jì)算平臺(tái)確保了與更高性能 Cortex-A 處理器在軟件層面的無(wú)縫兼容。這種可擴(kuò)展性使開(kāi)發(fā)者能夠打造可隨需求變化而靈活調(diào)整的解決方案。借助龐大的 Armv9 生態(tài)系統(tǒng),以及與 Linux 等功能豐富的操作系統(tǒng)和 Zephyr 等實(shí)時(shí)操作系統(tǒng)的兼容性,開(kāi)發(fā)者擁有了前所未有的靈活性。他們可以充分利用現(xiàn)有的工具和知識(shí),以及軟件復(fù)用的優(yōu)勢(shì),從而加快產(chǎn)品上市時(shí)間,并降低總體擁有成本。全球范圍內(nèi)有 2,000 多萬(wàn)活躍的 Arm 開(kāi)發(fā)者,這為未來(lái)的技術(shù)創(chuàng)新提供了巨大潛力。

  展望未來(lái)

  展望未來(lái),顯然 AI 的未來(lái)趨勢(shì)將轉(zhuǎn)向邊緣,而全新 Arm 邊緣 AI 計(jì)算平臺(tái)將成為新一輪物聯(lián)網(wǎng)創(chuàng)新的催化劑。Armv9 架構(gòu)的特性、先進(jìn)的 AI 功能和全面軟件支持的結(jié)合,為 OEM 廠商和開(kāi)發(fā)者創(chuàng)造了新的可能性。

  該平臺(tái)能夠支持基于智能體的 AI 應(yīng)用上運(yùn)行經(jīng)過(guò)調(diào)優(yōu)的大語(yǔ)言模型 (LLM) 和小語(yǔ)言模型 (SLM),從而開(kāi)辟全新類別的邊緣應(yīng)用場(chǎng)景。在未來(lái)的場(chǎng)景中,智能決策將更接近數(shù)據(jù)采集源頭,這不僅能顯著減少延遲,還能有效提升隱私保護(hù)水平。

  這不僅僅是一次漸進(jìn)式的進(jìn)步,它代表著行業(yè)對(duì)邊緣計(jì)算和 AI 處理方式的根本性變革。這是行業(yè)首次迎來(lái)專為物聯(lián)網(wǎng)應(yīng)用優(yōu)化的 Armv9 CPU,將超高能效與先進(jìn) AI 能力結(jié)合,實(shí)現(xiàn)了前所未有的突破。


  合作伙伴證言:

  “邊緣 AI 的發(fā)展步伐日益加速,Arm 物聯(lián)網(wǎng)計(jì)算架構(gòu)方面的進(jìn)步將為邊緣智能帶來(lái)新的可能性。作為邊緣計(jì)算和邊緣 AI 領(lǐng)域的領(lǐng)先企業(yè),研華科技認(rèn)為這一創(chuàng)新代表著 Arm 生態(tài)系統(tǒng)向前邁出了重要一步,它將助力各行各業(yè)打造出更智能、更高效、更安全的 AI應(yīng)用。這一創(chuàng)新將激發(fā)邊緣計(jì)算市場(chǎng)的行業(yè)繁榮和技術(shù)突破?!?/p>

  研華科技嵌入式物聯(lián)網(wǎng)部門總裁 張家豪

  “全新的 Arm 邊緣 AI 計(jì)算平臺(tái)為我們的客戶實(shí)現(xiàn)在 Armv9 技術(shù)上運(yùn)行 AWS IoT Greengrass 的輕量級(jí)設(shè)備運(yùn)行時(shí)環(huán)境—— Nucleus Lite,從而讓邊緣設(shè)備以最低的內(nèi)存需求高效運(yùn)行。這兩項(xiàng)技術(shù)的無(wú)縫集成為開(kāi)發(fā)者提供了優(yōu)化的解決方案,支持構(gòu)建現(xiàn)代邊緣 AI 應(yīng)用,例如精準(zhǔn)農(nóng)業(yè)中、智能制造和自動(dòng)駕駛的異常檢測(cè)?!?/p>

  亞馬遜云科技物聯(lián)網(wǎng)技術(shù)負(fù)責(zé)人 Yasser Alsaied

  “隨著物聯(lián)網(wǎng)市場(chǎng)的不斷擴(kuò)展,Eurotech 將繼續(xù)為客戶提供最新邊緣 AI 應(yīng)用所需的性能、安全性和高效的解決方案。Arm 的全新邊緣 AI 計(jì)算平臺(tái)為我們提供了構(gòu)建下一代多樣化物聯(lián)網(wǎng)設(shè)備的基礎(chǔ),Armv9 讓我們能夠?qū)踩阅堋⒛苄Ш蛙浖`活性提升到全新水平?!?/p>

  Eurotech 首席技術(shù)官 Marco Carrer

  “瑞薩電子致力于在真正可擴(kuò)展的計(jì)算平臺(tái)上,通過(guò)多樣化的用例和日益智能化的工作負(fù)載,服務(wù)于廣泛的 AI 物聯(lián)網(wǎng)細(xì)分市場(chǎng)。我們對(duì)最新的 Armv9 Cortex-A320 CPU 感到興奮,它不僅在AI/ML 高性能和安全性方面表現(xiàn)出色,還顯著優(yōu)化了功耗和面積效率。這一突破有助于我們加快創(chuàng)新步伐,進(jìn)一步提升效率和可擴(kuò)展性?!?/p>

  瑞薩電子嵌入式處理部副總裁 Daryl Khoo

  “西門子致力于在邊緣應(yīng)用中釋放 AI 潛能?;?Armv9 架構(gòu)的全新邊緣 AI 計(jì)算平臺(tái)有助于我們將高度安全、高性能和高能效的 AI 創(chuàng)新產(chǎn)品組合擴(kuò)展到所有客戶,涵蓋一系列工業(yè)、智能基礎(chǔ)設(shè)施和移動(dòng)應(yīng)用?!?/p>

  西門子集成電路與電子研究及預(yù)開(kāi)發(fā)部門副總裁 Herbert Taucher




更多精彩內(nèi)容歡迎點(diǎn)擊==>>電子技術(shù)應(yīng)用-AET<<

3952966954c9c6c308355d1d28d750b.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問(wèn)題,請(qǐng)及時(shí)通過(guò)電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。