Arm?控股有限公司今日發布?Arm?v9?邊緣人工智能?(AI)?計算平臺，該平臺以全新的?Arm Cortex?-A320 CPU?和領先的邊緣?AI?加速器?Arm Ethos?-U85 NPU?為核心，可支持運行超?10?億參數的端側?AI?模型。

Arm?高級副總裁兼物聯網事業部總經理?Paul Williamson?表示：“AI?的革新已不再局限于云端。隨著世界的互聯和智能化水平的日益提升，從智慧城市到工業自動化，在邊緣側處理?AI?工作負載不僅帶來顯著的優勢，其必要性更是不可或缺。專為物聯網打造的?Armv9?邊緣?AI?計算平臺的推出，標志著這一發展趨勢邁入了重要的里程碑。”

Armv9?邊緣?AI? 計算 平臺——在邊緣 集成 效率、安全和智能

OEM?廠商正面臨著前所未有的壓力，迫切需要快速推出解決方案，以應對物聯網應用不斷攀升的計算需求，這些需求包括自動駕駛車輛在工廠環境中的精準導航、智能攝像頭通過軟件升級靈活調整功能，以及構建能夠提供更自然AI?交互體驗的人機界面。

為了快速創新和擴展，OEM?廠商需要在合適的位置靈活執行?AI?工作負載，以實現更強大的安全性和更高的軟件靈活性，Armv9?技術正是能在大規模應用中滿足這些需求的理想之選。Arm?此次發布的計算平臺集成了全新的超高能效?Armv9 CPU——Cortex-A320?和支持?Transformer?算子網絡的?Ethos-U85 NPU，打造出全球首個專為物聯網優化的?Armv9?邊緣?AI?計算平臺。相較于去年推出的基于?Cortex-M85?的平臺，新的邊緣?AI?計算平臺的機器學習?(ML)?性能提高了八倍。

Arm?技術的廣泛應用，使得合作伙伴現在能夠在從云端到邊緣側的各種計算場景中部署強大的?Armv9?技術。從授權該技術以構建?SoC?芯片的合作伙伴，到構建下一代設備的?ODM?和?OEM?廠商，該平臺受到了包括亞馬遜云 科技 (AWS)、西門子、瑞薩電子、研華科技和?Eurotech?在內的多家業界領先合作伙伴的支持。

全新 ?Cortex-A320?為下一代智能物聯網設備奠定安全基礎

新型邊緣?AI?計算平臺的推出標志著邊緣計算發展的重要里程碑。Cortex-A320?為物聯網帶來了先進的?AI?功能和開發者優勢，將?Armv9?架構的功能擴展到高能效設備，并提供全面的軟件支持。

Cortex-A320?充分發揮了?Armv9?架構的優勢，如針對?ML?性能的?SVE2。相較于前代產品?Cortex-A35，Cortex-A320?的?ML?性能提升了十倍，標量性能提升了?30%。

該平臺所采用的?Armv9.2?架構還為最小的?Cortex-A?設備帶來了高級的安全功能，例如指針驗證?(PAC)、分支目標識別?(BTI)?和內存標記擴展?(MTE)。這些功能至關重要，因為邊緣設備通常在暴露的環境中運行并處理敏感數據。

隨著邊緣?AI?在?Arm?平臺上持續集成，這一全新產品的加入使?Arm?現已能為物聯網提供最為先進的?Armv9 Cortex?處理器系列，覆蓋從極致性能到成本和能效受限的設備。

將?Arm Kleidi?擴展到物聯網

邊緣?AI?普及面臨的最主要障礙之一是軟件開發和部署的復雜性，這正是?Armv9?邊緣?AI?計算平臺軟件生態系統發揮優勢的關鍵所在。Arm?將?Arm Kleidi?擴展到物聯網，這是一套面向?AI?框架開發者的計算庫，旨在優化基于?Arm CPU?的?AI?和?ML?工作負載，無需開發者額外操作。KleidiAI?已集成到常見的物聯網?AI?框架中，如?Llama.cpp?和?ExecuTorch?或?LiteRT（通過?XNNPACK），加速了?Meta Llama 3?和?Phi-3?等關鍵模型的性能。例如，在?Llama.cpp?上運行微軟的?Tiny Stories?數據集時，KleidiAI?為新的?Cortex-A320?帶來了高達?70%?的性能提升。

這些提升至關重要，因為在當今快節奏的技術環境中，產品的上市速度往往決定其成敗。新的邊緣?AI?計算平臺確保了與更高性能?Cortex-A?處理器在軟件層面的無縫兼容。這種可擴展性使開發者能夠打造可隨需求變化而靈活調整的解決方案。借助龐大的?Armv9?生態系統，以及與?Linux?等功能豐富的操作系統和?Zephyr?等實時操作系統的兼容性，開發者擁有了前所未有的靈活性。他們可以充分利用現有的工具和知識，以及軟件復用的優勢，從而加快產品上市時間，并降低總體擁有成本。全球范圍內有?2,000?多萬活躍的?Arm?開發者，這為未來的技術創新提供了巨大潛力。

展望未來

展望未來，顯然?AI?的未來趨勢將轉向邊緣，而全新?Arm?邊緣?AI?計算平臺將成為新一輪物聯網創新的催化劑。Armv9?架構的特性、先進的?AI?功能和全面軟件支持的結合，為?OEM?廠商和開發者創造了新的可能性。

該平臺能夠支持基于智能體的?AI?應用上運行經過調優的大語言模型?(LLM)?和小語言模型?(SLM)，從而開辟全新類別的邊緣應用場景。在未來的場景中，智能決策將更接近數據采集源頭，這不僅能顯著減少延遲，還能有效提升隱私保護水平。

這不僅僅是一次漸進式的進步，它代表著行業對邊緣計算和?AI?處理方式的根本性變革。這是行業首次迎來專為物聯網應用優化的?Armv9 CPU，將超高能效與先進?AI?能力結合，實現了前所未有的突破。

邊緣AI?的發展速度之快，遠遠超出了人們的預期。隨著需求的不斷增長，端點設備需要更高性能、能效、安全性和靈活性，可以說，當前的設備已經或即將“掉隊”。從長遠來看，AI?設備的升級成為一個必選項。在這方面，Arm?早已準備好了理想的技術方案，?Armv9?邊緣?AI?計算平臺的發布給?IoT?產業帶來了不小的驚喜，后續將會給行業帶來如何的創新和改變，讓我們拭目以待。