由 Arm 驅動的 NVIDIA Project DIGITS 為數百萬開發者帶來高性能 AI 算力
當前,一個令人振奮的趨勢是,人工智能?(AI)?應用和功能正在各種邊緣側設備上快速擴展和普及。隨著?AI?的不斷發展和進步,對于?AI?研究員、數據科學家、開發者和學生而言,獲取高性能算力以開發或運行新的模型(如語言模型、視覺模型或多模態模型)變得至關重要。鑒于?AI?創新的步伐空前加快,行業需要確保開發者在云端及邊緣側均能獲得高性能算力,從而直接獲得更多的新功能。
為 開發者 實現唾手可得的 突破性 AI?性能
在今年的國際消費類電子產品展覽會?(CES)?上,NVIDIA創始人兼首席執行官黃仁勛在主題演講中發布了個人?AI?超級計算機?NVIDIA Project DIGITS,朝著?“隨處可開發和部署?AI” 的愿景又邁近了重要一步。基于?Linux?系統的?Project DIGITS?搭載了?Arm CPU?核心,使每位?AI?開發者都能擁有一套高性能的?AI?桌面系統。
圖:由?Arm?驅動的?NVIDIA Project DIGITS?為數百萬開發者帶來高性能?AI?算力
Project DIGITS?采用了全新?NVIDIA GB10 Grace Blackwell?超級芯片,搭載?NVIDIA Grace CPU?、?NVIDIA Blackwell GPU、新一代?CUDA?core和第五代?TensorCores,通過?NVIDIA NVLink?-C2C?片間互連技術實現連接,并配有?128GB?的統一的高一致性內存。NVIDIA Grace CPU?搭載了先進的高性能?Arm Cortex-X?和?Cortex-A?技術,配置?10?個?Cortex-X925?和?10?個?Cortex-A725?CPU?核心。NVIDIA GB10?超級芯片能以?FP4?計算精度提供高達?1 PFLOPS?(1,000 TFLOPs)?的?AI?性能,使開發者能對?AI?大模型進行原型設計、微調和推理,同時還能與云端或數據中心環境無縫對接,實現協同工作。
Arm?計算平臺的價值
借助無處不在的?Arm?計算平臺,新的?AI?模型和應用能更高效、更快速地在邊緣側運行。在消費級技術市場,不論是用于?Project?DIGITS的最新?Arm CPU,或是集成在Arm?終端計算子系統?(CSS)?的一部分,Arm?CPU?技術已成為市場中高性能邊緣側設備的核心驅動力。這些CPU技術經過精心優化,可在各種實際用例和工作負載中實現最大性能和最高效率。
Arm?計算平臺還兼具靈活性,可針對不同的?AI?應用場景使用不同的計算引擎。在?NVIDIA?Project?DIGITS?中,基于?Arm?架構的?NVIDIA Grace CPU?和?NVIDIA Blackwell GPU?互相協作,使開發者能夠將這些組件用于各種工作負載。這種異構計算策略對于最大化?AI?性能,同時管理內存利用率和功耗至關重要。
NVIDIA SoC?產品副總裁?Ashish Karandikar?表示:“我們與?Arm?在?GB10?超級芯片的合作上,巧妙地結合了?NVIDIA?的?AI?專業知識與?Arm?可擴展的計算平臺,實現了出眾的性能和能效,將推動下一代?AI?創新。隨著?Project DIGITS的推出,每位?AI?開發者和研究員都將能擁有一臺功能強大的超級計算機。”
釋放軟件創新 的 潛能
對于開發者而言,擁有一個完全集成的軟硬件?AI?平臺至關重要。ProjectDIGITS使用開源?Linux?操作系統,用戶可以訪問資源豐富的?NVIDIA AI?軟件庫,包括?NVIDIA NGC?目錄和NVIDIA?開發者門戶網站中提供的軟件開發套件、編排工具、框架和?AI?模型,以加快生成式?AI?的工作流程。
Arm?和?NVIDIA Grace Hopper?和?Grace Blackwell?在數據中心的合作,為數據中心和邊緣側設備環境提供一致的平臺架構,使開發者能夠無縫地使用同一套工具進行?AI?應用開發。此外,Arm?不斷積極推動開源開發者社區的重要工作,旨在開發出適配的軟件,加速AI?的全面部署。目前,全球已有超過2,000?萬軟件開發者在?Arm?計算平臺上構建自己的應用程序,共同推動著一個快速創新、日益壯大的開源社區。
賦予高性能?AI?算力的理想平臺
Arm?作為當前和未來?AI?領域應用最廣泛的計算平臺,自然而然地成為了?Project DIGITS?中?GB10?超級芯片的理想平臺。Project?DIGITS是一個功能強大的個人計算機桌面平臺,能夠運行高達?200B?參數的?AI?大模型,讓原本的不可能變為可能。這種對?AI?生態系統的廣泛影響力,為全球數百萬開發者帶來了靈活、高性能且高能效的?AI?功能。通過與?NVIDIA?及?Arm?強大的軟件生態系統緊密的合作,我們翹首以待下一代極具創新的?AI?應用的問世。