華為云發布大模型混合云十大創新技術
[中國,東莞,2024年6月22日]今日,在華為開發者大會2024期間,以“大模型混合云,十大創新技術引領政企智能升級”為主題的高峰論壇成功舉辦。會上,華為主機上云軍團CEO、混合云總裁尚海峰發布大模型混合云十大創新技術,通過聚焦根技術突破,幫助政企客戶抓住大模型戰略機遇,加速邁向智能世界。
尚海峰表示:“大模型的創新除了模型本身,更要腳踏實地深入千行萬業,創造業務價值。華為云Stack將持續圍繞AI-Native開展系統性創新,在場景上廣泛探索,在技術上形成突圍,攜手共贏AI的黃金時代。”
華為主機上云軍團CEO、混合云總裁尚海峰
大模型混合云 成為 最優解
大模型技術正在催生新一輪的技術創新和產業變革,行業專屬大模型正在成為大模型應用落地的重要方向。
作為大模型行業應用的主力軍和排頭兵,政企客戶通常業務場景復雜多樣,對數據安全、訓推效率和開發成本都有極致的要求。能夠兼顧安全合規與成本的大模型混合云,正在成為越來越多企業的優先選擇。
2023年,華為云推出業界首個大模型混合云華為云Stack,幫助企業一站式建設自己的專屬大模型。
第一,堅實算力底座:華為云Stack從計算、存儲、網絡、安全和運維5大維度打造堅實的算力底座。在算力層面,通過多樣性算力調度和算子加速能力,實現異構算力融合,算力利用率提升50%以上;結合高性能存儲的多層緩存機制、高吞吐無阻塞AI網絡,讓算力發揮最大價值;四道大模型安全防線,可以智能攔截90%新興攻擊;打破硬件、模型、應用碎片化的運維體系,實現全鏈路可觀測,故障1分鐘發現、10分鐘定界、30分鐘恢復。
第二,使能百模千態:華為云Stack提供ModelArts一站式開發平臺,支持大規模異構集群調度管理、分布式訓練、云邊協同部署及全流程工作流,并提供模型開發套件、全鏈路數據工程套件、應用開發套件3大套件,加速數據、模型、應用的一站式開發。同時,華為云Stack原生集成超過30個業界主流的基礎模型,實現開箱即用。
第三,賦能千行萬業:華為云Stack將與政企客戶聯合創新中的經驗和能力固化下來,形成6大階段30多個專業服務,覆蓋大模型從規劃設計到建設運營的全流程,讓大模型從可用到好用。
10大創新技術 發布!
大模型的應用是一個復雜的系統工程,不僅僅在于單點技術的持續演進,更需要基于場景和需求匹配合適的技術,通過全鏈路、多技術融合的系統性創新整體推進。峰會上,尚海峰正式發布大模型混合云十大創新技術,包括:多樣性算力調度、云邊協同、AI-Native存儲、增強AI網絡、算子加速、全鏈路數據工程、統一數據編碼、精細視覺神經網絡、無感斷點續訓、安全護欄,覆蓋從云基礎設施到AI開發平臺以及模型層,通過系統性創新加速政企大模型應用進程。
隨后,華為混合云數智領域總經理徐強結合動畫演示向大家詳細介紹大模型混合云十大創新技術。徐強在演講中表示:“華為云Stack將持續深耕根技術,幫助更多的政企客戶,建好大模型、用好大模型、加速邁向智能世界!”
華為混合云數智領域總經理徐強
四項全能, 構筑最佳 云化算力 底座
隨著大模型能力不斷變強,模型參數不斷增加,對端、邊、云算力協同的整體架構設計提出了更高的要求。華為混合云CTO劉征輝在會上發表《打造最優混合云底座,使能大模型創新》主題演講。
華為混合云CTO劉征輝
劉征輝表示,依托全系列產品研發經驗,華為云Stack通過系統性創新,為政企客戶打造大規模、高性能、高可靠、云邊協同四項全能的云化算力底座,加速大模型應用進程。
在大規模方面,華為云Stack支持大規模AI集群和大容量訓練數據,支撐千億模型訓練集群部署。
在高性能方面,無阻塞互聯RoCE網絡可實現訓練效率提升50%,利用高性能存儲的多層緩存機制,小文件加載效率提升了20倍。
在高可靠方面,通過軟硬協同分鐘級故障感知定界,實現月級長穩訓練;智能化的運維管理,覆蓋80%+故障場景、提升故障恢復能力,結合業界最成熟的安全運營方案、全覆蓋的AI數據安全方案以及最高安全等級的算力平臺,打造高安全算力。
在云邊協同方面,華為云Stack提供多種邊緣輕量化部署形態,AI高效賦能生產場站;并通過多云合一的管理架構,多云擇優的調度策略實現多云算力管理。
深入 場景,共 筑 商業 成功
華為云持續深入行業場景,理解業務痛點,采用系統化思維,聯合客戶、開發者、同行、合作伙伴等上下游,持續構筑大模型的商業成功。目前,華為云Stack大模型混合云已應用于政府、 金融 、煤礦、交通、電力等10多個行業。
在政府, 華為云聯合廣州、紹興、深圳福田等客戶一起基于大模型探索提升政務服務效率,優化城市管理。
廣州市政務服務和數據管理局副局長梁文謙發表《數智引領未來,AI共繪藍圖》主題演講。梁文謙表示,廣州政數局勇于探索,實現算力、數據、算法三位一體協同發展,通過模式創新、技術引領,實現廣州跨越式發展,老城市煥發新活力,打造數字 經濟 引領型國際一流智慧城市。
廣州市政務服務和數據管理局副局長梁文謙
目前,廣州聯合華為等頭部企業,成立數字廣州創新實驗室,率先啟動大模型合作創新。在政務服務領域,推進“智能辦公”“智能導辦”等大模型試點應用場景落地,構建市區統籌的一體化大模型開發運營平臺;實現政務事項精準問詢導辦,邊聊邊辦,24小時服務不打烊;辦公全程有幫手,智能生成摘要,推薦歷史審批數據,實現輔助批示,整體辦公效率大幅提升,加速實現國際一流智慧城市發展目標。
在工業, 華為云聯合鄂爾多斯、山能等客戶,探索通過礦山大模型加云邊協同幫助礦山增安提效,同時推進礦山大模型、工業 互聯網 平臺的融合發展,賦能礦山產業集群的智能化。
鄂爾多斯市創新 投資 集團有限公司副總經理廉詠梅出席峰會并發表演講。廉詠梅在演講中分享,為了加速煤礦產業智能化發展,鄂爾多斯市政府與華為聯合打造內蒙古首個以行業AI大模型為核心的工業互聯網平臺,向煤企和伙伴提供開發、銷售、運營等一站式服務,實現300+煤企統一接入,提供統一的AI算力資源和創新平臺,賦能生態企業。
鄂爾多斯市創新投資集團有限公司副總經理廉詠梅
會上,鄂爾多斯市數字投資有限公司與華為云聯合發布《礦山產業集群大模型運營最佳實踐》白皮書,希望沉淀平臺運營過程中的實踐經驗,為同行數智化轉型提供參考路徑。
《礦山產業集群大模型運營最佳實踐》白皮書發布
攜手共贏大模型生態
華為云Stack旨在打造更優的大模型底座和基礎能力,通過工具和專業服務使能懂行的生態伙伴,共同探索更多大模型與行業結合的創新路徑。
目前已經有政府、金融、礦山、能源等行業100多個重點伙伴基于盤古大模型及開發平臺構建行業場景模型和創新應用,打造了豐富的行業大模型方案。面向未來,華為云Stack將以堅定的戰略耐心,持續深入行業場景,與客戶、合作伙伴一起共迎AI的黃金時代。