AI與邊緣計算融合,產業視角下英特爾如何推動AI2.0發展
過去幾年中,邊緣設備源源不斷地生成大量數據,傳輸至云端的成本變得高昂,越來越多的AI應用被部署在邊緣端,以便就地處理數據。
相比云計算,邊緣計算在低延遲、高安全性上優勢明顯,但這種越來越分散和接近用戶的數據處理方式,也帶來了新的挑戰。
由于終端設備的算力有限,且對功耗要求較高,因此在實際的產品設計和應用開發中,如何高效利用邊緣計算設備有限的硬件資源,實現最優的邊緣計算方案,是開發者們在不斷思考的問題。
近日,英特爾舉辦2024網絡與邊緣計算行業大會,分享了對AI技術和邊緣計算的最新洞察、未來展望及技術與產品的創新。
邊緣AI成全球趨勢,中國大模型聚焦行業應用
隨著AI更多在邊緣端部署應用,AI模型也將逐步從云端向邊緣端轉移。一場巨大的創新浪潮正在醞釀,當下正處于這一變革的關鍵時刻。
英特爾高級副總裁兼網絡與邊緣事業部總經理Sachin Katti指出:“邊緣AI的應用領域,已逐步從機器視覺,擴展到大語言模型、生成式AI等新興領域。未來英特爾也將更多關注大語言模型和生成式AI的開發與應用。”
Sachin Katti將AI的發展可以分為三個階段:AI輔助時代(Age of AI Co-Pilots)、AI 助手時代(Age of AI Agents)、全功能AI時代(Age of AI Functions)
AI輔助時代,AI是能夠輔助我們更高效地工作;
AI助手時代,AI可以自動地執行一些工作指令;
全功能AI時代,智能體之間將能夠相互協作。
當下,我們正處在AI協同時代。
IDC數據顯示,中國生成式AI投資2022到2027年五年的復合年增長率達到86.2%。Gartner預測,到2026年,80%的全球企業將使用生成式AI,50%的全球邊緣部署將包含AI。
在這一大趨勢下,中美兩國邊緣AI的發展,雖然在技術上有許多相似之處,但在落地策略上存在明顯差異。
國外的大模型多用于消費類場景,如 ChatGPT 面向公眾開放,Sora 主要面向教育機構用戶,這些模型都涉及龐大的數據訓練量和參數量。
中國的大模型更多應用于行業領域,通常訓練中等規模的模型,并結合自身數據進行定制化調整,這種策略通常涉及多個模型的并行部署,以適應特定行業的需求。
英特爾中國區網絡與邊緣事業部首席技術官、英特爾高級首席AI工程師張宇博士強調,“中國在AI創新方面發展迅速,許多AI Agent的功能已經初見端倪。比如電信行業的AI大模型產品可以分析網絡日志文件,及時發現異常并通知網絡管理人員。”
AI與邊緣計算的融合正在重塑產業的發展。英特爾中國團隊正專注于利用英特爾的軟硬件技術,鼓勵本地創新,加速AI技術在行業中的應用。
用本土創新提升新質生產力
生成式AI為網絡和邊緣計算帶來了許多機遇,同時也在重塑著產品和服務模式。
英特爾致力于為企業提供的,是開放、即插即用的解決方案,以及打造開放、可擴展的系統架構。
“未來合作伙伴不會單單采購芯片,而是需要一整套即插即用的系統解決方案。”Sachin Katti表示,英特爾的服務已經不僅僅局限于硬件供應,還擴展到了應用層、軟件以及客戶服務支持等多個維度,“主要目的在于幫助客戶降低部署的復雜性,實現更加高效、便捷的技術應用。”
在全球市場,英特爾堅持提供統一的軟件平臺,與此同時,每個市場的本地團隊,又會根據當地特定垂直領域的需求,進行微調和定制。這樣既能在橫向上滿足全球市場的一致性要求,又能在縱向上針對本地市場的特殊需求提供解決方案。
在不同行業中,AI技術的應用場景和影響各不相同,英特爾攜手眾多中國本土合作伙伴,已支持大語言模型(LLM)在教育、制造業等不同行業的落地應用。
在教育領域,AI可以通過分析課堂互動生成教學報告,提高教師的效率。
十余年來,英特爾與希沃在“AI+教育”解決方案的開拓上展開緊密合作。基于英特爾(?)酷睿?Ultra處理器,希沃在本地即可完成AI教學大模型的運行,并顯著提高系統響應速度和穩定性。希沃的產品如今已覆蓋17萬所學校,260萬間教室,服務800萬名教師,幫助完成了8億個生成式課件的制作。
在工業領域,AI可以結合機器視覺和自動化技術,提升生產線的安全性和效率。
面向工業數字化轉型升級的迫切需求,科東軟件通過先進大語言模型實現任務理解及代碼生成,并依托科東智能控制器的多模態視覺語言模型,實現對機器人動作的精準控制,極大簡化了開發流程并提升了生產效率。通過在英特爾(?)酷睿?Ultra 處理器上部署大語言模型,還減少了對算力設備和網絡傳輸的依賴,有效降低了操作延遲,滿足工業場景對低延遲和高可靠性的需求。、
邊緣計算的特點是碎片化,不同行業和用戶對算力和性能的需求各不相同。提供豐富的產品組合和多樣化的解決方案,以滿足不同用戶的具體需求。
數據量的限制是邊緣調優的一個常見挑戰,英特爾通過自動化手段完成數據標注和訓練,解決了數據量小的問題,并結合大規模通用數據模型進行進一步優化。
硬件方面,在算力和能耗的平衡上,英特爾通過創新的冷卻技術和智能能源管理策略,實現了高效的功耗管理和性能優化;其集成GPU和NPU解決方案為邊緣設備提供了AI計算能力,支持一些AI模型的本地運行,展示了邊緣AI的潛力。
打造開放、可擴展的企業級AI生態,才能“讓AI無處不在”
在不斷推動技術創新和解決方案升級的同時,英特爾也在全球范圍內,構建了一個廣泛、深入且多樣化的合作生態系統。
據雷峰網 (公眾號:雷峰網) 了解,在這個合作系統中,合作伙伴主要分為三大類,合作方式各有不同:
針對原始設備制造商(OEM)和原始設計制造商(ODM),英特爾協助其進行硬件的設計和生產;
針對直接對接終端客戶的系統集成商,英特爾提供定制化解決方案和軟件培訓,幫助他們顯著減少開發時間和成本;
針對軟件提供商,英特爾采取直接合作的模式,幫助他們優化軟件和應用程序,以便在英特爾提供的多樣化平臺上高效運行。
作為擁有完整軟硬件平臺的公司,英特爾在AI領域擁有深厚的積淀與領先優勢,提供開放、模塊化的解決方案,幫助客戶在AI時代以更低總擁有成本(TCO)實現更高價值。
張宇博士補充道,為了推動AI本地創新應用,英特爾還花了很大精力賦能開發者,幫助他們更快更好將想法落地。
今年上半年,中國區網絡與邊緣事業部和英特爾中國其它事業部合作,共同組織AI創新應用大賽。“除此之外,我們還跟包括開發者、ODM、OEM、系統集成商等合作伙伴來共同制定今后在我們國家適用的AI標準。”張宇博士對雷峰網表示。
面向未來的AI轉型,英特爾正在引入端到端、可擴展的系統級戰略,通過開放的生態系統全速助力企業推進AI創新。
英特爾公司副總裁兼網絡與邊緣事業部中國區總經理陳偉博士表示:“英特爾對客戶的技術支持始終與時俱進,不僅僅是技術的提供者,更是本地合作伙伴的傾聽者和同行者,從運用AI進行創新的‘+AI時代’,到今天以AI為主導推動創新的‘AI+時代’,英特爾正站技術轉型的前沿,進一步深化戰略,確保英特爾的技術更貼近中國用戶,更深入地推動各行業的數字化轉型。”
數年深耕,通過持續不斷的軟硬件平臺和產品創新,積極推動邊緣AI等新興領域的拓展,相信英特爾將與合作伙伴和客戶共同迎接一個由AI驅動、智能優化的全新時代的到來。
雷峰網原創文章,未經授權禁止轉載。詳情見 轉載須知 。