近日，昆侖芯 科技 應邀出席百度技術沙龍第99期“智能芯片”專場：昆侖芯一周年——構筑國產數智基石，AI算力賦能千行百業(yè)。四位專家首次同臺，揭秘十年磨一劍的中國芯的神秘技術面紗，并系統(tǒng)介紹昆侖芯兩代產品賦能千行百業(yè)的最新成果及應用實踐。?

本篇以下內容整理于沙龍第四位演講嘉賓——昆侖芯科技研發(fā)總監(jiān)羅航題為 “AI芯片產業(yè)發(fā)展和昆侖芯應用實踐”直播分享。

昆侖芯科技研發(fā)總監(jiān)羅航??

我是昆侖芯科技研發(fā)總監(jiān)羅航，今天分享AI芯片產業(yè)發(fā)展和昆侖芯應用實踐，主要圍繞以下四個問題：

1.? AI芯片為什么是產業(yè)發(fā)展的必然趨勢？

2.? 聚焦到國內的AI芯片產業(yè)，宏觀變量怎樣影響AI芯片產業(yè)的供給端和需求端？

3.? 國內的AI芯片公司要實現產業(yè)化需要跨越哪些門檻？

4.? 昆侖芯在產業(yè)化道路上做了哪些探索和實踐？

AI芯片是產業(yè)發(fā)展的必然趨勢

整個計算產業(yè)的周期基本上可以粗略劃分為四個階段：

1. 互聯網 上古時期。它是一個定制化的UNIX操作系統(tǒng)，主要群體是科學家，它的互聯網形態(tài)，是一個很小規(guī)模的局域網形態(tài)。

2. PC互聯網。這個時候才真正進入了普羅大眾，我們才能感受到計算產業(yè)的魅力。它和上古形態(tài)有很大區(qū)別，它形成了一個x86 Windows強生態(tài)組合，有很多應用百花齊放。

3. 移動互聯網時代。這個產業(yè)形態(tài)的組織形式是基于3G、4G乃至5G的移動互聯網，相比上一個階段，它的網絡規(guī)模和通訊速度有一個質的飛躍，并且產業(yè)形態(tài)有一個很重要的變化，可以看到這張圖中間出了一條線，這條線代表分化。它分化成了左邊移動端的架構和右邊中心端或叫云端的架構。為什么會有這樣分化？因為在移動互聯網時代，原先x86和Windows的組合沒法滿足移動端低功耗的場景，所以分化催生出了ARM加Android和IOS的生態(tài)，形成了移動端和云端并存的形態(tài)。

4. AI時代。可以看到它的分化更復雜了。為什么會出現這樣的分化？因為AI的蓬勃發(fā)展，導致數據量爆炸以及計算需求的爆發(fā)式增長，傳統(tǒng)CPU通用計算提供的算力，已經遠遠不能滿足AI時代的計算需求，所以催生出了多種計算架構，不同的計算架構處理各自擅長的數據需求，AI芯片應運而生。多種計算架構的有機整合就叫異構計算。未來很有可能還會沿著這種分化趨勢繼續(xù)演變。

從這里可以看到，計算產業(yè)體系結構的演化很像生物的演化，都是從簡單到復雜，比如生物演化是從單細胞到分化出各種器官，從而組成復雜精密的人體。我們借用“十九大”對社會主要矛盾的表述：人民群眾對計算的需求，與計算系統(tǒng)的算力發(fā)展不平衡之間的矛盾，驅動著整個產業(yè)的迭代和發(fā)展。

每一次的迭代、分化，都會涌現出巨大的產業(yè)機會。

這張圖表達的是一個客觀事實：AI模型的規(guī)模呈指數型爆發(fā)式增長。模型在某種意義上等同于數據，模型越來越大代表數據量越來越大。模型簡單來講就是經驗，相對于人是經驗，相對于機器就是模型。圖中有前段時間非常火的GPT3，這個模型的參數量達到了1750億個，后來Google又發(fā)布了一個1.6萬億的超大模型。國內有很多機構也推出了大模型，百度前段時間就發(fā)布了文心大模型。

大模型是現在正在發(fā)生的事實，是很大的趨勢。模型越來越大，對算力的要求就越來越高。上面這張圖也從側面佐證了計算產業(yè)的發(fā)展和分化的趨勢。

可以看到，AI芯片跟CPU一樣，處于整個生態(tài)的基座位置，它提供了算力，跟CPU等各種架構的芯片一起組成異構計算。在這樣的AI生態(tài)基礎之上，我們才能實現各種垂直行業(yè)的智能化場景。

國內AI芯片產業(yè)機遇與挑戰(zhàn)并存

在宏觀層面，目前有兩大變量。一個是疫情，一個是國際形勢。疫情極大加速了數字化和智能化的產業(yè)趨勢，把原本十年才能完成的產業(yè)轉變壓縮到五年。

我重點講一講國際形勢可能會造成的影響。國內很早就開始造芯片，包括CPU芯片，但為什么好像沒形成氣候？實際上國內缺的不是人才、資金、技術，缺的其實是市場生態(tài)——比造不出來芯片更麻煩的是賣不出去。原先國際形勢沒有那么激烈沖突時，國外的芯片是敞開賣的，這導致國內的芯片需求是鎖死的狀態(tài)。現在國際形勢為國產芯片打開了一扇窗，相當于需求側解鎖了，由此帶來國內供給側的蓬勃發(fā)展。AI芯片相對于CPU又是一個新的需求賽道。現在國內也有很多企業(yè)都聚焦到AI芯片賽道做產業(yè)的升級迭代。

宏觀趨勢的影響為國內AI芯片產業(yè)帶來了機遇，同時也帶來了挑戰(zhàn)。

???從機遇方面來說，這是一個新的市場、新的賽道：

需求側：相對于傳統(tǒng)CPU來講，AI芯片是比較年輕的產業(yè)。目前國家提倡新基建、智能化等各種政策扶持整個國內市場，同時全球的生態(tài)格局還沒固化，這就為國內AI芯片 創(chuàng)業(yè) 者提供了需求側的機遇。

供給側：現在摩爾定律最新的工藝開始研究2nm，如果工藝越來越先進，尺度越來越小，會面臨一個量子隧穿的效應。這不僅是工藝的問題，還可能涉及到物理學、材料學等方面，需要依賴基礎科學的突破。也就是說，摩爾定律很有可能已經逼近極限。這意味著領先者快撞到墻了，國內的追趕者縮小代差就只是一個時間問題。現在無論是芯片的設計還是制造研發(fā)，都已經有全鏈路和28nm的工藝儲備，所以中國具有資本、技術和人才的后發(fā)優(yōu)勢。

?? 與此同時，我們也面臨很大的挑戰(zhàn)：

需求側：國內AI芯片或者AI產業(yè)還處于發(fā)展的早期階段，非常不成熟，特別是 商業(yè) 化很不成熟，需求也還沒爆發(fā)。大家都在尋求AI芯片與自身產業(yè)的結合，即如何用AI升級自己的產業(yè)，這是產業(yè)早期的一個特征。

供給側：我們跟國際代際差距非常大。不僅表現在硬件上的差距，也表現在軟件和生態(tài)上的差距。特別是從設計、制造到封測等這一條產業(yè)鏈上，比如EDA工具、光刻機等，我們與國外都存在巨大的代際差距。

綜上可以看到，國內的AI芯片產業(yè)，機遇和挑戰(zhàn)并存。

國內AI芯片產業(yè)要跨過三道窄門

1. 首先是量產。做芯片要有米下鍋，AI芯片就是我們的米。如果要讓AI芯片產業(yè)持續(xù)發(fā)展，形成商業(yè)的正循環(huán)，量產是前提。大家都知道，量產可以極大攤薄先期流片的巨大投入，通過量產攤薄成本是實現盈利的唯一方式，量產也是衡量芯片成熟度的指標之一。

2. 軟件生態(tài)。其實這是整個行業(yè)正在面臨的問題，或者說是我們需要跨過的窄門。如果我們只有芯片而沒有軟件生態(tài)，客戶不太好把它用起來，也就沒法完成價值的傳遞。為了讓客戶更好地把它用起來，我們構建一個合理、合適的軟件生態(tài)，是非常有必要的。國際上的友商構建了一個非常強大的軟件生態(tài)，通過這個軟件生態(tài)，很多開發(fā)者和廠商能夠很好地用起來，這個軟件平臺也構筑了很強大的壁壘。作為國內的產業(yè)玩家來說，軟件生態(tài)的構建也是非常重要的。

3. 落地，做產品化。如果只有軟件生態(tài)還遠遠不夠，還需要跟具體的垂直行業(yè)做產品化。芯片是無法獨立存在的，必須要和垂直行業(yè)結合起來才能實現價值傳遞。這也是現在產業(yè)面臨的問題，因為沒有產品化，所以我們不得不做項目。不知道大家是否理解這個表述，做項目和做產品的區(qū)別是什么？做項目是case by case，做產品相對通用化，邊際成本遞減，這是芯片商業(yè)模式成功的關鍵因素。成熟的產品有量產規(guī)模，用強大的生態(tài)構建產品化，做成商業(yè)閉環(huán)，才能形成商業(yè)飛輪。

AI芯片的產業(yè)化機會

可能有人會問：產業(yè)化機會到底在哪？怎樣去做產業(yè)化，在哪里可以找到產業(yè)化的場景？

首先，AI芯片一定要跟各種產業(yè)結合。接下來我會站在更廣義的AI的概念討論，而不僅是AI芯片。因為有AI的地方，就需要AI芯片提供算力支持。

在這里給大家提供一個分析框架和思路。我們現在所說的人工智能，假如對照本來就有智慧的人來說，AI應該具有哪些特征和要素？借用佛家的說法，人具有六根，眼、耳、鼻、舌、身、意，這是生而為人的基礎。那么，AI產業(yè)化的六根是什么呢？

???眼，計算機視覺，賦予AI“看”的能力。這是目前AI應用最廣泛的領域。比如安防監(jiān)控、園區(qū)監(jiān)控。如果我們把全球的AI看作一個整體，所有采集光信號的設備，無論是路邊攝像頭、 手機 攝像頭，還是光傳感器，都可以看作是全球AI的“眼”。

?? 耳，語音處理，賦予AI“聽”“說”的能力。比如語音識別、語音合成等場景，所有采集和處理音頻信號的設備，都可以看作是AI的“耳”。

?? 意，NLP的自然語言處理，賦予AI讀寫和理解的能力。這一應用領域非常廣泛，包括文章理解、知識圖譜、知識提取、知識檢索等。

除了這三個領域外，我們完全想象不到“鼻、舌、身”是什么樣的場景。目前AI完全無法具備嗅覺，也無法具備味覺、觸覺，也就是說現在還沒有能夠采集這些信號的傳感器、設備，或者說這些場景還沒被挖掘出來。所以，相比于人，AI還差得很遠。就僅僅拿計算機視覺這個AI最成熟的領域來說，相比人眼的識別效率來說也相距甚遠。

反過來看，有差距的地方或者空白的地方，不正是產業(yè)化的機會所在嗎？我們把“六根”整合起來看，一個完整的AI體系，既要實現所有現實信號——眼、耳、鼻、舌、身、意，即全時空信號的捕捉體系，也就是數據生產；又要有信號處理體系，比如數據消費，所以AI與IoT的結合一定是未來產業(yè)化的大方向。

AIoT，就是萬物數據——萬物在現實中捕捉到的萬物的數據，再加上超強的算力支撐的數據處理能力，一起組成的一個整體。IoT和AI這兩者都處于快速變化的發(fā)展階段，所以這兩者的結合機會是非常多的。物聯網負責海量的數據生產和消費，AI芯片負責數據的處理和再造，兩者是相輔相成，或者說螺旋迭代、缺一不可。

昆侖芯的探索與實踐

接下來講一講昆侖芯的實踐和應用案例。

昆侖芯有非常成熟和完善的全棧國產化的技術生態(tài)。從底層往上看，所有你知道的國產CPU和國產操作系統(tǒng)，我們都做了適配，而且適配得非常完善。再往上還有國產的深度學習框架，代表就是PaddlePaddle（百度飛槳），我們也做了適配。同時，我們還提供了昆侖芯的推理框架，以及之上的國產算法。我們可以基于這樣的生態(tài)去做很多國產化的行業(yè)落地。

在智慧政務、智算中心、智慧 金融 、智慧電力這些方面，我們都有很多探索和落地：

1. 智慧質檢。我們已經跟國內某質檢廠商深度合作，打造解決方案并落地，也上了《新聞聯播》的報道。?

2. 智算中心。這是非常典型的應用場景，現在國內智算中心的建設也如火如荼。昆侖芯可以為當地提供穩(wěn)定的算力支撐和算法服務，助力當地的產業(yè)升級。

3. 大規(guī)模知識檢索。簡單理解就是搜索，其實百度搜索引擎后面算力的支撐，很大一部分都歸功于昆侖芯。我們在百度的搜索集群大規(guī)模上線過萬片，穩(wěn)定運行了很長時間。

這三個典型案例，是我們助力新基建案例探索很小的一部分。

接下來結合“六根”這個分析框架展開講講。比如這個案例就是“眼”與昆侖芯的一個結合，在高速的流水線上自動化作業(yè)。這個生產節(jié)拍是很快的，一個節(jié)拍可能一秒，甚至不到一秒，如果人眼去判斷產品是否有缺陷不僅非常費眼，也非常費人力。經過昆侖芯算力的賦能，再加上AI的“眼”，即工業(yè)相機/光源陣列去拍攝產品圖片，通過計算機視覺來識別產品是否有缺陷，極大提高了工業(yè)高速公路流水線的自動化和作業(yè)效率。

這也是“眼”加昆侖芯的一個案例，是我們落地到某個智慧城市云邊一體的案例。攝像頭作為“眼”，看到了很多視頻流進來之后，在邊緣側有搭載昆侖芯2代產品R200的分布式邊緣設備。在這個設備上可以完成解碼并同時進行AI檢測，完成整個全鏈路。比如說可以做邊緣側的一些粗略識別，提取視覺的一些特征，也可以把大圖切成小圖，然后跟中心側的集群配合起來，中心側的集群是以昆侖芯算力構成的極大規(guī)模的集群基座。邊緣側把經過的信息進行初步處理之后，跟中心側配合起來，就可以實現云邊一體的AI落地案例。中心側集群還可以比較方便的關聯人臉的數據庫和布控數據，這就形成了一個比較典型的安防系統(tǒng)架構。

這是“意”加昆侖芯的一個落地場景，是在某省高檢的一個落地項目。它實現了檢察院業(yè)務的全流程和全數字化。檢察院有很多文檔，不管是PDF、Word，有很多文檔，如果由檢察官人工分析文檔的話，會很費時、費力，而且很難形成可復用可傳播的知識體系。如果通過計算機把文檔讀取進來，給它做OCR文字識別，再做文檔特征和知識提取，塞入到知識圖譜中構建知識網絡，再部署一套私有化的檢索系統(tǒng)，就能很好地實現文檔的數字化和智能化。這其中所有的業(yè)務流程全都是基于一個AI智能開發(fā)管理平臺搭建的。管理平臺里面也搭載了昆侖芯的算力集群，集群里還內置了一些面向開發(fā)者的技術棧、深度學習框架、深度學習模型庫等，可以讓第三方開發(fā)者或客戶自行在平臺上做特定模型的重新訓練，以及生產環(huán)境的自動化部署。

再講一個“意”加昆侖芯的案例。這是大規(guī)模知識檢索的在線服務，類似于百度的在線檢索系統(tǒng)。可以看到，用戶在搜索框中輸入關鍵字或很多關鍵字的組合，發(fā)起請求之后，有一個在線的推理集群去分析用戶的搜索意圖，再結合用戶畫像去分析用戶想問什么，然后做一些embedding，從離線訓練的集群中找出了很多物料，從這里面找出一個跟用戶意圖最匹配的物料排序，最后在精排之后返回給用戶最佳的檢索結果。可以看到，在線集群和離線集群都有昆侖芯的應用案例。

上面介紹到了很多真實的落地案例，接下來我介紹的是一種商業(yè)模式，這是目前昆侖芯已經在運作的一種商業(yè)模式，我們叫做技術賦能模式。

昆侖芯可以為賦能伙伴提供以下支持。比如說如果你買了昆侖芯的產品后，就可以得到貼心的技術支持，或者如果你想要做自己的板卡產品，我們也可以賣芯片給你，你可以封裝成自己的板卡。如果你對在昆侖芯上開發(fā)不是很熟，我們還可以手把手教你編程，教你在昆侖芯上怎么去開發(fā)算子和模型。我們也會提供培訓課程，還會提供很豐富的demo給你參考。如果你基于昆侖芯的產品要做項目交付，昆侖芯也可以支持你做定制化模型和定制化服務器的適配。總之，通過技術賦能，賦能伙伴可以基于昆侖芯去開發(fā)自己的硬件和軟件方案，去觸達更多的場景和客戶，做更多的AI芯片產業(yè)化、智能化升級改造的項目。

我們希望有更多的產業(yè)伙伴能跟昆侖芯一起，為國家的智能化產業(yè)升級做更多的貢獻，一起共創(chuàng)智能化產業(yè)的新時代。