DeepSeek開源周收官,V3/R1推理系統概覽于知乎獨家發布
3月1日,DeepSeek于知乎開設官方賬號,獨家發布《DeepSeek-V3/R1推理系統概覽》技術文章,首次公布模型推理系統優化細節,并披露成本利潤率關鍵信息,標志著全球關注的“DeepSeek開源周”正式收官。不久前,月之暗面、微軟研究院、清華大學、階躍星辰等開源項目參與者,均在知乎分享研究成果和經歷。知乎一直是AI從業者和 創業 者密度最高的社區,此次DeepSeek選擇知乎作為開源發布的最后一站,進一步引領了全網最重要的AI趨勢發布。
作為“DeepSeek開源周”的收官之作,DeepSeeK知乎官方賬號正式亮相,并發布文章詳述V3/R1推理系統。文章寫道:“DeepSeek-V3 / R1 推理系統的優化目標是:更大的吞吐,更低的延遲。”為實現這兩個目標,DeepSeek的方案是使用大規模跨節點專家并行(EP),但該方案也增加了系統復雜性。文章的主要內容就是關于如何使用EP增長批量大小(batch size)、隱藏傳輸耗時以及進行負載均衡。
值得一提的是,文章還率先披露了DeepSeek的成本和利潤率等關鍵信息。“假定GPU租賃成本為2美金/小時,總成本為$87,072/天。……如果所有 tokens全部按照DeepSeek R1的定價計算,理論上一天的總收入為$562,027,成本利潤率545%。”
據了解,“DeepSeek開源周”自2月24日至2月28日,陸續開源最新技術進展。其中包括,FlashMLA、DeepEP、DeepGEMM和3FS四個開源項目,以及DualPipe、EPLB等代碼庫。每一項開源發布,都在知乎引發了業內人士的熱烈討論和贊嘆。
“話不多說,DeepSeek和OpenAI一樣重要。”知乎大模型話題優秀答主、算法工程師“劉聰NPL”如此評價。業內人士甚至認為,“DeepSeek開源周”的重要性已經超過了不久前OpenAI的發布會。DeepSeek用“量大管飽”的開源有力回擊了歐美關于DeepSeek故意說低訓練成本的說法,并且證明了在訓練鏈路上存在極大的優化空間。“劉聰NPL”在開源周最后一天就感嘆:“真沒想到,最后一天DeepSeek對存儲下手啊!”而知乎編程話題優秀答主“平凡”在第三天就做出判斷:“這些工作幾乎不可能在國外的AI公司里面完成。”
此次收官文章再次點燃了知乎對AI的討論熱情,相關問題下從業者云集。事實上,“發完論文,上知乎親自答”,已成為人工智能研究者的風潮。2月20日,月之暗面開源MoBA框架研發人員鹿恩哲、蘇劍林分別在知乎講述了研發思路,引發了業界對“稀疏注意力”框架的討論。與此同時,微軟研究院、清華大學團隊以及階躍星辰開源模型參與者,均發文分享研究了各自成果與歷程。這被業界稱為繼模型開源、論文開源之后的一次“思維鏈開源”。
知乎囊括了最廣泛的 互聯網 、AI、機器人等 科技 領域的從業者,是從業者最青睞的交流場所和思想碰撞的前沿陣地。此次,全球矚目的DeepSeek將知乎作為了開源周的最后一站,更印證了知乎作為AI討論第一陣地的獨特平臺價值。