大模型重回參數競賽：2萬億成標配，3萬億是下一站？

記者 鄭晨燁

7月29日，一則關于大模型公司北京月之暗面科技有限公司（下稱“月之暗面”）的融資消息在業內迅速傳開——月之暗面已完成新一輪超35億美元融資，投后估值升至350億美元，Pre-IPO輪也已啟動，投前估值達到500億美元。

這意味著，相較2025年底C輪融資時的估值43億美元，月之暗面在半年多的時間里估值增長超過10倍，這一速度在全球AI創業公司中也不多見。記者就上述融資信息向月之暗面方面發送了求證郵件，截至發稿未獲回復。

推動這輪估值躍升的核心催化劑是月之暗面7月16日發布的旗艦模型Kimi　K3，該模型的參數規模達到約2.8萬億（精確值為2.78萬億），是目前全球參數量最大的開源模型。

7月19日，月之暗面發布公告，宣布暫停C端（個人用戶）新用戶訂閱，將全部算力投入保障已有用戶的服務。7月27日晚間，月之暗面進一步公開了Kimi　K3的模型權重和一份47頁的技術報告，對模型架構和訓練方法做了全面披露。

Kimi　K3的發布只是“中國大模型集體轉向大參數”的一個切面：阿里7月19日發布的旗艦模型Qwen3.8　Max，參數量約2.4萬億；百度1月上線的文心5.0，參數量同樣達到2.4萬億；DeepSeek　4月發布的V4-Pro，參數量為1.6萬億。另據記者了解，MiniMax（00100.HK）下一代模型的參數量也將超過2萬億。

2025年，DeepSeek　R1的發布曾讓行業一度轉向更小參數、更低成本的路線，“Scaling　Law（規模法則，即模型性能隨參數規模和算力增加而可預測地提升的經驗規律）是否已經失效”成為貫穿全年的熱議話題。

但僅一年之后，“參數競賽”再次啟動，中國頭部大模型廠商開始集體沖擊2萬億以上參數。

參數躍升

Kimi　K3的參數躍升幅度在行業內并不常見。

和上一代相比，Kimi　K3的總參數從1.04萬億增至2.78萬億，增長了167%；激活參數從326億增至1042億，增長220%；上下文窗口從128K（K　代表千）擴展至100萬詞元（Token，AI模型處理文本的基本計量單位），擴大了近8倍。

月之暗面團隊在7月27日發布的Kimi　K3技術報告中指出，過去一年，開源模型在推理階段的強化學習上進展很快，但預訓練基座的參數規模停滯在1萬億左右。

大模型的訓練分為兩個階段——預訓練階段，模型在海量數據上學習語言、知識和推理模式，形成底層能力，參數規模和數據質量決定了這層能力的上限；后訓練階段，研發團隊通過強化學習（用獎勵信號引導模型改進推理策略）、思維鏈（讓模型把推理過程拆解成多個步驟逐步推導）等方法，在底層能力之上做精細打磨。

過去一年，行業把主要精力放在了后訓練上——DeepSeek　R1證明了強化學習可以在較小參數的模型上取得很好的效果，國內外廠商紛紛跟進。但Kimi　K3技術報告提出的問題是，后訓練的優化空間受制于預訓練基座的容量，基座的能力邊界決定了后訓練的上限。

早在今年3月的中關村論壇上，月之暗面創始人楊植麟就公開闡述過類似的判斷。他認為，做大模型本質上是把更多的能源轉化成智能，規模化絕非暴力增加算力投入，而是關于轉化效率的競賽。他在演講中拆解了三個提升效率的維度：提升詞元效率，從有限的存量數據中挖掘更多智能；優化長上下文架構，以低損耗完成長時間復雜任務；引入Agent集群（多個AI智能體并行協作）模式，通過協作擴展模型執行復雜任務的邊界。

華南一家大型券商的半導體分析師告訴經濟觀察報，參數競賽重啟還有外部推力——2026年6月下旬起，以Claude為代表的海外頭部模型開始限制國內模型對其API（應用程序編程接口）的訪問，這意味著蒸餾（用大模型的輸出來訓練小模型）作為過去兩年國內模型縮短差距的重要路徑，正在變得越來越窄。

在他看來，大模型的發展可以劃分為三個階段：第一階段從2023年初到2024年第三季度，以預訓練參數競賽為主；第二階段從2024年下半年開始，行業轉向后訓練的強化學習和推理優化；2026年正在進入第三階段，模型能力從單體智能升級為系統編排，AI開始向智能體（Agent）的形態演進。

他認為，第三階段并沒有取代前兩個階段，參數量的持續增長仍然是關鍵變量。中國大模型的追趕將主要依賴三條路徑：訓練范式與海外對齊，構建自有的數據反哺循環，持續擴大預訓練基座的參數規模。

深圳一家互聯網游戲企業的產品經理告訴記者，對使用者來說，參數規模的直接體感是模型“能處理復雜的任務”。

據其介紹，他所在的團隊從今年年初開始把AI編程工具接入日常開發流程。在一個完整的編程任務中，模型需要讀取整個項目的上下文，連續調用編譯、測試、調試等工具，執行多輪自我修正，單次會話消耗的詞元量是傳統對話場景的很多倍。這類長程任務對模型底層能力的要求，和簡單的一問一答完全不在一個量級上。

由此，“模型能連續工作多久”正在成為衡量模型能力的新指標。

規模法則

2.8萬億參數規模巨大，但Ki-mi　K3的每次推理并不需要動用全部參數。

根據技術報告，Kimi　K3采用了MoE架構（Mixture　of　Ex-perts，混合專家系統）。這種架構的核心思路是把模型參數分成多個功能模塊，稱為“專家”。在處理每一個輸入時，路由系統只激活與當前任務最相關的一小部分專家，其余專家不參與計算。

Kimi　K3擁有896個專家模塊，每次推理只激活其中16個，稀疏度達到56倍，實際參與計算的激活參數約1040億。換言之，一個2.8萬億參數的模型，單次推理的算力消耗大致相當于一個千億參數級別的稠密模型（即每次運算都調用全部參數的傳統模型）。

MoE架構解決的是“參數量大但推理成本可控”的問題。在此基礎上，月之暗面還需要解決兩個難題：長上下文場景下的計算開銷，以及信息在深層網絡中的逐層衰減。

根據Kimi　K3技術報告，月之暗面分別為此開發了兩項底層架構。

第一項是KDA（KimiDeltaAtten－tion，混合線性注意力機制）。傳統Transformer架構（當前主流大模型普遍采用的底層技術框架）在處理長上下文時，需要維護一個緩存，這個緩存的體積隨輸入長度線性增長。100萬詞元的上下文意味著龐大的顯存占用和計算開銷，KDA的做法是，把這個不斷膨脹的緩存壓縮成固定大小的矩陣狀態，使百萬級上下文的計算開銷大幅下降。

第二項是注意力殘差（AttentionResiduals）。在傳統的深層網絡中，信息從底層逐層向上傳遞，每經過一層都會有部分信息衰減或丟失。注意力殘差的做法是，讓每一層都能選擇性地回看前序所有層的輸出，跳過逐層傳遞的限制。根據KimiK3技術報告，這項改進的額外成本約為2%，但顯著緩解了信息在深層網絡中的衰減問題。

MoE、KDA和注意力殘差三項技術疊加之后，KimiK3相比K2的整體擴展效率提升了約2.5倍，即同樣的算力投入下KimiK3能達到更好的模型表現。

效率的提升也直接反映在了使用成本上。

根據公開的API定價，KimiK3的輸入價格為每百萬詞元人民幣20元，輸出價格為100元。折合美元計算，KimiK3的輸出單價約為14美元/百萬詞元，低于GPT-5.6Sol的30美元和ClaudeFable5的50美元。KimiK3在第三方評測中的單任務平均成本約0.94美元，與GPT-5.6Sol基本相當，約為ClaudeOpus4.8的一半。

在“用更少的算力產出更多的智能”這個方向上，端側模型廠商走得似乎更快一些。

面壁智能CEO李大海在接受經濟觀察報采訪時提到了一組對照數據：面壁的端側模型用10億到20億的參數量，已經達到了兩年前GPT-4o（Ope－nAI于2024年發布的旗艦多模態模型，參數量在數百B級別）的水平，相當于實現了近百倍的壓縮。面壁聯合創始人、總裁雷升濤將這個方向稱為“知識密度定律”，即大約每3.5個月端側模型的能力密度翻一倍。

云端模型在擴大參數規模，端側模型在壓縮參數規模，底層邏輯一致，都在提升每單位算力的智能產出。

在李大海看來，云端編程、長程A－gent等場景的爆發已經開始，端側雖然還沒有迎來類似的商業爆發，但模型能力的提升一直在發生。兩年前，達到GPT-4o水平需要數百億參數量級的模型，如今面壁用10億到20億參數量級的端側模型就能做到。云端在做大，端側在做小，但驅動兩者進步的底層規律是同一個——投入更多的算力和更好的架構，就能換來更強的模型能力。“沒有爆發不代表沒有Scal－ingLaw”，他說。

野村證券7月27日發布的研報指出，3萬億參數被行業視為中國大模型的下一個里程碑，但模型競爭力將越來越依賴架構效率、后訓練優化和長程任務表現。

產業鏈傳導

參數競賽重啟的同時，頭部模型廠商的商業化也在加速。

公開信息顯示，月之暗面的ARR（年度經常性收入）在6月中旬突破3億美元，API收入占比超過七成。

月之暗面企業業務負責人黃震昕在6月的一次公開活動中提到，自今年1月KimiK2.5發布以來，Kimi海外付費用戶數增長了4倍，產品進入200多個國家和地區。互聯網、金融、制造、教育、醫療等行業已成為Kimi重要的企業客戶來源。

KimiK3發布帶來的需求激增也讓算力緊缺浮出水面。公開信息顯示，KimiK3的部署需要一臺8卡B300服務器，訓練需要萬卡級集群。多位接受采訪的業內人士提到，智算中心的大部分算力已被頭部大廠鎖定，獨立模型公司獲取算力的能力相對滯后，即便遇到KimiK3這樣的需求爆發也難以及時補充。

李大海從端側的角度提供了觀察。他用八個字概括端側和云端的分工關系——端側主內，云端主外。端側掌握用戶的私有數據和即時需求，數據不出設備，負責隱私敏感的本地推理；云端接入外部世界的信息和服務，處理對模型能力要求更高的開放性任務。他認為，隨著云端模型參數規模持續做大，端側和云端協同的格局會長期共存。

上述券商半導體分析師告訴記者，國內大模型競爭已經形成兩個梯隊：阿里和DeepSeek在模型能力和業務覆蓋上位居前列，騰訊、字節、智譜、月之暗面緊隨其后。競爭焦點也正在從底層模型能力轉向AgentOS（智能體操作系統，即模型之上負責任務編排、工具調用和長程執行的系統層）的綜合能力。

在國內競爭格局高速變動的同時，海外市場正在成為中國頭部大模型廠商爭奪的另一個增量來源。

野村在前述研報中提到，DeepSeek截至6月的ARR約為5.2億美元，其中海外市場貢獻了約47%到48%。不過，采用者以個人開發者和中小團隊為主，大型企業的滲透率仍然有限。而且，在實際的開發流程中，不少海外開發者已經形成了分層調用的習慣，使用ClaudeCode、Codex等海外模型做架構設計和復雜推理，再切換到DeepSeek等國產模型做持續的代碼生成和執行。也就是說，國產模型率先拿下的，是詞元消耗最密集的執行環節。

華東一家大型公募機構的研究員告訴記者，詞元的整體成本在持續下降，預計年降幅在三成到五成。值得注意的是，Agent鏈路中等復雜度的任務，單次調用消耗的詞元量是傳統對話場景的二十多倍，超復雜任務的單次消耗達到百萬詞元級別。成本下降正在激發更多復雜任務的需求，整體利潤由增量市場驅動。“做大參數”對算力產業鏈的影響也已經開始傳導到芯片層面。

聆思科技是一家由科大訊飛體系孵化的端側AI推理芯片公司，已累計出貨超過1.5億顆芯片，7月剛完成近5億元B輪融資，首顆端側大模型推理芯片Nebula系列計劃于年底流片。

聆思科技市場副總裁韓超陽告訴經濟觀察報，端側推理市場的規模未來將比云端大出不止一個數量級。他同時強調，算力利用率比絕對算力峰值更關鍵，一顆標稱200T（每秒200萬億次運算）算力但利用率只有百分之十幾的芯片，和一顆100T算力利用率達到七成的芯片，實際產出完全不同。

但當前端側芯片在推理性能和功耗上仍無法滿足需求，在他看來整個市場仍處于萌芽階段。

聆思科技副總裁徐燕松提到，芯片公司和算法公司未來可能不再獨立存在，芯片設計必須比算法迭代更前置地投入研發，“芯片的研發周期通常在兩到三年，必須提前判斷兩三年后模型架構的走向，否則芯片推出時就已經落伍了”。

這也意味著，參數競賽重啟的影響不會停留在模型層面，它正在沿著產業鏈上游的芯片設計和算力基礎設施傳導。

在上述公募機構研究員看來，大模型向行業場景的滲透可以分為三個階段：第一階段是AI編程代理，對應全球約3000萬軟件開發者和部分外包采購市場，核心規模約7000億美元；第二階段是流程性AI代理，面向客服、財務、行政等約3.7億白領辦公人群，薪酬池規模超過1萬億美元；第三階段及之后將延伸至金融、醫療、法律等專業領域，市場體量達到3萬億至4萬億美元以上。

他認為，目前僅處于第一個階段的初期。按照上述框架來看，當前圍繞AI編程場景的詞元消耗量爆發，距離真正的規模化滲透還很遠。