WAIC 2026一線觀察：端側AI芯片，正在發生什么？

今年的WAIC 2026被云端AI大算力芯片刷屏。然而在大芯片的喧囂中，端側AI芯片卻也在發生變化。廠商開始思考，如何把更強大的AI能力下放到端側。而在經歷了兩年的大模型狂飆后，端側AI芯片廠商們也在一夜之間集體“升級”：3D堆疊、存算一體、從端側反攻云端，三大趨勢在WAIC 2026的展臺上交織成一幅新的產業圖景，可能將重新定義AI算力的最終形態。

01

SoC與協處理器：端側AI芯片的兩種形態

縱觀整個WAIC 2026，最直觀的感受是：端側AI芯片正在分裂成兩個世界。

一邊是SoC（系統級芯片）路線。此芯科技的P1芯片（CP8180）集成了12核CPU、10核GPU和3核自研NPU，整體算力45 TOPS，像一臺完整的“AI電腦”被壓縮進單顆芯片。這種“全集成”方案的優勢在于生態完整：客戶可以直接運行Linux或安卓系統（甚至Windows系統），無需額外搭配主控芯片。瑞芯微的RK3588更是端側的老面孔，從平板到車載座艙，從電視到機器人，這顆搭載6 TOPS NPU的通用SoC已經滲透進AIoT的千行百業。

另一邊是端側協處理器，這是本次WAIC 2026上更為活躍的賽道。包括光羽芯辰的TC1020芯片、后摩智能的漫界M50芯片、瑞芯微的RK1828/1820芯片、微珩科技的扶光LPU、芯動力科技的RPP芯片，它們都不具備獨立運行操作系統的能力，而是作為“AI外掛”通過標準接口與主控芯片協同工作。“協處理器不跑操作系統，而是進行AI推理加速。你可以把它當成一個NPU，”瑞芯微的工程師解釋，“需要搭配主控來用，RK3588+RK1828是我們的黃金組合。”這種“主控+協處理器”的架構，可以讓用戶可以在不推翻原有系統的前提下，通過PCIe等接口平滑升級算力。

協處理器的物理形態也越來越多樣。PCIe×16插槽（如后摩智能力謀LM5070）、PCIe×4插槽（如后摩智能力謀LM5030）、M.2接口模組（如芯動力科技AzureBlade M.2加速卡）、USB連接、甚至SO-DIMM內存插槽形態。后摩智能展臺上甚至展出了一張由兩個并排M.2接口連體的雙芯架構加速卡形態（后摩智能力擎LQ50 Due M.2卡），其上搭載的兩顆M50芯片通過C2C協議互聯，這種“可堆疊的小算力”思路，正在重塑端側AI的硬件形態。在計算架構上也百花齊放，瑞芯微、光羽芯辰、后摩智能押注NPU；算能深耕TPU路線；芯動力科技選擇了兼容CUDA生態的GPGPU；微珩科技則布局LPU。

路線分化背的后，是端側場景對“靈活性”與“算力密度”的不同權衡。瑞芯微的工作人員坦言：“協處理器和主控是解耦的，客戶的系統已經開發完了，算力不夠，直接插一個協處理器盒子就行，不影響主控業務。”

02

3D堆疊“下沉”：端側芯片的內存墻破了

今年WAIC 2026上，不僅云端芯片開始大規模押注3D堆疊技術路線，端側AI芯片也不逞多讓。3D堆疊這項技術正以意想不到的速度下沉到端側。

瑞芯微RK1828自稱是“業內首顆量產的3D堆疊端側芯片”，DRAM直接堆疊在NPU上，存儲容量可選2.5GB或5GB，理論帶寬約1TB/s。現場演示中，搭載RK1828的電視正在將普通片源實時轉為3D畫面；3B大模型的推理速度超過了100 token/s，而RK3588跑同樣模型僅十幾token/s，提升接近一個數量級。瑞芯微工程師表示，“3D堆疊對這個影響很大，大模型需要大量的存儲搬運，以前的端側芯片根本跑不動。”光羽芯辰全球首發端側大算力3D 堆疊近存算低功耗大模型推理芯片TC1000系列。依托自研3D堆疊近存算架構+存算技術+存儲分層技術，實現等效帶寬10倍躍升、同等算力功耗僅傳統方案1/3，硬核性能突破行業天花板：已實現單芯片3B模型300token/s超高速推理，并支持35B規模大模型高性能運行。現在展出的TC 1020芯片，算力達到56 TOPS@INT8，5/10GB存儲容量，7B LLM模型解碼速度＞200 Token/s，產品功耗僅8-15W。微珩科技雖然產品尚未流片，但已規劃扶光Englight-LPU芯片規格，算力達到256TFLOPS，采用3D+2D異構存儲架構，其中3D堆疊內存達10~40GB，帶寬達到5 TB/s，2D擴展存儲8~64GB，帶寬達到136 GB/s，單芯片支持200B大模型。

3D堆疊之所以在2026年集體爆發，根本原因在于Transformer推理的帶寬瓶頸已被產業界公認。光羽芯辰的技術人員一針見血：“Transformer做推理的時候就是帶寬瓶頸，跟算力關系不大。你再快的計算核心，數據搬不過來也是白搭。”不過，3D堆疊并非沒有代價，內置DRAM推高了芯片成本，且容量仍有限，5GB對于35B以上的模型依然捉襟見肘。為此，各家紛紛祭出“外掛”策略：光羽芯辰在芯片上預留了LPDDR5接口，可擴展外部內存；瑞芯微則在下一代協處理器上規劃了多顆級聯功能，多顆芯片連在一起可破百億參數。一個值得注意的產業共識正在形成：35B參數是端側Agent的“甜點尺寸”。光羽芯辰的技術人員解釋說，“35B往下的做Agent不行，能力不夠。35B是現在大家覺得能跑端側Agent的一個合理尺寸。”

03

存算一體走出實驗室：SRAM、MRAM與“真正的CIM”

如果3D堆疊解決的是“搬得快”，那么存算一體（CIM）追求的就是“不用搬”。在WAIC 2026上，存算一體不再是概念，而是已經流片、甚至量產的技術路線。

后摩智能是國內最激進的實踐者。其M50芯片已經量產，采用SRAM做存算一體核心，將運算單元直接嵌入存儲陣列中。這并非簡單的近存計算（3D堆疊屬于此類），而是電路級的存內計算，計算單元直接放在SRAM內部，結果就地存儲。“我們是國內第一家做數字存算一體的。”后摩智能的工作人員語氣篤定。后摩甚至自定義了一種“bFP16”精度格式，在性能和精度之間尋找新的平衡點。存算一體架構也帶來了很高的能效比，“存算一體在推理階段，尤其是大模型的decoding階段，能把數據搬運的開銷砍掉。”后摩的工作人員解釋，“你看我們這顆芯片只有10瓦，就能跑160 TOPS（INT8）。傳統GPU的IO成本太高了。”

寒序科技則選擇了另一條技術路線：MRAM存算一體。這家由北京大學應用磁學中心孵化的企業，采用三星8nm工藝流片，將MRAM（磁性隨機存儲器）作為存算介質，SRAM作為緩存。MRAM的優勢在于非易失性（掉電不丟數據）。“傳統GPU的顯存和計算單元是分開的，我們是真正集成在一起。”寒序科技的工作人員強調。

04

AI NAS：端側芯片的“最大公約數”

技術和產品的演進，最終都要落地到具體場景。在應用落地上，WAIC 2026給出了一個意想不到的答案：AI NAS。幾乎每家端側芯片廠商的展臺上，都能看到AI網絡存儲設備的身影。此芯科技與美高合作、算能與生態伙伴推出、瑞芯微向綠聯/瑞莎供貨……AI NAS突然成了端側AI的“最大公約數”。其背后的原因在于，NAS本身就是本地數據存儲中心，加上AI算力后，可以實現本地圖片/視頻的智能整理、自然語言檢索、隱私保護下的AI處理，數據無需上傳云端。

AIPC是另一大落地場景。此芯科技P1芯片搭載于聯想迷你主機（國補后約2500元），支持20多個智能體同時運行；而且此芯科技還是“全球首家可直接安裝標準版Windows ARM系統”的ARM架構SoC廠家，無需微軟專門適配。算能、瑞芯微也在信創筆記本領域發力，適配國產操作系統。

具身智能正在打開端側芯片的想象力天花板。此芯科技與天數智芯合作推出機器人控制器，基于NPU做物體識別與抓取；寒序科技的MRAM芯片獲銀河通用采用，瞄準機器人賽道。

05

邊界消融：端側廠商的“上云”之路

WAIC 2026最耐人尋味的趨勢，是端側與云端的邊界正在消融。端側芯片開始以分布式架構上云，組成一臺臺服務器。

此芯科技從端側SOC出發，做出了最多可搭載60顆SoC芯片的陣列服務器。據介紹，服務器每部集成60塊小板，每塊板子上只有一顆P1（CS8180）芯片、48GB（4*12GB）LPDDR5X內存（可選）和一個系統SSD，構成一個“最小計算單元”。整機由一顆BMC處理器統一管理。“傳統服務器是一個大的CPU做大的任務，我們這是把它拆開，60個小的各做各的小任務。”此芯科技的技術人員介紹。單顆P1芯片可以跑6-7路王者榮耀或16路抖音，60顆疊加，整機能支持360路游戲并發或900路抖音推流。這意味著端側芯片正在以分布式架構反攻云端。在云游戲、云手機、安卓云服務器等場景，大量輕量、并發的計算任務不需要單顆昂貴的至強CPU，反而更適合用低成本、低功耗的端側SoC堆疊處理。此芯科技透露，這類陣列服務器此前多用友商方案，“現在基本全轉到我們公司了”。

芯動力科技的GPGPU同樣橫跨兩端，端側做M.2/PCIe小卡，云端則推出集成了12顆AE7100E芯片的板卡加速卡，兼容CUDA生態。然后再將8張加速卡搭載到高密度服務器中，能支持400B到1.6TB參數的大模型部署，已落地醫療基因測序方案。這種小芯片的分布式架構為端側芯片上云提供了新解法。

算能則是另一條從邊到云路徑的典型。這家在邊緣側TPU領域深耕近十年的企業，因2024年遭受制裁一度低調，但WAIC 2026上，其云端產品線已全面回歸：搭載4個OAM模組、海光CPU的OpenClaw大龍蝦一體機，單機1P算力（FP8）；云端TPU加速卡已迭代至第二代，第三代即將發布；全球最早的服務器級RISC-V處理器也在山東大學集群落地。“我們是邊側起家，但云端和邊端都會去打。”算能工作人員表示。在大模型風口下，云端算力的需求顯然比端側更為旺盛，這也是端側廠商不得不向上延伸的根本原因。

這個時代的特征不再是單純比拼TOPS數字，而是架構創新（3D堆疊、存算一體）、形態創新（協處理器的標準化接口）、場景創新（端云邊融合）的系統競爭。3D堆疊證明端側可以跑大模型，存算一體證明低功耗可以支撐高算力，60顆SoC陣列證明端側芯片也能做云端的事。當然，挑戰依然真實：DRAM漲價壓縮利潤、先進制程代工受限、殺手級應用仍在培育、生態適配遠未完善。