近年來,AI行業風起云涌,從大語言模型到具身智能,前沿科技百花齊放。對安謀科技而言,自提出“All in AI”產品戰略以來,公司先后發布了“周易”X3 NPU IP、代號“白馬”的山海SPU IP以及玲瓏系列峨眉VPU IP,構建了一套覆蓋云、邊、端的完整AI矩陣。
![]()
2026年7月18日,在上海世博展覽館召開的“世界人工智能大會”現場,安謀科技舉辦了一場聚焦端側AI的發布會,安謀科技CPU產品總監朱曉鳴帶來了題為《STAR CPU Helium以及Ethos賦能萬物AI》的演講,系統闡述了公司對于端側AI的發展思路與解決方案。
萬物AI時代來臨,端側設備從“連接”走向“認知”
當前,隨著模型小型化與智能化水平的不斷提升,正推動端側AI從概念驗證走向規模化落地,過去以“連接”為核心的IoT(萬物互聯),正在加速轉向以“認知”為標志的AIoT(萬物智聯)演進。
此前業界普遍認為,達到MMLU基準測試60分及格線的模型,才具備初步的商用條件。而在2022至2023年,這需要數百億(>100B)參數的模型規模。但得益于算法的快速演進,到2025至2026年,接近10億(1B)參數體量的模型也能跨越這條商用門檻。這意味著,原本只能運行在云端的強大AI能力,現在有機會被裝進指甲蓋大小的端側芯片中,終端普惠的“AIoT”時代正加速到來。
![]()
朱曉鳴也指出:“IoT是連接萬物,AIoT是認知萬物。”這一轉變有幾個顯著特點:系統從強調互聯轉向強調認知能力;端側設備從被動響應進化為具備主動性;計算從單純的數據采集,發展到邊、端側能夠承載一定規模的本地計算;設備的部署也從靜態的數據收集器,演變為具備自我進化能力的智能體。
![]()
他進一步指出了驅動這一變革的四大核心動力:
數據重心在端側:端側設備是物理世界最直接的感知觸點。
數據主權與隱私:用戶不希望所有高度私密的實時數據都上傳至云端。
實時性與自主性:端側AI交互需要實時響應,無法像云端那樣等待數秒的思考鏈。
低功耗技術長足發展:輕量級芯片技術為端側設備的長續航提供了基礎。
市場需求與受限資源的博弈
然而,從IoT轉向AIoT這條演進之路并非坦途。對于海量的嵌入式設備而言,部署AI始終面臨著功耗、時延、存儲等多重資源約束。如何在指甲蓋大小的芯片上,讓AI推理跑得既快又省電,是擺在每一位芯片設計者面前的現實考題。
在朱曉鳴看來,一個具備決策能力的端側AI系統架構,它需要三種算力:Always-on(始終在線) 的低功耗感知系統、作為控制與邏輯核心的通用CPU以及處理復雜任務的AI加速器。同樣,這一切都建立在一個功耗、時延、存儲、成本等眾多資源的限制之下。他強調:“端側的AI并非資源無限、‘子彈’無限的AI,而是一個資源極度受限的AI。”
![]()
這就形成了市場需求與物理限制之間的激烈博弈:用戶希望端側AI擁有強大的推理能力、能處理更多的上下文數據,并且永遠在線。但工程師們面臨的現實是有限的電池能源、與CPU能力綁定的實時計算能力,以及更為嚴峻的“內存墻”和“帶寬墻”瓶頸。如何在這種平衡木上挖掘出最大的AI計算潛力,成為核心課題。
![]()
技術破局:“星辰”之下的三條并行路徑
針對此矛盾,安謀科技規劃了三條并行不悖的技術路徑:
![]()
路徑一:CPU指令集擴展,走“通通一體”之路。 在通用CPU基礎上,增加向量和張量處理指令,將通用計算與AI計算高效融合。
路徑二:引入通用小算力NPU。 通過專用處理器(如Arm Ethos系列)卸載并加速CPU不擅長的矩陣計算,其特點是泛化性強、生態友好,可與CPU靈活耦合或解耦。
路徑三:探索存內計算。 尤其在SRAM上實現存內計算,針對特定算法優化,可獲得極高的能效比。
基于前兩條成熟路徑,Arm生態推出了由三部分組成的一整套嵌入式AI計算IP解決方案。
![]()
第一部分是A-M系列CPU,其面效比和能效比極高,特別是從Armv8.1-M架構開始集成的Helium矢量擴展指令集,大大提升了向量處理能力。
![]()
朱曉鳴通過具體案例展示了Helium技術的威力。在音頻編解碼場景中,搭載Helium的Cortex-M52、M55、M85相較于未搭載的前代產品M4,性能分別提升了30%、50%和65%。而在機器學習任務中,優勢更為驚人,平均性能提升達到3倍,在部分特定測試用例中甚至有8倍以上的提升,這是Helium指令集優勢的集中體現。
![]()
第二部分是面向特定需求優化的Cortex-A系列產品線引入了SVE2?(Scalable Vector Extension 2),旨在顯著提升向量處理和機器學習(ML)性能。它是對原有 Neon SIMD 引擎的演進,提供了更靈活的向量長度和更強的數據處理能力。
第三部分則是Ethos系列NPU,其設計不追求極致算力,而是聚焦面積與功耗,為端側設備提供關鍵算力補充。
而Ethos NPU(包括U55、U65、U85三代產品,可提供從64 GOPS到4 TOPS的算力)則讓應用場景得以大幅擴展。對于簡單的音頻檢測等任務,CPU足以勝任;但當擴展到視覺識別、實時交互乃至語言模型時,算力需求激增,此時Ethos NPU的加入便能覆蓋幾乎所有端側AI場景。
![]()
“M核和A核是基座,Ethos NPU是非常強的補充,它們結合基本能解決所有端側場景的AI需求。”朱曉鳴總結道。
下一代星辰CPU曝光
最后,朱曉鳴還特別介紹了安謀科技自研的“星辰”(STAR)CPU產品線。該系列已發布三款產品,從第二代產品STAR-MC2開始,就已全面支持Arm Helium技術,STAR-MC3同樣支持。
安謀科技還透露正在研發當中的代號為“天璇”的下一代星辰系列CPU,依然是基于Armv8.1-M指令集架構,但是帶來了高性能的標量和矢量兩種計算能力。Dhrystone性能達到了2.5 DMIPS/MHz,說明每MHz主頻可執行250萬條整數指令。假設運行在1GHz,則單核整數性能約2500 DMIPS,在嵌入式領域屬于較高水平。
![]()
此外,“天璇”還支持Dual Beats MVE,即每個周期可處理兩個矢量單元,相比上一代單周期處理能力,矢量運算效率提升約一倍,對端側AI和音頻/視覺信號處理增益顯著。同時,還支持FuSa ASIL-D車規功能安全等級。這意味著該CPU可用于自動駕駛、線控底盤等對安全苛求的系統,具備硬件級的故障檢測與冗余機制。
星辰300平臺發布
安謀科技CPU團隊還推出了“星辰300”平臺,將支持Helium技術的STAR-MC2(即Cortex-M52)CPU和Ethos-U55 NPU做了無縫對接,組成了高效的異構計算平臺,可以全面支持主流小模型,從傳統MCU拓展出AI算力,為嵌入式設備加上AI引擎。
![]()
現場展示的“星辰300”原型驗證FPGA平臺部署了6個端側主流AI模型,演示案例生動展示了其在真實場景下的處理能力。
比如在實時人臉探測場景,如果只用一顆CPU,比如在門禁系統中跟蹤單顆人臉能做到,但是加了Ethos NPU之后能同時跟蹤五六個人臉,能力得到了大幅提升。
結語:
從星辰CPU到Helium矢量擴展,再到Ethos NPU,安謀科技正以“通用計算+專用加速”的組合拳,為端側AI在功耗、成本與算力的多重約束下,鋪就一條清晰的Arm生態路徑。可以說,當端側設備從“連接”走向“認知”,安謀科技正以“All in AI”的戰略定力,為萬物智聯時代筑牢算力基座。
編輯:芯智訊-浪客劍
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.