IT之家 8 月 14 日消息,晚點 Auto 今天(14 日)晚間援引多個信源消息稱,理想汽車正在探索自研云端推理芯片,將采用與智駕芯片相同的數據流架構,項目仍處早期階段。
AI 數據中心普遍使用 GPU 完成模型訓練和推理,也有數據中心部署云端推理芯片。一位芯片行業人士說,云端推理芯片可以承接部分原本在 GPU 上運行的推理任務,這其中包括智駕模型的數據處理、測試、仿真,以及大語言模型的請求處理。模型訓練中涉及參數更新的部分,仍需訓練芯片。
![]()
根據業內人士,在云端使用數據流架構技術上可行。一種路徑是復用車端 NPU(AI 處理器)的計算設計,將多個 AI 計算晶粒封裝在一起,配套高帶寬內存和高速互聯,組成規模更大的推理芯片。由此,車端和云端可復用部分設計和軟件工具,分攤研發成本。
車端模型、傳感器輸入和運行節奏相對固定,主要追求低功耗、低延遲和穩定執行。而與車端芯片相比,云端芯片需要同時處理更多模型,模型更新更快,輸入長度和并發請求波動更大,還涉及高帶寬內存、多芯片互聯、動態批處理和集群調度。
據IT之家此前報道,今年早些時候,理想汽車亮相 ISCA 2026,發表題為《馬赫 M100:面向通用 AI 計算的編排式數據流架構》的主題演講,并與谷歌、Meta 等科技公司研究者同臺交流、共同探討 AI 計算架構的未來方向。自 2020 年工業分區設立以來,理想汽車是首家入選的中國汽車企業。
馬赫 M100 是全球首款基于數據流架構的大算力端側推理芯片,其采用 5nm 車規級工藝,單芯片算力 1280TOPS,最終算力利用率達 82%,并搭載 8 通道 LPDDR5X 內存,峰值帶寬 273GB/s;CPU 側配備 24 核 ARM Cortex-A78AE 處理器集群。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.