三款A(yù)I推理芯片+超節(jié)點(diǎn)異構(gòu)集群，云天勵(lì)飛WAIC重磅發(fā)布

7月18日，云天勵(lì)飛亮相2026世界人工智能大會(huì)，董事長(zhǎng)兼CEO陳寧重磅發(fā)布公司AI推理基礎(chǔ)設(shè)施路線圖。未來(lái)兩年多，企業(yè)將推出DeepVerse100P、DeepVerse100D、DeepVerse100L三款云端大算力推理芯片，分別針對(duì)Prefill、Decode、Decode FFN三大推理環(huán)節(jié)的負(fù)載特征做專項(xiàng)優(yōu)化。

依托三款專用芯片，云天勵(lì)飛將搭建萬(wàn)卡（十萬(wàn)卡）級(jí)異構(gòu)集群分離式AI推理基礎(chǔ)設(shè)施。通過(guò)解耦各推理階段，為不同負(fù)載匹配適配的芯片與算力資源，有效提升集群系統(tǒng)運(yùn)行效率，持續(xù)壓降Token生成成本。

本次發(fā)布完善了云天勵(lì)飛全棧推理算力布局，實(shí)現(xiàn)從單芯片到超大規(guī)模集群的完整技術(shù)閉環(huán)，補(bǔ)齊國(guó)產(chǎn)云端推理規(guī)?；渴鸲贪?。同時(shí)為國(guó)內(nèi)大模型產(chǎn)業(yè)筑牢自主可控算力底座，助力AI推理賽道國(guó)產(chǎn)技術(shù)突破。

推理負(fù)載持續(xù)分化，算力優(yōu)化走向精細(xì)化

當(dāng)前大模型推理場(chǎng)景加速分化，隨著AI任務(wù)上下文擴(kuò)容、推理鏈路趨復(fù)雜、實(shí)時(shí)交互要求提升，推理系統(tǒng)對(duì)吞吐、延遲、成本的綜合門檻持續(xù)提高。規(guī)?；渴鹣?，推理效率不再依賴峰值算力，而是由計(jì)算、訪存、芯片互聯(lián)與系統(tǒng)調(diào)度共同決定Token生成效率與部署成本。

模型推理各階段資源需求差異極大：Prefill階段算力密集，側(cè)重上下文集中計(jì)算；Decode階段依賴高內(nèi)存帶寬與高速訪存。伴隨MoE架構(gòu)普及，Decode的Attention與FFN模塊資源需求進(jìn)一步細(xì)分，推理負(fù)載愈發(fā)精細(xì)化，傳統(tǒng)通用算力已無(wú)法適配差異化場(chǎng)景需求。

針對(duì)推理負(fù)載細(xì)分演進(jìn)趨勢(shì)，云天勵(lì)飛推出DeepVerse100P、DeepVerse100D、DeepVerse100L三款云端大算力推理芯片，精準(zhǔn)匹配不同推理環(huán)節(jié)的專屬需求。

DeepVerse100P面向百萬(wàn)級(jí)長(zhǎng)上下文Prefill場(chǎng)景打造，有效解決傳統(tǒng)混部架構(gòu)下Prefill與Decode資源搶占痛點(diǎn)，規(guī)避長(zhǎng)文本預(yù)處理拖累整體推理吞吐的問(wèn)題，適配超大上下文預(yù)處理需求。

DeepVerse100D聚焦Decode環(huán)節(jié)，搭載專用推理引擎，內(nèi)存性能大幅領(lǐng)先主流芯片，支持1024卡大規(guī)模擴(kuò)容與光互聯(lián)架構(gòu)。通過(guò)動(dòng)態(tài)光路直連與實(shí)時(shí)網(wǎng)絡(luò)重構(gòu)，規(guī)避傳統(tǒng)組網(wǎng)的轉(zhuǎn)發(fā)擁堵與延遲損耗，降低通信尾延遲，顯著提升Token輸出穩(wěn)定性。

DeepVerse100L針對(duì)Decode階段FFN計(jì)算密集特性定制，采用3D Memory架構(gòu)，大幅提升內(nèi)存帶寬。依托低延遲互聯(lián)與激活數(shù)據(jù)高速傳輸能力，提升計(jì)算與通信并行處理效率，精準(zhǔn)適配高密度推理計(jì)算場(chǎng)景。

構(gòu)建面向萬(wàn)卡（十萬(wàn)卡）異構(gòu)集群的分離式AI推理基礎(chǔ)設(shè)施

隨著AI推理進(jìn)入規(guī)模化部署階段，算力系統(tǒng)的優(yōu)化范圍正在由單顆芯片向集群和基礎(chǔ)設(shè)施延伸。

在萬(wàn)卡規(guī)模的推理集群中，系統(tǒng)效率并非單卡性能的簡(jiǎn)單疊加。不同推理負(fù)載對(duì)計(jì)算、內(nèi)存和通信資源的需求存在明顯差異。與此同時(shí)，隨著集群規(guī)模擴(kuò)大，通信阻塞、資源等待和尾延遲等問(wèn)題也會(huì)進(jìn)一步影響整體推理效率。

因此，提升Token生成效率，除了優(yōu)化單顆芯片性能，還需要對(duì)推理過(guò)程中的計(jì)算、訪存、互聯(lián)和資源配置進(jìn)行系統(tǒng)級(jí)設(shè)計(jì)。

基于DeepVerse100P、DeepVerse100D和DeepVerse100L，云天勵(lì)飛計(jì)劃構(gòu)建面向萬(wàn)卡（十萬(wàn)卡）異構(gòu)集群的分離式AI推理基礎(chǔ)設(shè)施。按照Prefill、Decode和Decode FFN的不同負(fù)載特征，分別配置相應(yīng)芯片和資源池，并通過(guò)高速互聯(lián)形成協(xié)同運(yùn)行的異構(gòu)算力系統(tǒng)。

這一架構(gòu)圍繞Token生成全過(guò)程進(jìn)行系統(tǒng)優(yōu)化。通過(guò)對(duì)不同推理階段進(jìn)行分離，降低不同負(fù)載之間的資源干擾，并根據(jù)實(shí)際需求配置計(jì)算、訪存和通信資源，從而提升集群資源利用率和整體推理效率。

從面向特定推理負(fù)載進(jìn)行芯片優(yōu)化，到不同芯片之間的協(xié)同，再到萬(wàn)卡級(jí)異構(gòu)集群，云天勵(lì)飛正在將AI推理算力的優(yōu)化范圍由單顆芯片擴(kuò)展至整個(gè)基礎(chǔ)設(shè)施。

軟件棧支撐異構(gòu)集群落地

硬件異構(gòu)程度和集群規(guī)模提升，也對(duì)模型適配、算子優(yōu)化、編譯部署和系統(tǒng)調(diào)度提出了更高要求。圍繞DeepVerse芯片及其集群應(yīng)用，云天勵(lì)飛持續(xù)建設(shè)IFWA軟件棧，覆蓋AI模型開(kāi)發(fā)、編程和系統(tǒng)等層級(jí)。

在兼容性方面，IFWA圍繞Transformer主流架構(gòu)完善PyTorch ATen算子的適配和性能優(yōu)化，并加強(qiáng)對(duì)vLLM、SGLang等主流推理框架的支持。公司還通過(guò)開(kāi)源Houmao多Agent異構(gòu)編程框架，以及將成熟的Triton算子能力融入FlagOS，提高模型和算子的適配效率。

從三款專用芯片到萬(wàn)卡異構(gòu)集群，再到IFWA軟件棧，云天勵(lì)飛此次公布的路線圖并非單一芯片的性能升級(jí)，而是圍繞Token生成全過(guò)程展開(kāi)系統(tǒng)級(jí)優(yōu)化。面向“百億Token一分錢”的長(zhǎng)期目標(biāo)，公司希望通過(guò)芯片、互聯(lián)、軟件和系統(tǒng)協(xié)同，形成服務(wù)于大規(guī)模Token生成的“推理工廠”，持續(xù)提高集群資源利用率和算力產(chǎn)出效率。

“百億Token一分錢”的愿景

Token成本優(yōu)化是一項(xiàng)貫穿軟硬件、技術(shù)研發(fā)與場(chǎng)景落地的全產(chǎn)業(yè)鏈系統(tǒng)工程。今年5月，云天勵(lì)飛牽頭聯(lián)合聯(lián)想集團(tuán)、龍芯中科、新華三半導(dǎo)體、通富微電、硅基流動(dòng)等數(shù)十家產(chǎn)業(yè)鏈龍頭企業(yè)、科研院校及行業(yè)機(jī)構(gòu)，共同發(fā)起簽署“1001計(jì)劃”產(chǎn)業(yè)倡議，搭建國(guó)產(chǎn)AI算力協(xié)同降本的產(chǎn)業(yè)生態(tài)平臺(tái)。

該計(jì)劃核心圍繞提升Token生成效率、極致壓降Token使用成本，打破產(chǎn)業(yè)協(xié)同壁壘。通過(guò)生態(tài)深度聯(lián)動(dòng)，將終端應(yīng)用與模型研發(fā)需求前置到芯片設(shè)計(jì)、系統(tǒng)架構(gòu)搭建源頭，復(fù)用成熟軟件技術(shù)能力，加速國(guó)產(chǎn)AI芯片與算力基礎(chǔ)設(shè)施的場(chǎng)景落地與規(guī)?；逃谩?/p>

云天勵(lì)飛提出“百億Token一分錢”的愿景目標(biāo)，重塑了國(guó)產(chǎn)AI算力的產(chǎn)業(yè)發(fā)展范式。目標(biāo)直指AI算力高成本、難規(guī)?；暮诵耐袋c(diǎn)，引領(lǐng)算力普惠化發(fā)展新賽道。通過(guò)全棧技術(shù)創(chuàng)新與產(chǎn)業(yè)鏈協(xié)同降本，打破高端算力成本壁壘，推動(dòng)國(guó)產(chǎn)AI算力從“可用”邁向“普惠可用”。這將大幅降低全社會(huì)智能化轉(zhuǎn)型成本，筑牢我國(guó)AI產(chǎn)業(yè)規(guī)模化、高質(zhì)量發(fā)展的核心算力根基。

編輯：芯智訊-浪客劍