英偉達(dá)GPU統(tǒng)治力下滑？定制芯片（ASIC）開始搶占推理市場

如何看待「定制化 AI 芯片和通用 GPU 的競爭」，誰會(huì)成為 AI 算力的主要趨勢？如果說，AI基礎(chǔ)設(shè)施競賽中上半場的贏家是英偉達(dá)（Nvidia）的話，那么下半場一定是屬于博通（Broadcom）的。在AI發(fā)展的早期階段，英偉達(dá)（Nvidia） 憑借通用 GPU 與 CUDA 生態(tài)壟斷訓(xùn)練市場，成為絕對(duì)贏家；而在下半場，大模型進(jìn)入推理與規(guī)模化部署階段，隨著主要大模型廠商轉(zhuǎn)向定制化 ASIC 與基礎(chǔ)設(shè)施，博通（Broadcom） 憑借云廠商深度綁定、ASIC 設(shè)計(jì)與網(wǎng)絡(luò)芯片壟斷，成為新的主導(dǎo)者。

它們并非簡單的替代關(guān)系，而是基于“訓(xùn)練”與“推理”兩大場景的分工與共存。未來的AI算力格局將是“通用GPU主導(dǎo)訓(xùn)練，定制ASIC主導(dǎo)推理”的協(xié)同模式。畢竟報(bào)道中說的是博通這個(gè)定制化AI芯片核心能力是做推理。

通用GPU（以英偉達(dá)CUDA生態(tài)為代表）統(tǒng)治“訓(xùn)練”市場，它的核心優(yōu)勢是優(yōu)是無與倫比的靈活性和強(qiáng)大的軟件生態(tài)。AI模型的訓(xùn)練過程需要頻繁迭代、嘗試不同的網(wǎng)絡(luò)結(jié)構(gòu)和算法。GPU的通用計(jì)算架構(gòu)和CUDA生態(tài)（擁有數(shù)百萬開發(fā)者）能完美支持這種創(chuàng)新和探索，是科研和開發(fā)的不二之選。

但也有劣勢，那就是成本和能耗過高。GPU為了通用性犧牲了能效比，在執(zhí)行已經(jīng)定型的AI模型（即推理任務(wù)）時(shí)，其高昂的功耗和采購成本成為巨大負(fù)擔(dān)。

但定制ASIC（以云廠商自研芯片為代表）正在顛覆“推理”市場、它的優(yōu)勢就是有極致的性價(jià)比和能效比。ASIC是為特定計(jì)算任務(wù)（如大模型推理）量身打造的“專用硬件”，舍棄了通用計(jì)算的冗余部分，能效比遠(yuǎn)超GPU。對(duì)于云廠商而言，在模型商業(yè)化部署的推理階段，使用ASIC可以將總擁有成本（TCO）降低40%-65%。

不過也有缺陷，例如缺乏靈活性，生態(tài)綁定深。ASIC一旦設(shè)計(jì)完成，其硬件架構(gòu)就固定了，難以適應(yīng)未來可能出現(xiàn)的全新模型結(jié)構(gòu)。同時(shí)，各廠商的ASIC（如谷歌TPU、亞馬遜Trainium）都有各自的軟件棧，存在生態(tài)遷移成本。

那有可能會(huì)被顛覆嗎？

短期不可能，因?yàn)橛?xùn)練市場，因?yàn)橛泻軓?qiáng)的英偉達(dá)的“護(hù)城河”，這個(gè)市場依然非常堅(jiān)固，在可預(yù)見的未來，英偉達(dá)憑借其CUDA生態(tài)，在高端AI模型訓(xùn)練市場將繼續(xù)保持90%以上的絕對(duì)主導(dǎo)地位。AMD等競爭對(duì)手在短期內(nèi)難以撼動(dòng)其地位。對(duì)于需要從零開始創(chuàng)新的模型訓(xùn)練，GPU的靈活性是不可替代的。

而定制化定制ASIC的“主戰(zhàn)場”在推理

隨著AI應(yīng)用的普及，推理任務(wù)的算力需求已占總量的三分之二。在這個(gè)市場，成本和能效是決定性因素。因此，我們看到：云巨頭自研芯片全面開花：谷歌TPU、亞馬遜Trainium/Inferentia、微軟Maia已大規(guī)模部署，處理各自云服務(wù)的大部分推理負(fù)載，并開始向外部客戶（如Anthropic, OpenAI）提供服務(wù)。權(quán)威機(jī)構(gòu)預(yù)測，最快到2027年，全球出貨的AI芯片中，ASIC將首次超過GPU。到2028年，英偉達(dá)在推理市場的份額可能從現(xiàn)在的90%以上，暴跌至20%-30%。

那有網(wǎng)友就問了，那國產(chǎn)AI芯片華為昇騰和寒武紀(jì)這樣的AI芯片究竟算是推理芯片還是訓(xùn)練芯片呢？

嚴(yán)格以上說，華為昇騰和寒武紀(jì)等中國AI芯片，也屬于“定制化AI芯片”的范疇，但它們走的是與云巨頭不同的“獨(dú)立生態(tài)”路線。它們都試圖通過定制化設(shè)計(jì)，在特定場景（尤其是推理）下，挑戰(zhàn)英偉達(dá)的統(tǒng)治地位，并提供更具性價(jià)比的方案。例如，昇騰910B2在推理性能上表現(xiàn)出色，已成為國內(nèi)政企市場的主流選擇。

不過和博通的這個(gè)有區(qū)別，關(guān)鍵區(qū)別在于生態(tài)定位不同和兼容性不同！

谷歌、亞馬遜的ASIC主要是服務(wù)自身云業(yè)務(wù)，是其云計(jì)算服務(wù)的一部分。而昇騰、寒武紀(jì)是獨(dú)立的芯片供應(yīng)商，需要構(gòu)建從硬件到軟件（如昇騰的CANN）的完整生態(tài)，并與CUDA競爭。而且兼容性也不同，部分國產(chǎn)GPU（如沐曦）選擇兼容CUDA生態(tài)以降低遷移成本，但昇騰、寒武紀(jì)等都有各自的獨(dú)立軟件棧，用戶需要進(jìn)行應(yīng)用適配，這既是挑戰(zhàn)，也是其構(gòu)建自主生態(tài)的長期策略。

所以我們需要知道未來AI算力的主要趨勢不是“誰取代誰”，而是通用GPU主導(dǎo)訓(xùn)練，定制ASIC主導(dǎo)推理的協(xié)同分工模式。

簡單說，上半場英偉達(dá)靠GPU和CUDA生態(tài)贏麻了，但下半場博通這類定制化芯片廠商正在推理市場逆襲。本來嘛，GPU強(qiáng)在靈活性和生態(tài)，適合模型訓(xùn)練這種“不斷試錯(cuò)”的活兒；但到了推理階段，模型已經(jīng)定型，成本和能效才是王道，定制ASIC能把總擁有成本砍掉40%-65%。

目前推理算力需求已占總量三分之二，云巨頭們（谷歌TPU、亞馬遜Trainium等）都在自研ASIC大規(guī)模部署。權(quán)威預(yù)測最快2027年，全球AI芯片出貨中ASIC將首次超過GPU。至于國產(chǎn)芯片（華為昇騰、寒武紀(jì)），它們走的是獨(dú)立生態(tài)路線，在推理場景下性價(jià)比突出，但需要用戶做應(yīng)用適配。總結(jié)一下：短期英偉達(dá)訓(xùn)練霸主地位難撼，但推理市場已成定制化芯片的天下。對(duì)此大家是怎么看的，歡迎關(guān)注我“創(chuàng)業(yè)者李孟”就和我一起交流！