![]()
智東西
編輯 智東西編輯部
智東西7月10日?qǐng)?bào)道,7月2日至3日,以“范式躍遷 重塑世界”為主題的2026中國AI智能體大會(huì)在杭州圓滿舉行。大會(huì)集結(jié)了64位重量級(jí)嘉賓,通過1場(chǎng)開幕式、2場(chǎng)論壇、7場(chǎng)閉門研討會(huì)對(duì)Agent賽道核心議題進(jìn)行全鏈路解析,主題涵蓋Harness、自進(jìn)化Agent、Coding Agent、多Agent協(xié)同和Skills等。
會(huì)上,原粒半導(dǎo)體創(chuàng)始人兼CEO方紹峽以《Agent Computer:重新定義計(jì)算范式與硅基底座》為主題發(fā)表演講,系統(tǒng)闡述了Agent Computer的構(gòu)想,并提出Agent時(shí)代需要重新定義計(jì)算平臺(tái)、芯片架構(gòu)和算力評(píng)價(jià)標(biāo)準(zhǔn)。
方紹峽提出,AI正從“回答問題”走向“完成工作”,下一代計(jì)算平臺(tái)Agent Computer將誕生,芯片的評(píng)價(jià)標(biāo)準(zhǔn)也將從“峰值算力”轉(zhuǎn)向“單位能耗與成本下的任務(wù)完成效率”。
方紹峽將AI的演進(jìn)劃分為三個(gè)階段:從“工具”到“助手”,再到“員工”。當(dāng)AI進(jìn)入“員工”階段,它需要一臺(tái)專屬電腦,即Agent Computer。
他認(rèn)為,AI PC只是在電腦里加AI功能,無法滿足Agent的需求。人類與Agent天然存在資源、安全、長(zhǎng)駐和系統(tǒng)邏輯四個(gè)沖突。
針對(duì)Agent Computer,原粒半導(dǎo)體提出芯片設(shè)計(jì)的4個(gè)原則,一是記憶優(yōu)先、二是長(zhǎng)上下文優(yōu)先、三是Agent必須7 × 24小時(shí)長(zhǎng)駐、四是能效優(yōu)先。
方紹峽認(rèn)為,Agent的算力載體將從大Batch的GPU集群走向推理內(nèi)存與調(diào)度耦合的異構(gòu)系統(tǒng)。未來真正的競(jìng)爭(zhēng)不是峰值算力有多高,而是“丟給你一個(gè)復(fù)雜任務(wù),能不能更快更穩(wěn)定地完成”。
以下是演講實(shí)錄:
大家好,我是原粒半導(dǎo)體CEO方紹峽。我們作為一家芯片設(shè)計(jì)公司,正好借這個(gè)機(jī)會(huì)跟大家探討一下:如果我們?yōu)锳gent設(shè)計(jì)一臺(tái)專屬電腦,它會(huì)對(duì)計(jì)算范式和芯片設(shè)計(jì)帶來什么樣的變化。
一、AI正從“工具”走向“員工”,Agent需要一臺(tái)自己的電腦
過去三年,整個(gè)行業(yè)圍繞著大模型討論了很多,包括模型有多大、跑分有多高、上下文有多長(zhǎng)、有多快。這些問題非常重要,但它更多的是在衡量“回答”,衡量“回答”的好不好。
但是Agent時(shí)代的問題不止于此,我們真正關(guān)心的是當(dāng)AI開始替人工作后,在下一代的計(jì)算機(jī)里,它應(yīng)該長(zhǎng)什么樣?歷史上的每一次計(jì)算主體、計(jì)算邏輯的切換,其實(shí)都會(huì)帶來一些全新的硬件、全新的軟件生態(tài),Agent的時(shí)代也不例外。
我們可以把AI的演進(jìn)分成三個(gè)階段。第一個(gè)階段AI是“工具”,它就像搜索引擎、翻譯器在推薦系統(tǒng),人在前面操作,它在背后輔助;第二個(gè)階段是“助手”,它幫我們寫郵件,寫代碼、寫周報(bào),但最終還是圍繞著咱們?nèi)祟惖募磿r(shí)交互展開;第三個(gè)階段,也是我們非常期待的下一個(gè)階段,就是它越來越像“員工”,它有它的任務(wù)、它有它的權(quán)限、它有它的記憶、它有它的工作流和任務(wù)目標(biāo)。
![]()
如果AI只是工具的話,它可以住在人的電腦里面。但如果它是員工,它就需要自己的工作環(huán)境、自己的系統(tǒng)、自己的數(shù)據(jù)邊界。當(dāng)AI成為員工,它就需要自己的電腦。
回看整個(gè)計(jì)算機(jī)歷史產(chǎn)業(yè),我們會(huì)發(fā)現(xiàn)每一代平臺(tái)其實(shí)都不是上一代平臺(tái)的簡(jiǎn)單增強(qiáng)或是替換。從大型機(jī)時(shí)代,一直到PC時(shí)代,再到智能手機(jī),再到云計(jì)算。每一次平臺(tái)遷移,都會(huì)重寫整個(gè)產(chǎn)業(yè)的分工,也會(huì)重塑整個(gè)硬件軟件和應(yīng)用生態(tài)之間的關(guān)系。
![]()
今天的Agent Computer對(duì)應(yīng)的是一個(gè)全新的階段。我們的計(jì)算進(jìn)入了數(shù)字勞動(dòng)力的時(shí)代。那問題是“誰”,或者“我們”怎么樣來定義這個(gè)新的平臺(tái)?它的操作系統(tǒng)是什么?它的硬件是什么?它的數(shù)據(jù)邊界在哪里?這也是我們非常關(guān)注的問題。
我們相信,智能體時(shí)代,它不是簡(jiǎn)單的把更多的GPU的算力去放在云端,也不是簡(jiǎn)單的在現(xiàn)有的PC里面去加一個(gè)AI的功能鍵,而是會(huì)誕生一個(gè)全新的計(jì)算平臺(tái)。
二、AI PC不夠用,Agent需要一套完全獨(dú)立的計(jì)算系統(tǒng)
很多人可能會(huì)問,我現(xiàn)在有AI PC,那我為什么還需要Agent Computer?主要是因?yàn)锳gent它的工作負(fù)載和我們?nèi)祟惖腜C的工作負(fù)載是存在天然沖突的。
![]()
第一是資源沖突。生產(chǎn)力Agent,比如大家在蘋果筆記本跑個(gè)大模型,風(fēng)扇可能就轉(zhuǎn)得非常快。它一旦啟用,會(huì)把我們整個(gè)內(nèi)存容量、帶寬,包括整個(gè)算力都占用。如果它和我們的日常主力辦公機(jī)共用資源的話,它會(huì)嚴(yán)重影響我們的工作。
第二是安全沖突。Agent它需要去訪問我們的文件,訪問瀏覽器、代碼庫、數(shù)據(jù)庫,包括我們的OA系統(tǒng),甚至審批系統(tǒng)。如果說這些權(quán)限全部都暴露在主力設(shè)備上,那么風(fēng)險(xiǎn)會(huì)快速放大。
第三是長(zhǎng)駐沖突,就像剛才專家也提到了,我是不是筆記本合上了,Agent也下班了。我們的人類電腦會(huì)休眠、會(huì)斷網(wǎng)、會(huì)關(guān)機(jī),但是Agent它需要7 x 24小時(shí)的在線處理問題。
第四是系統(tǒng)邏輯的沖突。過去,OS、鍵盤、鼠標(biāo)和屏幕這一系列機(jī)制其實(shí)都是為我們?nèi)祟惖募磿r(shí)交互設(shè)計(jì)的。但Agent本質(zhì)上是一種異步任務(wù)、狀態(tài)管理、長(zhǎng)期調(diào)度和工作流的編排。所以我們提出了AI PC,就是電腦里加入AI。但是Agent Computer是為AI重新發(fā)明電腦。
當(dāng)Agent擁有更高級(jí)的執(zhí)行權(quán),那數(shù)據(jù)安全就不再是簡(jiǎn)單的合規(guī)問題,而是計(jì)算架構(gòu)問題。因?yàn)锳gent不光要讀取你的文件和信息,它還會(huì)行動(dòng),它需要知識(shí)權(quán)限、行為權(quán)限,甚至需要系統(tǒng)的權(quán)限。
![]()
我們?nèi)祟愂澜缋锩嬗幸痪湓捊凶觯瑣徫辉礁撸愕呢?zé)任越大。對(duì)于Agent來講,其實(shí)還多了一個(gè)問題,它權(quán)限越深價(jià)值越大,隨之而來的風(fēng)險(xiǎn)也越大。如果高價(jià)值的數(shù)據(jù)完全依賴云端去流轉(zhuǎn),對(duì)于企業(yè)和個(gè)人來講,都會(huì)面臨一個(gè)比較嚴(yán)重的問題,就是它的數(shù)據(jù)邊界是不可控的。
因此未來真正安全可信的Agent系統(tǒng),它需要有一個(gè)用戶可控、物理存在的本地計(jì)算實(shí)體。這不是簡(jiǎn)單的數(shù)據(jù)放在哪里的問題,而是我們作為新一代的計(jì)算機(jī)架構(gòu)必須要回答的一個(gè)問題。
過去,大模型主要學(xué)習(xí)公域知識(shí),包括互聯(lián)網(wǎng)網(wǎng)頁、代碼庫,這些公域數(shù)據(jù)讓大模型獲得了通用能力。但是大家也看到一點(diǎn),就是高質(zhì)量公域數(shù)據(jù)的紅利正在遞減,未來真正驅(qū)動(dòng)Agent生產(chǎn)力的將會(huì)是私域數(shù)據(jù)。
![]()
大模型過去學(xué)會(huì)了世界知識(shí),但是Agent要學(xué)習(xí)的是我們每個(gè)人的個(gè)人知識(shí)。所以未來最稀缺的資產(chǎn),其實(shí)不是模型,而是記憶。正因如此,記憶它必須要是私域的、本地的、可信的并且長(zhǎng)期存在的物理承載。
我們?cè)倏纯创蠹曳浅jP(guān)注的Agent成本問題。在過去把大模型當(dāng)聊天工具的階段,我們會(huì)發(fā)現(xiàn),一次對(duì)話其實(shí)也就消耗這種幾百到1000的token,這個(gè)成本非常可控。因?yàn)槲覀內(nèi)祟惖拈喿x速度是有限的,我們跟它的交互頻次也是有限的。
![]()
但是Agent的工作模式完全不同。當(dāng)智能體開始執(zhí)行一個(gè)復(fù)雜任務(wù),它的后臺(tái)可能經(jīng)過幾百次異步的推理跟交互。一次復(fù)雜的任務(wù)可能消耗幾百萬甚至到千萬級(jí)的token。如果你作為一個(gè)企業(yè),那么你不可能只部署一個(gè)Agent,可能部署10個(gè)、100個(gè)甚至上千個(gè)Agent。在這種情況下,云端的推理成本會(huì)大幅上升。
這里并不是說云端推理未來就消失了,云端非常重要。但是智能體它作為一種長(zhǎng)期的、可持續(xù)的生產(chǎn)力,它必須要有一個(gè)本地成本的錨點(diǎn)。如果沒有這個(gè)錨點(diǎn)的話,數(shù)字員工這種新型的生產(chǎn)力,它的規(guī)模化部署、它的天花板就會(huì)被定的比較低,它就會(huì)局限在成本的天花板上,沒辦法大規(guī)模的推廣。
三、Agent電腦不拼峰值算力,拼“長(zhǎng)任務(wù)承載能力”
我們?cè)倏纯茨P捅旧淼囊恍┬伦兓_^去我們經(jīng)常講小模型夠用就好。進(jìn)入智能體時(shí)代,什么是夠用?它的定義也在發(fā)生變化。小模型可以降低交互的門檻,但真正決定生產(chǎn)力上限的往往是更大的模型、更長(zhǎng)的上下文和更強(qiáng)的多步推理能力。
![]()
我們看整個(gè)模型的尺寸,從7GB、14GB到32GB、70GB,再到100G、200GB,再到500GB往上。不同模型它的能力對(duì)應(yīng)的任務(wù)復(fù)雜度在不斷變化。所以這里有一個(gè)核心的變化,就是我們的階段從answer變成了work。當(dāng)我們對(duì)模型或者對(duì)智能體的目標(biāo),從期待它回答的還不錯(cuò),到期待它工作完成的不錯(cuò)。這里其實(shí)我們對(duì)模型的大小,什么叫夠用,這樣的要求都會(huì)重新的去做定義。
我們看整個(gè)AI coding,其實(shí)它是觀察Agent的工作負(fù)載的典型場(chǎng)景,一個(gè)簡(jiǎn)單的單文件函數(shù)修改,可能也就用個(gè)幾千、一萬多token。但是進(jìn)入較復(fù)雜的任務(wù),比如說多文件的bug修復(fù)、新模塊的開發(fā),包括跨模塊的重構(gòu),token的消耗都會(huì)快速上升。
![]()
那如果我們進(jìn)入理想化的7 x 24小時(shí)長(zhǎng)周期的駐留任務(wù),token需求可能就到百萬級(jí)、千萬級(jí)。這里有一個(gè)非常重要的變化,Agent的上下文,其實(shí)不是一次性的輸入,它包含了整個(gè)任務(wù)狀態(tài)代碼庫,包括日志工具的返回結(jié)果、自我修正的軌跡,以及多輪的決策滾動(dòng)的迭代的一個(gè)過程。
所以本地設(shè)備的核心目標(biāo)、它的指標(biāo),正在從我們過去強(qiáng)調(diào)的峰值算力,去轉(zhuǎn)向長(zhǎng)任務(wù)的承載能力。誰能夠承載更長(zhǎng)的上下文、更長(zhǎng)的任務(wù),更長(zhǎng)的上下文以及更穩(wěn)定的狀態(tài),誰就擁有更好的Agent時(shí)代的Computer底座。
我們?cè)賮砜匆幌略谟布?guī)格上大家非常關(guān)注的模型內(nèi)存,就是顯存的尺寸。大家可以看到24GB這種顯存,可以提供到入門級(jí)基礎(chǔ)體驗(yàn)。128GB的本地模型內(nèi)存,就可以開始支持工作流的常駐。256GB甚至到512GB的本地模型內(nèi)存,就可以開始進(jìn)入到本地常駐生產(chǎn)力的底座門檻。
![]()
所以Agent的時(shí)代,本地智能體設(shè)備的競(jìng)爭(zhēng),不再只是峰值算力,不是單純?nèi)タ碩OPS(整數(shù)算力)或者TFLOPS(浮點(diǎn)算力),更重要的是本地的模型內(nèi)存有多大、帶寬是否足以匹配、長(zhǎng)任務(wù)的狀態(tài)是否能夠穩(wěn)定的駐留。Agent生產(chǎn)力邊界也越來越取決于本地的可用內(nèi)存和帶寬。
四、Agent時(shí)代,拆解AI芯片設(shè)計(jì)四大原則
在傳統(tǒng)的計(jì)算里面,我們一般強(qiáng)調(diào)TOPS高,你就是一顆更厲害的芯片。但是對(duì)于Agent來講,它的工作負(fù)載不是單一的矩陣乘法。
對(duì)我們做芯片設(shè)計(jì)來講,它的取向和設(shè)計(jì)目標(biāo)也發(fā)生了比較大的變化。它是一個(gè)推理、記憶、檢索,包括工具調(diào)用與狀態(tài)調(diào)度的復(fù)合系統(tǒng)。
傳統(tǒng)通用服務(wù)器GPU的架構(gòu),非常適合大Batch、規(guī)則化、高吞吐的矩陣計(jì)算。這也是我們當(dāng)下云端訓(xùn)練跟高并發(fā)推理非常重要的基礎(chǔ)。
但是Agent原生的芯片架構(gòu),它需要去面向長(zhǎng)上下文、動(dòng)態(tài)的狀態(tài)流和Agent工具編排優(yōu)化。所以整個(gè)Agent的算力載體會(huì)從大Batch的GPU集群走向推理內(nèi)存和調(diào)度耦合的異構(gòu)系統(tǒng)。
對(duì)于最終用戶來講,大家關(guān)心的不再是你的TOPS有多高,而是我今天丟給你的一個(gè)復(fù)雜任務(wù),能不能更快更穩(wěn)定的完成。所以用戶的目標(biāo)取向其實(shí)發(fā)生了很大的變化。這也是Agent時(shí)代對(duì)芯片效率提出的新定義。
![]()
我們?cè)倏匆环N新型的Agent芯片,它的token速度我們期待有多高呢?過去我們大家講token速度,更多是在講用戶體驗(yàn)。聊天模式下15到25 tokens,基本上匹配人類的閱讀速度。
但是Agent模式其實(shí)很不一樣,Agent它不需要等人去閱讀,它在后臺(tái)執(zhí)行任務(wù),它的速度越快,任務(wù)完成的時(shí)間就越短,數(shù)字員工的工作效率就越高。所以對(duì)Agent來講,token的速度,它不是一個(gè)體驗(yàn)指標(biāo),而是一個(gè)生產(chǎn)效率指標(biāo)。
當(dāng)我們?cè)谟懻?00 tokens每秒,200 token每秒甚至上千tokens的時(shí)候,我們關(guān)心不是閱讀能不能跟得上,而是我今天完成一個(gè)任務(wù)的鏈路時(shí)間是不是能夠從原來的幾個(gè)小時(shí)壓縮到幾十分鐘甚至幾分鐘。
所以總結(jié)一下,對(duì)于Agent來講,需要去重新定義推理芯片的指標(biāo),不是只看峰值算力,而是要去看它的單位能耗以及單位成本下的任務(wù)完成效率。
Agent Computer,它本身并不是一個(gè)單一的硬件,它是一個(gè)全棧生態(tài)。最上層其實(shí)是頂層的數(shù)字勞動(dòng)力市場(chǎng),包括未來Agent的應(yīng)用和數(shù)字員工服務(wù),再往下是私域的安全數(shù)據(jù)網(wǎng)絡(luò),再往下是私域的記憶金庫,包括我們的長(zhǎng)期記憶和本地的知識(shí),再往下是Agent OS和Runtime,最底層是硅基的原生底座,我們稱之為Agent-Native Silicon。
![]()
對(duì)于原粒半導(dǎo)體來講,我們的定位并不是要試圖去替換上層的生態(tài),而是專注在最底層。我們?cè)噲D去為Agent Computer這樣全新的物種,去提供高性能、低功耗、可擴(kuò)展的物理底座。因?yàn)橹挥械鬃銐蚍€(wěn),整個(gè)數(shù)字勞動(dòng)力的生態(tài)才能夠真正形成規(guī)模化。
面向Agent Computer,我們也提出了Agent-Native Silicon設(shè)計(jì)原則。
![]()
第一是記憶優(yōu)先,因?yàn)锳gent的長(zhǎng)期生產(chǎn)力必須依賴大容量的本地存儲(chǔ)和高帶寬。我拿一個(gè)特別小的輕量級(jí)模型,給你很快的速度,這件事情可能對(duì)生產(chǎn)力是沒有幫助的。它得是一個(gè)足夠強(qiáng)的生產(chǎn)力模型,而且跑在了足夠的速度上,跑在你的本地桌面上才有用。
第二是長(zhǎng)上下文優(yōu)先,因?yàn)锳gent的任務(wù)它不是一次性輸入,而是長(zhǎng)上下文和持續(xù)狀態(tài)的累積。
第三是長(zhǎng)期駐留優(yōu)先。也就是說,Agent它是一個(gè)數(shù)字員工,它必須7 x 24小時(shí)長(zhǎng)駐。不能蓋上盒子再打開,它就重新來一遍,它不需要花這么長(zhǎng)的時(shí)間去重新建立狀態(tài)。
第四是能效優(yōu)先,峰值算力當(dāng)然重要,但是更重要的怎么以更低的功耗,更低的成本去完成這些更長(zhǎng)的任務(wù)。
所以Agent-Native Silicon的核心,就是把這四點(diǎn)結(jié)合到我們整個(gè)芯片的設(shè)計(jì)理念中。我們也期待通過全新的指標(biāo)創(chuàng)新。
今天token的賬單,是各家規(guī)模化推廣的較大障礙。但未來假設(shè)我們Agent運(yùn)行執(zhí)行生產(chǎn)力工作的邊際成本趨近于0,或者趨近于只有電費(fèi)的時(shí)候,那么我們所有行業(yè)的底層邏輯都會(huì)重新改寫。
五、Agent Computer時(shí)代,需要重構(gòu)底層計(jì)算底座
原粒半導(dǎo)體的定位在整個(gè)生態(tài)里面,就像剛才說的,我們并不定義上層的應(yīng)用,因?yàn)槲磥淼腁gent應(yīng)用會(huì)百花齊放。我們也不替代整機(jī)生態(tài),因?yàn)锳gent Compute它是一個(gè)需要操作系統(tǒng)、終端、Runtime、企業(yè)軟件,包括模型、開發(fā)者和硬件共同建設(shè)的完整生態(tài)。
![]()
我們專注的是為Agent Computer去提供一個(gè)高性能、低功耗、可擴(kuò)展的硅基底座。我們希望解決的是一個(gè)更基礎(chǔ)的問題,就是當(dāng)世界從“集中計(jì)算”走向“萬物智能”的時(shí)候,底層的芯片應(yīng)該如何變化。
過去,智能主要是集中在云端、集中在少數(shù)的數(shù)據(jù)中心。未來,智能會(huì)進(jìn)入辦公室、家庭、設(shè)備,進(jìn)入到每一個(gè)需要數(shù)字員工的場(chǎng)景。我們的愿景就是把一個(gè)“集中計(jì)算”的世界變成一個(gè)“萬物有腦”的世界。并且我們的新產(chǎn)品,剛才提到的面向智能Agent Computer的全新設(shè)計(jì)的芯片也即將推出。
最后我也想簡(jiǎn)單的用三句話就結(jié)束今天的分享。PC讓每個(gè)人桌上有一臺(tái)電腦,智能手機(jī)讓每個(gè)人口袋里有了一個(gè)超級(jí)計(jì)算機(jī),Agent Computer讓每個(gè)人未來擁有身邊都有一個(gè)7 x 24小時(shí)工作的數(shù)字員工,它不是簡(jiǎn)單的硬件升級(jí),它是計(jì)算主體的變化。
AI正在從回答問題走向完成工作,軟件正在從“工具”走向“員工”,數(shù)字勞動(dòng)力也正在形成新的生產(chǎn)力。處在大時(shí)代的變化下,我們需要重新去定義計(jì)算機(jī),也需要重新去定義它的底層芯片。原粒半導(dǎo)體所希望做的,就是為智能體時(shí)代去重構(gòu)物理的芯片底座。謝謝大家。
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.