賈揚清離開英偉達再創業！GLM-5.2速度飆6.3倍，一句話造的推理引擎

夢晨 發自 凹非寺
量子位 | 公眾號 QbitAI

加入英偉達一年后，賈揚清再創業。

新公司Intent Lab，第一批亮出來的成果有三：

目前已知最快的GLM 5.2推理引擎、一句話生成的數據庫、一套帶形式化驗證的文件系統。

乍一看，有點懵。三個系統不搭邊啊，定位呢？商業模式呢？這公司到底干啥的？

其實真正的產品是背后的生成引擎Fleet，號稱“首個將意圖轉換為生產級軟件的自主團隊”。

三個成果，都是出自同一套智能體系統。

距離6月賈揚清從英偉達離職的消息傳出，剛過去一個月。

賈揚清離開英偉達再創業

時間線倒回2023年3月，賈揚清從阿里巴巴離職，同年創立Lepton AI。

當時創業者大多扎進“百模大戰”，他卻選了AI Infra，用云原生加多云整合的方式調度全球GPU資源，給開發者提供算力租賃和模型部署。

創始團隊里還有ONNX的聯合創始人，可以說是開源老伙計再聚頭。

到了2025年3月到4月，就是那筆著名的交易：

英偉達宣布并收購Lepton AI，交易金額約7億美元，折合人民幣約48億。

英偉達買它是為了云業務，目標是在AWS和Google之上建自己的軟件平臺。被收購之后，Lepton AI更名為DGX Cloud Lepton，并入英偉達DGX Cloud體系。

然后……就沒有然后了。

作為一家為開發者設計的輕量級、敏捷的初創公司，其產品理念“Python原生、開箱即用”等與英偉達面向大企業客戶的、更為封閉的產品管理體系格格不入。

據報道，DGX Lepton在2025年中期已基本停止對外運營，這時候距離收購完成才過去幾個月。

團隊的資源被消耗在UI調整這類表層工作上，而多租戶這樣的核心技術問題一直沒能解決，

這個產品很遺憾沒能滿足它原本瞄準的那批AI原生開發者。

更扎心的是開源方面。

收購時英偉達曾承諾在2026年前開源Lepton的核心軟件平臺，最終又被否決。

目前GitHub倉庫上只有客戶端SDK（Python 庫）和命令行工具（CLI），后端調度引擎和云平臺管理系統依然是封閉。

核心沖突在于Lepton的核心調度器一旦開源，競爭對手同樣可以拿它高效管理非英偉達的 GPU，這與英偉達賣硬件的商業模式直接打架。

但賈揚清這個人大家都熟悉，整個職業生涯是建立在Caffe、PyTorch、ONNX這一串開源項目上的。

總之，最終還是好聚好散了。

中間還有一個插曲，6月初，Hyperbolic Labs聘請賈揚清出任公司顧問。這家公司的業務方向是云基礎設施、GPU marketplace、多云編排和GPU利用率提升。

這幾個詞和Lepton AI最初的目標對比一下，幾乎一個字都不用改。

大家還以為他只是換個地方重操舊業呢，結果只是一個支線。

下一步，做點不一樣的：

我們把整個職業生涯花在了世界上最大的分布式系統和AI基礎設施上，一直是精心的架構設計，一次做一個系統。
但現在更感興趣的，是一次能產出一千個系統的系統。

首批交出三份作業

Intent Lab把它的產品叫Fleet，定位是“把意圖變成生產級軟件的自主團隊”。

第一批公開的三個結果，官方口徑是全部由Fleet端到端完成，沒有人工介入。

重點看GLM-5.2推理引擎。

最初的“意圖”只有一句話：重新改造TensorRT-LLM的代碼，讓GLM-5.2跑在Grace Blackwell節點上，自己識別可優化的類別，自己實現，自己驗證。

TensorRT-LLM本身已經是被英偉達反復打磨過的項目，在這上面再摳性能，屬于在牙膏皮上再擠牙膏。

結果Fleet交付了四類優化，在兩臺Grace Blackwell節點上，把輸出速度從102 tokens/s推到647 tokens/s，提升整整6.3倍。

拆開看每一項都不是水分：

內核層面+24%，做法是kernel fusion加上由agent直接生成PTX和SASS，繞過編譯器直接拿指令級控制。

運行時+16%，通過H2D batching把一個穩態decode步驟的host-to-device元數據拷貝從大約十次降到零。

通信層面+18%，用一個融合的MNNVL all-reduce，把residual add和RMSNorm折進集合通信里，每層省一次kernel launch和一整輪內存往返。

最后是投機解碼的+400%，配合優化過的DSpark drafter，一步提出多個 token，一次性驗證。

Fleet跑這套優化的流程像一整個開發團隊：roofline分析、瓶頸識別，然后 propose、verify、compound，驗證不過就打回重來，一輪結束再回去找下一個瓶頸。

第二份作業是數據庫。起點也是是一行prompt。

零文檔零代碼，fleet自己一路跑到600萬條SQLite兼容性測試全部通過為止，過程中自己扮演了架構、編碼、測試、評審、QA所有角色。

第三份作業是文件系統，目標是“用基礎設施的主體從人變成agent”。

文件系統的復雜度是出了名的，這個例子里fleet用形式化驗證抓到了一個coding agent寫出來的 bug，一個瞬態的損壞狀態，然后修掉了。

模型能力不是限制，是中間缺一層

賈揚清對這件事的判斷，寫在他的官宣創業帖子里。

模型現在寫代碼已經很快了，但從“能跑起來的代碼”到“你愿意放進生產、并且持有很多年的軟件”，中間仍然隔著一段真實的距離。

他不認為這段距離是模型能力的限制，缺的是中間一層：

一個把模糊的意圖變成真實的設計，檢查結果是否站得住，以及在系統跑起來之后讓它繼續演進，并且全部自主完成。

Intent Lab 把這一層細化拆成了六個環節：

Understand，把模糊意圖收斂成明確產出和驗收標準；
Design，權衡取舍、定接口定結構；
Coordinate，拆任務、管依賴；
Build，階段代碼和架構同步演進；
Verify，貫穿全程，從形式化證明到運行時故障注入；
Evolve，在生產環境里觀察表現，把使用情況和成本折回設計。

仔細看這六個詞，就是一個靠譜工程團隊的日常，只不過主語從人換成了智能體系統。

他還算了一筆經濟賬：

過去50年，合理的做法是造一個軟件，賣給盡可能多的人，哪怕這些人的需求各不相同。

這件事現在可以變了，世界會出現多得多的軟件，定制程度高得多。

目前Intent Lab計劃與外部合作，專門面向那些“工程量太大、一直排在清單上沒人力去做”的系統。

從Caffe、PyTorch，到Lepton AI，Intent Lab，賈揚清一直在做同一件事的不同版本：讓別人更容易用上算力。

參考鏈接：
[1]
https://x.com/jiayq/status/2082135245776920681?s=20
[2]
https://intentlab.ai/blog/turn-your-intent-into-production-systems