對話韓芃睿：拆開AI大腦，看見了和人腦相似的功能分工

人腦的結(jié)構(gòu)并不均勻。經(jīng)過漫長的演化，它長出了一套分工明確的組織：語言、邏輯、物理直覺、社會推理，各自盤踞在皮層相對固定的區(qū)域，既分工又協(xié)作。困擾研究人員許久的一個問題是：大腦的功能分區(qū)，究竟是任何智能系統(tǒng)都躲不開的必然，還是人類演化路上的一個偶然？

最近，MIT 團隊的一項研究“Modular Cognitive Architecture Emerges in Large Language Models ”表明，答案更傾向于前者。畢竟，大語言模型的來路完全不同。它沒有身體，也沒有經(jīng)歷演化，只是在海量的文本上做基于下一詞元預(yù)測（next-token prediction）的訓(xùn)練。當一個構(gòu)造如此不同的系統(tǒng)也出現(xiàn)了這套分工，它更可能是智能本身的深層規(guī)律，而不是碳基大腦的偶然。不過作者也謹慎地強調(diào)，這只是“證據(jù)的指向”，還談不上定論。

這項研究由兩位資深學(xué)者帶隊。一位是 MIT 腦與認知科學(xué)系教授 Evelina Fedorenko，她因界定出人腦中專門負責語言的“語言網(wǎng)絡(luò)”而出名，2025 年剛獲美國國家科學(xué)院頒發(fā)的 Troland 研究獎；另一位是 MIT 計算機科學(xué)與人工智能實驗室（CSAIL）教授 Jacob Andreas，他是 AI 與自然語言處理領(lǐng)域的知名學(xué)者。而研究的第一作者是韓芃睿，他是伊利諾伊大學(xué)厄巴納-香檳分校（UIUC）計算機科學(xué)碩士，導(dǎo)師是尤佳軒教授；他的工作發(fā)表于 ICML、EMNLP 等 AI 與 NLP 頂級會議，曾獲 NeurIPS Workshop 最佳論文榮譽提名。

（來源：Github）

在這項研究中，團隊分析了六個 24B 到 123B 的主流開源模型，覆蓋語言、邏輯、物理、社會四大認知域共 46 個任務(wù)，用電路級方法定位每個任務(wù)真正依賴的神經(jīng)元。他們不僅發(fā)現(xiàn)同域任務(wù)共享神經(jīng)元、跨域幾乎互不相干（同域重疊是跨域的四倍多），還做了一個很干凈的驗證：關(guān)掉負責語言的神經(jīng)元，模型物理照樣推理得對，只是話說得不通順；關(guān)掉負責物理的神經(jīng)元，句子流暢，卻把結(jié)論說反了。這套分工不只是統(tǒng)計上的巧合，而是有實實在在的因果效力。

圍繞這項研究，以及它用 AI 理解智能本身的理念，DeepTech 和韓芃睿進行了一次對話。

用另一種智能，回答一個只有一個樣本的問題

DeepTech：你們是怎么想到用 LLM 來切入大腦的功能分區(qū)是“智能系統(tǒng)的必然”，還是“生物演化的偶然”？

韓芃睿：這個問題光靠研究大腦本身很難回答。因為我們只有一個樣本，而且生物組織還背著很多和任務(wù)無關(guān)的約束，比如能量代謝。

趨同演化在生物學(xué)里是一個很強的證據(jù)邏輯：如果一個性狀在親緣很遠的物種里各自獨立出現(xiàn)——比如蝙蝠和鯨魚各自演化出回聲定位——我們就有理由相信，它是被問題本身逼出來的，而不是偶然。

LLM 給了我們一個全新的機會。它是另一類智能系統(tǒng)，走的是完全不同的優(yōu)化路徑，本質(zhì)上是在預(yù)測下一個詞元（next-token prediction）上做梯度下降，和生物演化非常不同。同時它又具備很多人類獨有的高級認知能力，比如理解人類語言、解決復(fù)雜的數(shù)學(xué)問題。所以如果模塊化在 LLM 里也獨立出現(xiàn)了，那它更可能是任何朝著智能優(yōu)化的系統(tǒng)都會收斂到的解，而不是碳基大腦的偶然。這就是我們用 LLM 切進來的核心動機。

DeepTech：團隊里既有認知科學(xué)家 Evelina Fedorenko，也有 AI 研究者 Jacob Andreas。這兩邊看問題的方式很不一樣，你們怎么協(xié)調(diào)這些視角？

韓芃睿：其實兩邊的摩擦比想象中小很多。因為 Jacob 和 Ev 都研究語言和 AI，共享了非常多的興趣和判斷，只是側(cè)重不一樣。Jacob 會更聚焦在算法這一層。舉個具體的例子：我們最開始用的方法更偏神經(jīng)科學(xué)一點，直接拿最小對照對（minimal pair）去比激活值，看哪些神經(jīng)元在統(tǒng)計上是顯著的。但后來發(fā)現(xiàn)，這樣識別出來的單元沒有很好的因果影響，Jacob 就建議我們換成 patching 這類更嚴格的方法，這直接決定了后面整套流程。

Ev 這邊更在意科學(xué)層面的洞見，比如怎么讓任務(wù)和腦網(wǎng)絡(luò)的對應(yīng)更扎實，以及我們到底能檢驗?zāi)男┱嬲幸馑嫉募僭O(shè)。一個稍微偏方法上站不站得住，一個稍微偏科學(xué)上值不值得問，兩個視角其實是互補的，最后拼在一起，研究才完整。

模塊化，是“同時解決很多問題”逼出來的

DeepTech：如果用最簡單的一句話概括你們的研究發(fā)現(xiàn)，你會怎么說？

韓芃睿：一個只靠預(yù)測下一個詞元、靠反向傳播訓(xùn)練出來的語言模型，會自發(fā)長出和人腦相似的模塊化分工：語言、邏輯、物理、社會推理各自由一批基本不重疊的神經(jīng)元支撐。而且這種分工是有因果效力的：關(guān)掉某個域的神經(jīng)元，只會破壞那個域的能力。

DeepTech：你們有一個很直觀的結(jié)果，同一類任務(wù)用的是重疊的神經(jīng)元，不同類任務(wù)用的是幾乎不相干的神經(jīng)元，同域重疊是跨域的四倍多。LLM 為什么會形成這種分工？

韓芃睿：我們提出的一個可能解釋是：LLM 要在海量、異質(zhì)的語料上實施預(yù)測，而這種預(yù)測常常需要多種推理同時上場。比如，想象你要預(yù)測一本偵探小說結(jié)尾的下一個詞：可能同時需要演繹推理去縮小嫌疑人范圍，社會推理去推斷動機，物理推理去判斷作案在物理上是否可能，而這些還都得和解析句子結(jié)構(gòu)的語言處理交織在一起。

當多種計算要在同一個輸入上同時運行，系統(tǒng)就面臨一個壓力：別讓它們互相干擾。這個壓力有兩層。一層是處理層面，幾種信息要同時表示，編碼就必須彼此可分，否則會撞在一起、互相污染。另一層是學(xué)習(xí)層面，如果不同計算的神經(jīng)元混在一起，改進一個域的更新就會擾動另一個域，這就是分布式系統(tǒng)里災(zāi)難性干擾的老問題。

把不同計算分給不同的神經(jīng)元，正好同時解決了這兩種干擾。所以模塊化很可能不是被誰設(shè)計的，而是來自于同時解決很多種問題的壓力。

DeepTech：損傷實驗里出現(xiàn)了一個現(xiàn)象：關(guān)掉負責語言的神經(jīng)元，模型推理是對的，但語法開始出錯；關(guān)掉負責物理的神經(jīng)元，語法流暢，卻把物理結(jié)論說反了。這種形式與內(nèi)容的分離，你會怎么理解？

韓芃睿：對，這正是我們在損傷實驗里看到的雙分離（double dissociation），而且它非常干凈。 用同一個物理問題：一根橡皮筋熱老化之后的彈性來測試。關(guān)掉語言神經(jīng)元，模型的物理推理還是對的：更弱的回彈力、回彈不完全、耗散更多能量，但語法和詞法開始出錯。反過來關(guān)掉物理神經(jīng)元，句子依然通順流暢，但物理結(jié)論說反了。

這說明模型內(nèi)部確實把“把話說通順”和“把道理說對”交給了兩套不同的系統(tǒng)。它們在同一個輸出上協(xié)作，但可以被獨立地破壞。這種可分離性本身，就是模塊化最直接的行為證據(jù)。這其實也和 Ev 之前在人身上的發(fā)現(xiàn)很呼應(yīng)。比如語言能力嚴重受損的失語癥患者，他們幾乎無法理解語言，卻依然能完成很復(fù)雜的推理、數(shù)學(xué)和邏輯任務(wù)。

DeepTech：Transformer 沒有神經(jīng)科學(xué)的能量代價，損失函數(shù)也不在乎具體用了多少神經(jīng)元，它卻照樣出現(xiàn)了模塊化。你覺得是什么在驅(qū)動它？

韓芃睿：神經(jīng)科學(xué)里的解釋是代謝約束：大腦每次只激活一小部分神經(jīng)元，比廣泛激活省能量，而給每類任務(wù)分一套專屬神經(jīng)元，正好能實現(xiàn)這種稀疏。但這個壓力對我們研究的 LLM 完全不適用。Transformer 的前向計算在任何生物意義上都沒有代謝成本的差異，損失函數(shù)里也沒有任何一項去懲罰某個輸入激活了多少神經(jīng)元。可即便如此，一個明顯可辨認的、類人的模塊化組織照樣出現(xiàn)了。

這說明，代謝壓力不管在塑造人類皮層時起了多大作用，它都不是功能特化出現(xiàn)的必要條件。那真正在驅(qū)動的是什么？我們認為一種可能，就是前面說的那種干擾壓力，它不需要任何能量代價就能成立。

DeepTech：對照實驗里，小模型 GPT-2 做不對這些推理任務(wù)，它只能分出“語言 VS 其他”，分不出更細的模塊。你們也提到“模塊化只在模型真能解決任務(wù)時才出現(xiàn)”。你可以具體解釋一下嗎？

韓芃睿：先講清楚我們這套方法的一個性質(zhì)：歸因修補（attribution patching）本質(zhì)上是在找那些對做對任務(wù)有因果貢獻的神經(jīng)元。換句話說，如果模型根本做不對、或者理解不了某個任務(wù)，它內(nèi)部就沒有一套對的計算可言，修補出來的東西自然也沒有意義。GPT-2 的對照正好佐證了這一點。我們把完全一樣的流程、完全一樣的數(shù)據(jù)放到 GPT-2 上，它做不了大部分推理任務(wù)，結(jié)果就只能分出“語言 vs 其他”。這說明我們的框架測的是底層計算，而不是數(shù)據(jù)本身的假象。

當然，我們也承認，換一套別的方法或者換更簡單的任務(wù)，GPT-2 有可能也顯現(xiàn)出某種模塊化。所以，我們的發(fā)現(xiàn)想強調(diào)兩點：第一，我們這個框架測到的是計算，而不是數(shù)據(jù)的假象。我們還專門做了一個關(guān)于語義的對照實驗來佐證，光靠 prompt 的語義相似度是還原不出這個結(jié)構(gòu)的；第二，也正因為這樣，與其說這種精細分工是“涌現(xiàn)的副產(chǎn)品”、或者去談它和規(guī)模的關(guān)系，我們更愿意說：模型真正能解題，是它出現(xiàn)的前提。只有能理解、能做對，才談得上計算、才談得上電路。

把 LLM 當作“第二種智能系統(tǒng)”來研究

DeepTech：你們在文章里提到一個很有意思的定位：LLM 可以當作“第二種智能系統(tǒng)”去檢驗我們關(guān)于人類認知的理論。這對研究大腦有什么具體的啟示？

韓芃睿：LLM 作為一個科學(xué)研究對象，在擁有很多復(fù)雜行為和能力的同時，比人腦有更多可控性，也更容易交互。我們可以隨意探測它、干預(yù)它、把某部分關(guān)掉再看會發(fā)生什么，這些在人身上要么做不到，要么代價極高。所以它本身就是一個很適合拿來做科學(xué)研究的對象，能幫我們更高效地檢驗關(guān)于智能和認知的假設(shè)。

對神經(jīng)科學(xué)，我們有兩個挺具體的方向。一是預(yù)測：我們的方法可以從 LLM 出發(fā)，對一個全新的任務(wù)會調(diào)用人腦哪個網(wǎng)絡(luò)生成假設(shè)，再拿去用 fMRI 驗證，等于給腦科學(xué)多了一個產(chǎn)生假設(shè)的來源。二是研究信息流：不同腦網(wǎng)絡(luò)之間怎么把信息傳給彼此，這在人腦里極難研究，因為你需要同時具備很高的空間和時間分辨率，而這個組合在人類神經(jīng)成像里基本做不到。但在 LLM 里，我們能同時訪問全部神經(jīng)元和它們的連接，所以可以去構(gòu)建和檢驗一些機制層面的假設(shè)，比如語言系統(tǒng)到底是怎么把解析好的輸入喂給某個推理系統(tǒng)的。

DeepTech：反過來，你認為這項發(fā)現(xiàn)對做 AI 的人有什么用？知道模型內(nèi)部是模塊化的，能幫我們把模型造得更好或者更可控嗎？

韓芃睿：最直接的一條，和現(xiàn)在很火的混合專家模型（mixture-of-experts，MoE）有關(guān)。MoE 被采用主要是出于效率考慮，把每個 token 路由給一部分專家，能減少激活的參數(shù)量。但我們的發(fā)現(xiàn)提示，模塊化組織本身可能還帶來額外的計算優(yōu)勢，而不只是省算力。

已經(jīng)有工作往這個方向走了，比如讓專家之間形成類腦的特化，既保住了推理的性能，又讓模型更可解釋、更可引導(dǎo)。所以知道模型內(nèi)部是模塊化的，未來可能真的能反過來指導(dǎo)我們把模型設(shè)計得更好、更可控。這塊還很開放，值得深挖：模塊化和性能之間，到底是什么關(guān)系。

AI 像大腦，最怕被過度解讀

DeepTech：AI 像大腦這種說法很容易被過度解讀。作為研究者，你最希望大眾不要從這項研究里武斷得出的錯誤結(jié)論是什么？

韓芃睿：這是個很好的問題。做這類研究一個很重要的注意事項，就是不要過度地把 LLM 當人。隨著研究深入，很多實驗室確實發(fā)現(xiàn)了越來越多 AI 和大腦相似的地方，從行為到機理，這非常令人興奮。但不可否認，LLM 和大腦有著根本性的不同，而且它只由語言這一個模態(tài)驅(qū)動。

所以我的態(tài)度是：LLM 是一個很好的東西，可以拿來檢驗假設(shè)、去交互、去探測，把它當成一個科學(xué)研究對象來研究，這比研究人有更多可控性、也更高效。但不能盲目。每一個實驗我們都要盡力去分清，這個相似背后真正的來源是什么。它可能來自一個真正的原理，也可能只是某些人類數(shù)據(jù)的假象，或者其他各種因素。把這些分清，才能讓研究更經(jīng)得起推敲。

DeepTech：拋開這項具體的研究，在“用 AI 理解智能本身”這個方向上，你覺得最大的挑戰(zhàn)是什么？

韓芃睿：我覺得最大的挑戰(zhàn)，恰恰就是上一個問題的延伸：怎么系統(tǒng)性地把一個真正的原理和一個假象區(qū)分開。

現(xiàn)在我們?nèi)币惶坠J的標準，去判斷某個 AI 和大腦相似到底算不算數(shù)。它是兩類智能系統(tǒng)面對同一個問題各自收斂出的深層原理，還是只是訓(xùn)練數(shù)據(jù)、任務(wù)設(shè)計、或者度量方式帶來的表面巧合。每一個這樣的相似，都需要單獨去設(shè)計對照、去排除掉淺層的解釋，才敢說它有意義。

運營/排版：何晨龍

注：封面/首圖由 AI 輔助生成