納德拉疑似隔空開(kāi)懟大模型頭部玩家：只許自己爬數(shù)據(jù)，不許別人蒸餾模型

智東西
編譯 茄子
編輯 程茜

智東西7月13日消息，微軟CEO薩提亞·納德拉（Satya Nadella）昨日在X上發(fā)了一篇題為“反向信息悖論”（The Reverse Information Paradox）的長(zhǎng)文，質(zhì)疑當(dāng)前AI行業(yè)存在的“學(xué)習(xí)不對(duì)稱”現(xiàn)象。

納德拉的這篇文章被外媒Business Insider認(rèn)為是在諷刺Anthropic、OpenAI等大模型廠商在AI訓(xùn)練機(jī)制上的“雙重標(biāo)準(zhǔn)”，這些大模型廠商一方面允許自身利用公開(kāi)數(shù)據(jù)和用戶交互數(shù)據(jù)持續(xù)學(xué)習(xí)，另一方面卻限制其他企業(yè)通過(guò)模型蒸餾獲取模型能力。

此前，Anthropic曾多次公開(kāi)譴責(zé)其他AI公司通過(guò)模型蒸餾復(fù)制Claude能力，并多次呼吁加強(qiáng)對(duì)模型能力的保護(hù)。

納德拉在文中指出，在這種機(jī)制下，企業(yè)為了使用AI能力，需要不斷向模型提供自身的數(shù)據(jù)、流程、反饋和專業(yè)知識(shí)，而這些內(nèi)容也可能成為模型持續(xù)學(xué)習(xí)的重要來(lái)源。如果學(xué)習(xí)過(guò)程長(zhǎng)期只向模型提供商單向流動(dòng)，企業(yè)創(chuàng)造的知識(shí)價(jià)值最終可能不斷向掌握AI基礎(chǔ)設(shè)施的一方集中。

基于此，納德拉提出，AI時(shí)代企業(yè)需要建立新的“信任邊界”（Trust Boundary），確保數(shù)據(jù)、反饋、評(píng)估體系以及組織知識(shí)能夠沉淀在企業(yè)內(nèi)部，形成屬于自身的持續(xù)學(xué)習(xí)和智能積累能力。

以下為納德拉關(guān)于“The Reverse Information Paradox”的全文編譯：

在智能時(shí)代，企業(yè)應(yīng)該如何保護(hù)自己的核心知識(shí)產(chǎn)權(quán)？

諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主肯尼斯·阿羅（Kenneth Arrow）曾提出了信息市場(chǎng)中的一個(gè)悖論。他曾指出：“對(duì)于購(gòu)買者而言，信息的價(jià)值在獲得信息之前是未知的；但一旦獲得信息，購(gòu)買者實(shí)際上已經(jīng)在沒(méi)有成本的情況下?lián)碛辛诉@些信息?！?/p>

在阿羅提出的“信息悖論”（Information Paradox）中，賣方為了出售知識(shí)，面臨著不得不先泄露知識(shí)的風(fēng)險(xiǎn)。

而人工智能帶來(lái)了一個(gè)相反的問(wèn)題。在AI時(shí)代，買方為了使用自己購(gòu)買的智能能力，反而面臨泄露自身知識(shí)的風(fēng)險(xiǎn)。

實(shí)際上，你需要為獲得知識(shí)付出兩次代價(jià)：第一次是金錢成本，第二次則是更加寶貴的東西，即為了讓智能真正發(fā)揮作用，你必須向它提供的專有知識(shí)。而且，你希望模型表現(xiàn)得越好，就必須向它輸入越多這類知識(shí)。

隨著時(shí)間推移，信息不對(duì)稱的現(xiàn)象會(huì)變得越來(lái)越嚴(yán)重。賣方會(huì)隨著你對(duì)產(chǎn)品的使用，不斷了解更多關(guān)于你的信息；但你卻很少知道賣方正在從你這里學(xué)習(xí)了什么。

這就是我所說(shuō)的“反向信息悖論”（Reverse Information Paradox）。

專利制度解決了阿羅悖論中的一個(gè)問(wèn)題。它允許發(fā)明者公開(kāi)自己的想法，同時(shí)又不會(huì)簡(jiǎn)單地將其拱手送出。而反向信息悖論，也需要一種類似的解決方案。

這不僅僅是數(shù)據(jù)保護(hù)的問(wèn)題。模型會(huì)從各種“經(jīng)驗(yàn)”中學(xué)習(xí)，包括人們輸入的提示詞、Agents使用的工具，以及當(dāng)模型出現(xiàn)錯(cuò)誤時(shí)，人們進(jìn)行的修正。

每一次糾正，都會(huì)被模型提煉為組織層面的知識(shí)。這類知識(shí)是競(jìng)爭(zhēng)對(duì)手永遠(yuǎn)無(wú)法購(gòu)買的，也是最容易在不知不覺(jué)中泄露的內(nèi)容：一點(diǎn)一點(diǎn)的痕跡，一次又一次的修正，一輪又一輪的評(píng)估。

在使用智能的過(guò)程中，你也在創(chuàng)造智能。而你創(chuàng)造出來(lái)的東西，應(yīng)該屬于自己。這是你的特定知識(shí)，用哈耶克的話說(shuō)：那些關(guān)于時(shí)間、地點(diǎn)和具體環(huán)境的知識(shí)，是任何其他人都無(wú)法擁有的。它了解你的思考方式，了解你的價(jià)值取向，也了解你衡量成功的標(biāo)準(zhǔn)。

雖然，模型供應(yīng)商擁有合理使用權(quán)，利用公開(kāi)數(shù)據(jù)訓(xùn)練模型所帶來(lái)的巨大創(chuàng)新是必要的，但諷刺的是當(dāng)前的行業(yè)現(xiàn)狀：一方面，模型提供商可以利用公開(kāi)數(shù)據(jù)進(jìn)行學(xué)習(xí)；另一方面，他們卻對(duì)模型蒸餾（distillation）施加限制性條款，并保留從客戶使用數(shù)據(jù)和交互數(shù)據(jù)中學(xué)習(xí)的權(quán)利。

如果學(xué)習(xí)過(guò)程只朝一個(gè)方向流動(dòng)，那么經(jīng)濟(jì)價(jià)值最終會(huì)不斷向掌握學(xué)習(xí)基礎(chǔ)設(shè)施的企業(yè)集中流動(dòng)，而不是流向真正創(chuàng)造知識(shí)的人。

因此，讓每一家企業(yè)都擁有自己的學(xué)習(xí)基礎(chǔ)設(shè)施，并能夠掌控自己的學(xué)習(xí)閉環(huán)，是至關(guān)重要的。

正如Alex Karp所說(shuō)：“技術(shù)客戶真正想要的是控制自己的計(jì)算資源、模型、數(shù)據(jù)棧，以及自己的核心優(yōu)勢(shì)。他們希望確保，自己擁有生產(chǎn)資料，而這些東西不會(huì)被轉(zhuǎn)移給其他人。”而當(dāng)前的行業(yè)模式，恰恰造成了Karp和企業(yè)所擔(dān)憂的資源轉(zhuǎn)移。

這也是為什么企業(yè)需要為其自身建立一個(gè)真正的“信任邊界”（trust boundary），目的是讓自身的人力資本和“Token資本”能夠不斷積累和增長(zhǎng)。

在這個(gè)邊界內(nèi)，企業(yè)的數(shù)據(jù)、信息痕跡、評(píng)估體系、調(diào)整后的模型權(quán)重以及組織記憶能夠共同積累，并持續(xù)改進(jìn)。同時(shí)，這也是一道嚴(yán)格的邊界：未經(jīng)企業(yè)授權(quán)，任何東西都不應(yīng)該跨越這條邊界，包括所謂的“智能殘留”（intelligence exhaust）。

企業(yè)將要求擁有使用模型輸出進(jìn)行微調(diào)和訓(xùn)練自身模型的權(quán)利。我認(rèn)為，這是每一家企業(yè)根據(jù)自身責(zé)任要求，對(duì)模型進(jìn)行調(diào)整和適配的基本權(quán)利。

在云計(jì)算時(shí)代，企業(yè)積累的是數(shù)據(jù)。而在AI時(shí)代，企業(yè)積累的是“學(xué)習(xí)能力”。因此，信任邊界也必須隨之變化，從過(guò)去保護(hù)信息，轉(zhuǎn)變?yōu)楸Ｗo(hù)企業(yè)學(xué)習(xí)、適應(yīng)以及積累智能的機(jī)制。

為了確保這一點(diǎn)，每個(gè)企業(yè)都必須做到以下幾點(diǎn)：

控制（Control）

企業(yè)內(nèi)部需要?jiǎng)?chuàng)建自己的私有評(píng)估體系，因?yàn)樵u(píng)估標(biāo)準(zhǔn)決定了組織內(nèi)部對(duì)于“什么是好的結(jié)果”。同時(shí)，企業(yè)需要保留對(duì)自身組織記憶、信息痕跡、反饋、決策以及制度背景的所有權(quán)，并能夠?qū)⒛Ｐ洼敵鰬?yīng)用于企業(yè)自身的任務(wù)和查詢中。

能力（Capability）

企業(yè)需要在租戶邊界內(nèi)部建立自己的專有學(xué)習(xí)環(huán)境來(lái)訓(xùn)練或調(diào)整模型。在這樣的環(huán)境中，模型可以在不泄露公司知識(shí)的情況下基于真實(shí)業(yè)務(wù)流程進(jìn)行學(xué)習(xí)。

選擇（Choice）

企業(yè)需要確保編排層（orchestration layer）不會(huì)與任何單一模型綁定。并且應(yīng)該問(wèn)自己：如果正在使用的某一個(gè)模型被移除，你是否仍有能力使用其他模型來(lái)運(yùn)行和優(yōu)化你的評(píng)估。即使某個(gè)“通用”模型被拿走，你企業(yè)自身的資深能力（veteran capability）是否仍然留在自己手中？

成本（Cost）

通過(guò)將編排層與單一模型解耦，企業(yè)可以更加高效、更具成本效益地組合上下文、模型和任務(wù)，同時(shí)不會(huì)降低質(zhì)量。

復(fù)合（Compound）

將以上四點(diǎn)結(jié)合起來(lái)，企業(yè)就能夠建立自己的持續(xù)學(xué)習(xí)閉環(huán)，也就是一種“爬坡機(jī)器”（hill climbing machine）。這種閉環(huán)能夠讓企業(yè)的AI投資不斷積累價(jià)值，并推動(dòng)企業(yè)智能能力持續(xù)增長(zhǎng)。

換句話說(shuō)：企業(yè)應(yīng)該能夠使用模型，并且不必交出些使自己具有獨(dú)特性的知識(shí)。這正是我們需要面對(duì)的“反向信息悖論”。

結(jié)語(yǔ)：AI時(shí)代，企業(yè)需要掌握自己的智能資產(chǎn)

AI時(shí)代，企業(yè)競(jìng)爭(zhēng)不再只是比拼數(shù)據(jù)規(guī)模和模型能力，更重要的是能否持續(xù)積累和利用自身知識(shí)。納德拉提出的“反向信息悖論”，揭示了企業(yè)在擁抱AI過(guò)程中面臨的新挑戰(zhàn)：如何讓AI提升企業(yè)能力，而不是讓企業(yè)知識(shí)成為模型能力訓(xùn)練的資源。

未來(lái)，建立屬于自己的智能基礎(chǔ)設(shè)施，或?qū)⒊蔀槠髽I(yè)AI戰(zhàn)略的重要方向。

來(lái)源：X、Business Insider