哈薩比斯發表重磅宣言：AGI數年內到來，前沿模型應先審后發

7月14日，Google DeepMind 聯合創始人兼 CEO、2024年諾貝爾化學獎得主 Demis Hassabis 在 X 平臺發表長文《前沿 AI 的框架與新時代的黎明》（A Framework for Frontier AI and the Dawning of a New Age）。

文章的核心判斷直截了當：通用人工智能（AGI）“可能只需短短幾年就會到來”，人類“正站在奇點的山腳下”。Hassabis 將 AGI 的意義類比為電和火的發現，并給了一個頗有畫面感的說法：“我們本質上找到了一種讓沙子思考的方法”。 而這項技術的影響規模將是史無前例的，也許是工業革命的 10 倍，速度也是 10 倍。

在這個判斷的基礎上，Hassabis 提出了一項具體的政策主張：由美國牽頭，建立一個前沿 AI 標準機構。他給這個機構找了一個現成的參照物：FINRA，即美國金融業監管局（Financial Industry Regulatory Authority），一個在美國證券交易委員會（SEC）監督下運作的、由行業出資的自律組織。

Hassabis 設想的 AI 標準機構沿用同樣的邏輯：聯邦監督、行業出錢、獨立專家做技術判斷。前沿實驗室在模型發布前最多 30 天自愿提交審查；一旦審查機制被證明有效，就從自愿轉為強制，前沿模型必須通過測試才能在美國市場部署。這個機構甚至被賦予了一項頗為大膽的權力：在必要時協調前沿實驗室放慢開發速度。

過去數月，美國政府圍繞前沿 AI 模型的監管動作密集，白宮正在加速與 OpenAI、Anthropic、Google 等公司協商自愿性安全標準框架。Hassabis 今年 3 月就曾公開警告 AI 開發中的“競速狀態”（race conditions），即競爭壓力推動實驗室在驗證安全性之前就急于發布。此次長文以個人名義發表，但作為 Google AI 業務的實際掌舵者，他對監管框架的詳細構想在某種程度上可能也是 Google 在 AI 治理議題上的一次正式表態。

以下是全文編譯。

這是人類歷史上的一個關鍵時刻。通用人工智能（Artificial General Intelligence，AGI），也就是具備人類大腦全部認知能力的系統，可能只需短短幾年便會到來。幾十年后回望今天，我想我們會意識到，自己當時正站在通往奇點的山腳下，一個屬于人類的新時代正在開啟。

我一生都在研究 AGI，因為我始終深信，只要以負責任的方式構建和部署，它就會成為人類發明過的最有益、最具變革性的技術之一。AGI 無法與一般的技術突破相提并論，即便互聯網或移動技術這類影響深遠的發明也不例外。它更接近于人類發現電或火。仔細想想，我們實際上找到了一種讓沙子開始思考的方法。這近乎奇跡。

這項技術帶來的影響將前所未有，其規模或許會達到工業革命的 10 倍，發生速度也會是工業革命的 10 倍。它將幫助我們解決社會面對的一些重大問題，包括加快藥物研發、開發新的清潔能源、創造先進的新材料。我們甚至可能走到這樣一個階段：資源不再是限制人類進步的因素，一個物質豐裕的新時代由此到來。

前沿地帶的挑戰

AI 已經開始在現實世界中創造價值。但要兌現它的巨大潛力，我們必須審慎地度過當前這段關鍵的發展時期。隨著 AGI 日益臨近，我們需要立即行動，應對可能出現的風險。

前沿模型給網絡安全帶來的挑戰已經顯現。隨著能力繼續提升，核安全、生物安全等領域的威脅也可能很快出現。再往前看，我們需要建立強有力的安全保障，以確保人類仍能控制自主性越來越強、能夠遞歸式自我改進的系統，同時處理那些目前尚不明確、只能隨著時間逐漸顯現的問題。

我始終相信，人類的智慧和創造力足以解決任何問題。我有信心，AI 帶來的技術風險是我們能夠共同應對的挑戰，前提是我們給自己留下足夠的時間和空間，把接下來這個關鍵步驟做好。眼下，無論 AI 行業還是更廣泛的社會，都沒有做到這一點。

我們正深陷一場極其激烈、由多重層次交織而成的商業和地緣政治競賽。這種競爭推動了技術快速進步，讓 AI 的巨大益處更快顯現，但前沿能力的發展速度已經超過了我們理解這項技術的速度。

世界上沒有人確切知道接下來會發生什么，即使專家之間也存在分歧。當不確定性如此之大、利害關系如此重大時，保持審慎的樂觀才是明智的選擇。

這要求公共政策一面促進創新，一面激勵負責任且重視安全的行為；在關鍵安全問題上推動國際合作；同時認真考慮，應該如何部署 AI，才能讓它真正造福社會。

建立前沿 AI 標準機構

AI 的快速進步要求我們采用一種新的前沿模型能力測試方法。這套方法需要動態、靈活，并且足夠嚴格。

憑借自身的經濟和技術實力，美國很適合率先建立這樣的框架。美國可以設立一個新的標準機構，采用由聯邦政府監督的公私合作模式或自律組織模式，類似于美國金融業監管局（Financial Industry Regulatory Authority，FINRA）。該機構的董事會應包括獨立的頂尖技術專家和開源社區代表。

這項工作需要大量資金，而且資金很可能主要來自產業界。只有這樣，機構才能吸引世界一流的技術人才，并獲得開展大規模測試所需的算力資源。

標準機構將負責制定評估規程，并與相關聯邦機構及美國國家實驗室合作，在涉及國家安全的領域開展測試。

如果一個模型在標準機構設定的一組基準測試中達到特定門檻，它就會被認定為“前沿級”模型。這些基準需要定期更新，以跟上 AI 能力演進的速度。擁有此類“前沿模型”的組織將被認定為“前沿實驗室”。

前沿實驗室應被鼓勵采用一系列最佳實踐，包括發布披露技術細節的模型卡、維持高水平的內部網絡安全、審查關鍵崗位人員，以及為安全與安保研究投入充足資源等。

在框架實施初期，前沿實驗室可以自愿在模型發布前最多提前 30 天，將模型交給標準機構評估。一旦評估規程被證明有效且穩健，就可以迅速推動制度化。屆時，前沿模型必須通過評估，才能在美國市場部署。實驗室還需要與標準機構合作，處理模型發布后發現的重大漏洞。

模型評估應采用嚴格的科學方法，測試其在網絡安全、生物威脅以及其他高風險領域的能力。

針對智能體型 AI 的專項測試，可以檢查模型是否試圖繞過安全護欄，或者是否表現出欺騙跡象。評估還應確保相關方遵循最佳實踐，例如為 AI 生成的圖像添加數字水印，以及生成便于人類閱讀的輸出詞元，幫助人們理解模型的推理過程。

這些評估需要定期更新。初期可以每季度更新一次，淘汰已經過時或失去區分度的基準，并用新的測試取代。

剛開始時，評估可以由標準機構與前沿實驗室共同制定。但最終，標準機構應建立足夠的技術能力，獨立于實驗室設計自己的保留測試集，防止模型針對評估過度擬合。在美國政府的配合下，該機構還可以推動形成一個第三方審計生態，協助開展模型評估，并開發新的基準和測試方法。

這套方案的優勢在于，它聚焦技術問題，同時支持創新，激勵負責任的行為。它能夠跟上 AI 領域的加速發展，并隨著重大風險逐漸顯現而不斷調整。

如果形勢的嚴重程度需要，監管強度還可以進一步提高，包括在必要時協調各家前沿實驗室放慢開發速度。

獲得“前沿實驗室”認定將帶來很高的聲望。任何組織只要構建出符合基準要求的模型，都可以獲得這一身份。

無論一個前沿級模型來自哪個國家，也無論它是開放還是封閉模型，這套框架都可以適用。初創企業或學術機構開發的非前沿模型則不必接受這一流程。

由美國發起的行動，可以成為建立國際前沿 AI 共同標準的重要起點。這項技術將影響整個地球。理想情況下，這套框架能夠推動國際社會形成共識：一面管理最嚴重的風險，一面確保所有人都能接觸并受益于 AI 帶來的機會。

未來尚未寫定

AGI 有潛力成為推動科學和醫學進步的終極工具，同時帶來巨大的生產率提升和經濟增長。

要實現這些目標，我們需要把技術基礎打牢：圍繞一套全球共同框架展開協調，采用最嚴格的科學方法，并讓最優秀的人才共同解決我們面對的挑戰。

即使我們解決了這些艱難的技術問題，仍有更加復雜的經濟和哲學問題等待處理：在一個資源不再稀缺的世界里，我們需要怎樣的新經濟模式，才能讓所有人過上富足的生活？我們希望遵循怎樣的價值觀？人生的意義和目的將是什么？人類的生存狀態本身又會發生怎樣的變化？

這些問題顯然不能、也不應該只交給技術人員。社會的每一個部分都需要參與進來，共同定義這個新的篇章。

圍繞 AI，人們既懷有巨大的興奮，也面對巨大的不確定性。這兩種情緒都有充分的理由。

未來尚未寫定。我們必須利用 AGI 到來前這段寶貴的窗口期，引導這項技術造福全人類。我們現在共同采取的行動，將決定文明下一個階段如何展開。

如果能夠安全地引導 AGI 進入世界，我們就有機會邁入科學發現與進步的新黃金時代，迎來一個人類空前繁榮的光明未來。

參考資料：

1. https://x.com/demishassabis/status/2076957440109625718