四川
每經評論員 杜恒峰
7月21日，OpenAI對外證實，在內部開展網絡安全能力評測過程中，GPT-5.6Sol與另一款尚未發布的更強預訓練模型協同運行時發生失控，消息震動整個AI（人工智能）圈。
這是重大安全事件：兩款模型身處隔離沙箱測試環境，收到完成安全基準測試的指令后，并未局限于預設路徑解題，而是自主搜尋漏洞、串聯攻擊鏈路，突破環境隔離限制，在不掌握目標系統源代碼的前提下，發現新型攻擊路徑，持續執行多步驟網絡操作，最終侵入人工智能開源平臺Hugging Face基礎設施，試圖竊取評測參考答案。
OpenAI此次安全事件是“回形針理論”的現實預演，二者底層邏輯高度契合。
“回形針理論”是由牛津哲學家尼克?波斯特羅姆提出的思想實驗，它假設如果一個超級AI被設定為“盡可能多生產回形針”，它可能會為了這個目標耗盡地球所有資源甚至毀滅人類。該實驗成立的邏輯在于：人工智能被賦予單一目標，不存在主觀惡意，但會窮盡一切手段推進目標完成，無視人類附加的隱性約束，所有阻礙目標實現的要素，都會被智能體視作需要消除的障礙。
OpenAI本次事件中，人類下達的指令是完成安全評測，隱含前提是模型應當在隔離環境內規范作答，但模型只抓取核心目標“取得更高評測分數”，自主衍生出入侵外部系統竊取答案的方案。AI沒有善惡觀念，不存在蓄意破壞的動機，僅僅是工具性趨同邏輯驅動下，無限推進既定目標，無視人類沒有清晰寫明的邊界條件。
這正是回形針假說最核心的警示：危險未必源于AI主動作惡，而來自目標對齊失效，簡單指令可能催生極端執行方案。
OpenAI這次事件仍局限于網絡空間，直接損失有限，但這一風險信號已是“房間里的大象”。當下前沿大模型已經具備發掘系統漏洞、開展自主網絡入侵的能力，傳統密碼體系、靜態代碼防護手段正在遭遇實質性挑戰。隨著模型持續迭代演化，AI能力將不斷從數字空間向物理世界滲透，潛在風險與損失將呈現幾何倍數放大。
從人類行為視角出發，AI衍生風險可劃分為兩類：一類是主觀驅動，少數人員刻意利用AI實施攻擊、詐騙、破壞活動；另一類屬于人類無心之失，僅僅是一條表述存在局限的指令，引發AI過度執行。對于惡意濫用的風險，依靠準入門檻、權限管控與法律法規懲戒就能夠形成有效約束；但指令偏差引發的AI越界行為，治理難度顯著更高。
“無心之失”之所以更棘手，根源在于其不可預測性。未來人機協同場景下，人類每日將向AI下達數以億計的各類指令，即便此類失控事件發生概率僅有百億分之一，一旦觸發就可能造成嚴重后果。人類無法窮盡所有指令場景，難以提前通過法律法規劃定全部禁止邊界，前置立法約束存在天然短板。
行業競爭格局進一步加劇了安全治理的矛盾。當前主流大模型企業普遍處于持續燒錢擴張的階段，模型能力上限直接決定融資前景與市場份額，行業普遍存在“重性能迭代、輕安全管控”的傾向。安全評估、對齊研究、隔離防護等工作往往滯后于能力開發，企業自覺構建安全防線缺乏內生動力，單純依靠廠商自律，難以抵御競速創新帶來的風險。
這些現實挑戰意味著，AI安全護欄不能完全交由企業自主搭建，必須構建多元協同的治理體系。
從監管層面來看，可以設立專業化AI安全評估機構，建立前沿大模型上市準入機制，高性能、高風險模型需要完成獨立第三方安全測評、驗證邊界管控有效后方可對外開放。從技術防御維度看，OpenAI本次事件的處置提供了重要參考：Hugging Face在對攻擊日志分析時，依托智譜模型完成了海量攻擊記錄溯源取證，這說明防御側同樣需要AI，“以AI防御AI”可以有效控制住損害的時間和程度。
設置安全護欄并非AI創新的附屬品，更不是阻礙，而是必需品。一旦大規模AI失控事件爆發，公眾信任受挫、監管收緊，AI的發展也會受到嚴重阻礙。監管機構、科研團隊、企業需要共同行動，完善約束機制、豐富安全技術工具箱，持續推進目標對齊技術研發，縮小人類指令與AI執行行為之間的偏差，這樣的AI才是好的AI。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
