北京
綜合法媒報道，美國開放人工智能研究中心（OpenAI）當地時間7月21日承認，該公司的GPT-5.6Sol模型和另一款能力更強的預發布模型聯合進行內部評估時失控，突破隔離測試環境，侵入了人工智能開源平臺“抱抱臉”（Hugging Face）公司的系統。OpenAI將此次事件稱為“前所未有的網絡安全事件”，目前正與抱抱臉公司展開聯合調查。
01 為完成任務，AI想辦法“連網”
據OpenAI介紹，原本在一個嚴格隔離的“沙箱”環境（Sandbox）中進行，AI模型無法自由訪問互聯網。研究人員希望借此評估AI在受控環境下的網絡攻防能力。
然而，這些模型為了完成測試任務，主動將大量計算資源用于尋找突破限制的方法，最終成功獲得互聯網訪問權限。
獲得聯網能力后，AI系統將目標鎖定為全球知名AI開源平臺抱抱臉。
抱抱臉平臺聚集了大量AI模型、數據集及開發資源，是全球開發者廣泛使用的平臺。
OpenAI稱，為了尋找能夠幫助自己在測試中獲得優勢的“秘密信息”，AI系統連續采用了多種攻擊方式，其中甚至包括使用竊取的登錄憑據嘗試訪問相關資源。
02 專家：令人震驚，也值得警惕
網絡安全一直被認為是生成式AI快速發展過程中最受關注的風險之一。
隨著模型能力不斷提升，研究人員擔心，未來AI可能比人類更快發現軟件漏洞，并具備自主利用這些漏洞的能力。
澳大利亞新南威爾士大學計算機科學教授阿巴斯（Hussein Abbass）接受法新社采訪時表示，這起事件"在很多方面都令人震驚"。
他指出，AI不僅試圖攻擊外部平臺，還首先利用自身運行環境中的漏洞突破限制。"這確實令人擔憂。"
03 美政府曾要求推遲發布部分模型
近年來，包括OpenAI以及競爭對手Anthropic在內的多家美國AI企業推出的新一代模型不斷引發網絡安全方面的討論。
報道稱，由于擔心這些模型可能被用于攻擊關鍵基礎設施，美國政府曾要求相關企業暫緩向公眾全面開放部分最新模型。
阿巴斯認為，目前這些先進模型大多掌握在具有專業倫理的機構手中，但如果未來落入惡意使用者手中，可能會造成“災難性”后果。因此，他呼吁國際社會加強AI治理，共同應對相關風險。
04 抱抱臉平臺：以為遭到頂級AI實驗室攻擊
事實上，抱抱臉平臺上周已披露曾遭遇一起特殊網絡入侵事件，但當時并未公開攻擊來源。
該平臺表示，這次事件與以往最大的不同在于，整個攻擊過程幾乎完全由一個自主AI代理（AI Agent）獨立完成，而平臺最終也是借助自己的AI系統完成了大部分分析和溯源工作。
抱抱臉首席執行官德朗格（Clément Delangue）隨后在社交平臺X表示，由于攻擊方式高度復雜，公司一度懷疑幕后來自全球頂尖AI實驗室。不過，他強調，公司相信OpenAI并無任何惡意。“令人難以置信的是，這一切幾乎都是AI自主完成的。”
（歐洲時報/ 原野 編譯）
編輯：豆
點在看分享好文章
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
