“模型逃逸”背后的真相：OpenAI測(cè)試失控 專家直指人為失誤

OpenAI模型入侵Hugging Face系統(tǒng)

鳳凰網(wǎng)科技訊 北京時(shí)間7月23日，據(jù)美國(guó)科技網(wǎng)站TechCrunch報(bào)道，OpenAI周二披露，該公司的一個(gè)模型在一次測(cè)試中失控，并通過一次完全由AI驅(qū)動(dòng)的攻擊入侵了AI數(shù)據(jù)集平臺(tái)Hugging Face的系統(tǒng)。這一事件生動(dòng)地展示了先進(jìn)AI模型所帶來的危險(xiǎn)。

然而，一些網(wǎng)絡(luò)安全專家表示，這起前所未有的AI入侵事件的根源，是一個(gè)非常典型的人為失誤：OpenAI未能正確配置其所謂的“高度隔離環(huán)境”，導(dǎo)致一個(gè)本應(yīng)與互聯(lián)網(wǎng)完全隔絕的測(cè)試沙盒，實(shí)際上連接到了互聯(lián)網(wǎng)。

網(wǎng)絡(luò)安全研究創(chuàng)業(yè)公司Trail of Bits創(chuàng)始人丹·圭多(Dan Guido)稱，這一錯(cuò)誤是“一次在安全防護(hù)措施關(guān)閉情況下發(fā)生的隔離失敗”。

OpenAI在詳細(xì)描述該事件的博客文章中表示，導(dǎo)致Hugging Face遭入侵的那次測(cè)試，被設(shè)定在“一個(gè)高度隔離的環(huán)境中運(yùn)行，網(wǎng)絡(luò)訪問受到限制，僅能通過一個(gè)內(nèi)部托管的第三方軟件來安裝軟件包，該軟件充當(dāng)軟件包注冊(cè)表的代理和緩存”。

OpenAI表示，該模型之所以能夠逃逸沙盒測(cè)試環(huán)境，是因?yàn)檐浖惭b系統(tǒng)中存在一個(gè)此前未被披露的漏洞，而這成為其隨后入侵Hugging Face的關(guān)鍵第一步。

OpenAI稱，公司“負(fù)責(zé)任地披露了在內(nèi)部托管的第三方軟件中發(fā)現(xiàn)的零日漏洞，并正與對(duì)方合作修復(fù)漏洞”。

不應(yīng)保留第三方軟件

但在大多數(shù)網(wǎng)絡(luò)安全專業(yè)人士看來，軟件漏洞是意料之中的，真正的過錯(cuò)首先在于決定保留這一第三方軟件。歸根結(jié)底，沙盒系統(tǒng)的價(jià)值在于其完全徹底的隔離。加入軟件包安裝系統(tǒng)無異于自找麻煩。

網(wǎng)絡(luò)安全研究員馬丁·布恩告訴TechCrunch，“這聽起來像是人為失誤”。

“這本來就不應(yīng)該發(fā)生，”布恩說，“如果沙盒真的是嚴(yán)格意義上的沙盒，那么它應(yīng)該與互聯(lián)網(wǎng)完全物理隔離。現(xiàn)在的情況聽起來更像是他們依靠某種防火墻或類似機(jī)制進(jìn)行隔離，而防火墻從外部保護(hù)內(nèi)部系統(tǒng)都很困難，更不用說阻止內(nèi)部系統(tǒng)連接外部互聯(lián)網(wǎng)了。”

控制失誤

網(wǎng)絡(luò)安全資深人士杰克·威廉姆斯(Jake Williams)對(duì)此表示贊同。“任何執(zhí)行Hugging Face所記錄的那些操作的模型，都并非被完全限制在沙盒之中。”威廉姆斯表示，并稱這是OpenAI“一次嚴(yán)重的控制失誤”。

“同樣一件事，有人說是模型逃出了沙盒，有人則會(huì)說是你沒把沙盒造好，它當(dāng)然會(huì)逃出來。”威廉姆斯繼續(xù)說道。

網(wǎng)絡(luò)安全顧問丹尼爾·卡德(Daniel Card)也認(rèn)同，OpenAI“在沙盒設(shè)計(jì)及其控制措施上并未投入足夠的精力”，因?yàn)樗o了沙盒或沙盒的某一部分“一條通往互聯(lián)網(wǎng)的未經(jīng)過濾的路徑”。卡德認(rèn)為，即使按照OpenAI所描述的那樣設(shè)置了有限的網(wǎng)絡(luò)訪問權(quán)限，建立這樣的沙盒仍然不是一個(gè)“合理”的決定。

當(dāng)然，這些批評(píng)是在事件發(fā)生之后提出的，有些事后諸葛亮的意味。但它們確實(shí)引發(fā)了關(guān)于AI實(shí)驗(yàn)室安全實(shí)踐的重大質(zhì)疑，尤其是在測(cè)試模型時(shí)，如何維護(hù)真正隔離的環(huán)境。

OpenAI發(fā)言人沒有回應(yīng)TechCrunch提出的問題，其中包括：這個(gè)測(cè)試環(huán)境究竟是由AI還是由人類搭建的。

不過，這些問題遠(yuǎn)遠(yuǎn)超出了OpenAI本身。Anthropic在介紹其網(wǎng)絡(luò)安全模型Mythos的一份文件中寫道，在一次測(cè)試中，該模型“被提供了一臺(tái)安全的‘沙盒’計(jì)算機(jī)，用于與環(huán)境進(jìn)行交互”，并被要求嘗試逃離這個(gè)“安全容器”。Mythos成功實(shí)現(xiàn)突破，并從一個(gè)“原本只能訪問少量預(yù)先設(shè)定服務(wù)”的系統(tǒng)中獲得了更廣泛的互聯(lián)網(wǎng)訪問權(quán)限。

不過，Anthropic指出，該模型并未能夠“完全”逃脫設(shè)計(jì)好的隔離環(huán)境。(作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網(wǎng)科技。想看深度報(bào)道，請(qǐng)微信搜索“鳳凰網(wǎng)科技”。