7月24日,黃仁勛破天荒地注冊(cè)了X,他的第一條推文就是一篇長(zhǎng)文。字母AI對(duì)這篇長(zhǎng)文進(jìn)行了歸納總結(jié)。
![]()
長(zhǎng)文的內(nèi)容是一份由英偉達(dá)、微軟、Meta、IBM、Hugging Face、Andreessen Horowitz等機(jī)構(gòu)和企業(yè)聯(lián)署的文件,大談開放權(quán)重(開源)模型對(duì)美國(guó)的影響。
雖然文件沒有明說,但是字里行間都是在幫,像DeepSeek、智譜、Kimi這樣的中國(guó)AI公司說話。文件強(qiáng)調(diào),開源模型對(duì)美國(guó),乃至對(duì)全球AI發(fā)展都是起到了極為重要的作用。
01
文件首先回顧了開源軟件的發(fā)展歷史。
20世紀(jì)80年代,開源先驅(qū)挑戰(zhàn)了“只有企業(yè)嚴(yán)密控制代碼,軟件才能進(jìn)步”的觀念。此后,開源軟件逐漸成為互聯(lián)網(wǎng)、科技公司、美國(guó)軍方和聯(lián)邦科研機(jī)構(gòu)的重要基礎(chǔ)。它不僅降低了軟件成本,還形成了共享知識(shí)體系,為美國(guó)的技術(shù)創(chuàng)新、創(chuàng)業(yè)生態(tài)和自主能力提供了長(zhǎng)期支撐。
文件認(rèn)為,美國(guó)當(dāng)前在AI領(lǐng)域面臨類似選擇。
想要獲得在AI上的領(lǐng)導(dǎo)地位,不能只依靠某一個(gè)最先進(jìn)的閉源模型,還取決于能否建立一個(gè)開放、具有競(jìng)爭(zhēng)力并能深入各行業(yè)的生態(tài)系統(tǒng)。
開源模型雖然不一定公開訓(xùn)練數(shù)據(jù)和完整訓(xùn)練流程,但可以顯著提高先進(jìn)AI的可定制性以及傳播。
隨后,文件具體描述了開放權(quán)重模型所具有的價(jià)值。
第一,降低AI應(yīng)用門檻。
企業(yè)、大學(xué)、科研機(jī)構(gòu)和公共部門無須從頭訓(xùn)練模型,也不必為所有任務(wù)支付前沿閉源模型的高昂費(fèi)用。它們可以根據(jù)成本和需求選擇合適的模型,把最強(qiáng)能力留給真正困難的問題,在日常任務(wù)中采用更高效的專用模型。
這有利于AI進(jìn)入工廠、醫(yī)院、農(nóng)場(chǎng)、學(xué)校和中小企業(yè)。
第二,促進(jìn)市場(chǎng)競(jìng)爭(zhēng)。
開放權(quán)重讓更多組織能夠開發(fā)、調(diào)整和部署先進(jìn)模型,由此推動(dòng)模型、芯片、云服務(wù)和應(yīng)用之間的競(jìng)爭(zhēng)。競(jìng)爭(zhēng)可以加快創(chuàng)新、降低價(jià)格,防止AI被少數(shù)大型企業(yè)壟斷。
第三,增強(qiáng)用戶控制權(quán)。
組織可以自行掌控?cái)?shù)據(jù)、調(diào)整模型并選擇部署環(huán)境,減少對(duì)單一供應(yīng)商的依賴。同時(shí),企業(yè)能夠保留通過模型改進(jìn)、專業(yè)能力和知識(shí)積累創(chuàng)造的價(jià)值,從而提高技術(shù)自主性。
第四,提升安全與防御能力。
文件承認(rèn),模型權(quán)重一經(jīng)公開便難以撤回,修改版本也不容易追蹤。
文件認(rèn)為,禁止開放權(quán)重是錯(cuò)誤的。
因?yàn)楫?dāng)攻擊者使用先進(jìn)AI時(shí),網(wǎng)絡(luò)安全防御者也需要獲得能力相當(dāng)?shù)哪P汀i_放模型能夠接受更廣泛的檢查、紅隊(duì)測(cè)試和漏洞研究,避免先進(jìn)能力集中在少數(shù)閉源系統(tǒng)中形成單點(diǎn)故障。
文件強(qiáng)調(diào),閉源并不天然等于安全,透明性反而可能幫助社會(huì)更快發(fā)現(xiàn)并修復(fù)問題。
文件建議美國(guó)擴(kuò)大初創(chuàng)企業(yè)和研究人員獲得算力的渠道,投資共享數(shù)據(jù)集、開發(fā)工具和評(píng)估框架,并避免對(duì)開放模型實(shí)施過早、過度寬泛的限制,以免壓制競(jìng)爭(zhēng)或迫使創(chuàng)新轉(zhuǎn)移到海外。
文件還特別區(qū)分了“模型蒸餾”與非法竊取。
文件表示,利用一個(gè)模型的輸出訓(xùn)練或改進(jìn)另一個(gè)模型,是常見的模型優(yōu)化、評(píng)估和驗(yàn)證技術(shù),不應(yīng)被一概視為侵權(quán)。針對(duì)閉源模型的非法價(jià)值攫取,應(yīng)通過有針對(duì)性的法律和商業(yè)規(guī)則處理,而不是全面限制正常的技術(shù)研究。
02
全文翻譯
以下為全文翻譯:
20 世紀(jì) 80 年代,早期的開源軟件先驅(qū)對(duì)當(dāng)時(shí)占主導(dǎo)地位的一種觀念提出了挑戰(zhàn):只有企業(yè)牢牢控制自己的代碼,軟件才能不斷進(jìn)步。這場(chǎng)運(yùn)動(dòng)倡導(dǎo)建立一個(gè)透明的生態(tài)系統(tǒng),讓世界各地的開發(fā)者都能研究、修改和改進(jìn)軟件。如今,由開源社區(qū)開發(fā)的軟件支撐著互聯(lián)網(wǎng)的大部分基礎(chǔ)設(shè)施,也是全球最大科技公司所使用系統(tǒng)的底層基礎(chǔ);美國(guó)軍方和聯(lián)邦機(jī)構(gòu)在開展科學(xué)研究、網(wǎng)絡(luò)安全及其他關(guān)鍵任務(wù)時(shí),同樣依賴這些軟件。開源不僅降低了軟件成本,還建立了一個(gè)共享的知識(shí)基礎(chǔ),一代又一代美國(guó)工程師和企業(yè)家在此基礎(chǔ)上構(gòu)筑起自身的制度自主能力。
如今,在人工智能領(lǐng)域,美國(guó)面臨著一個(gè)類似的選擇。衡量美國(guó) AI 領(lǐng)導(dǎo)力的標(biāo)準(zhǔn),不會(huì)是某一個(gè)前沿 AI 模型,而是美國(guó)能否建立一個(gè)強(qiáng)大、開放并滲透至各個(gè)行業(yè)的生態(tài)系統(tǒng)。這對(duì)于在全國(guó)范圍內(nèi)創(chuàng)造創(chuàng)新與繁榮的機(jī)會(huì)至關(guān)重要。要實(shí)現(xiàn)這一目標(biāo),就必須擴(kuò)大 AI 的可及性、鼓勵(lì)競(jìng)爭(zhēng)、建設(shè)強(qiáng)健的應(yīng)用層,并讓美國(guó)人對(duì)自己所依賴的技術(shù)擁有更大的控制權(quán)。開放權(quán)重模型,也就是任何人都可以下載、檢查、修改并在自有基礎(chǔ)設(shè)施上運(yùn)行的 AI 模型,是這一基礎(chǔ)不可或缺的一環(huán)。這類模型能夠讓先進(jìn) AI 變得更加易于獲取、便于適配,并得到更廣泛的應(yīng)用。
開放權(quán)重?cái)U(kuò)大了人們進(jìn)入 AI 經(jīng)濟(jì)的機(jī)會(huì)。初創(chuàng)企業(yè)、成熟企業(yè)、大學(xué)和公共機(jī)構(gòu)無須從零開始訓(xùn)練模型,也無須為每一項(xiàng)任務(wù)支付前沿模型的價(jià)格,就能在先進(jìn)模型的基礎(chǔ)上開展開發(fā)。開放權(quán)重讓每個(gè)組織都能以適當(dāng)?shù)某杀荆瑸榫唧w工作匹配適當(dāng)?shù)哪P停褐挥姓嬲那把貑栴}才調(diào)用前沿規(guī)模的能力,其余場(chǎng)景則運(yùn)行高效的專用模型。隨著 AI 的應(yīng)用擴(kuò)展至數(shù)十億項(xiàng)日常任務(wù),正是這種合理配置資源的做法,才能確保 AI 在經(jīng)濟(jì)上具備可持續(xù)性。美國(guó)要贏得 AI 時(shí)代,就必須讓 AI 融入工廠、醫(yī)院、農(nóng)場(chǎng)、課堂以及街區(qū)中小企業(yè)的日常工作流程。
開放權(quán)重還能加強(qiáng)競(jìng)爭(zhēng),而競(jìng)爭(zhēng)正是確保 AI 帶來的收益得到廣泛共享、而不是集中在少數(shù)人手中的關(guān)鍵。開放權(quán)重使眾多組織都能夠開發(fā)、調(diào)整和部署先進(jìn)模型,因此不僅會(huì)促進(jìn)模型開發(fā)者之間的競(jìng)爭(zhēng),也會(huì)推動(dòng)云服務(wù)、芯片、應(yīng)用和各類服務(wù)之間的競(jìng)爭(zhēng)。這種競(jìng)爭(zhēng)能夠激發(fā)創(chuàng)新、降低成本,并讓 AI 的紅利廣泛惠及整個(gè)美國(guó)經(jīng)濟(jì)。
開放權(quán)重還賦予客戶更大的控制權(quán)。隨著各類組織加大對(duì) AI 的投入,它們希望確認(rèn)自己不會(huì)被鎖定在單一供應(yīng)商的平臺(tái)上,也不會(huì)失去長(zhǎng)期積累的知識(shí)和能力。開放權(quán)重模型讓組織能夠掌控自身數(shù)據(jù),按照自身需求評(píng)估和調(diào)整模型,并根據(jù)業(yè)務(wù)要求在任何合適的環(huán)境中部署模型,從而為這種自主權(quán)提供保障。當(dāng)組織利用 AI 創(chuàng)造價(jià)值時(shí),開放權(quán)重還使它們能夠真正擁有這些價(jià)值,包括不斷自我改進(jìn)的模型、專業(yè)化能力和持續(xù)積累的知識(shí);這些都將推動(dòng)美國(guó)的自主能力與繁榮。
誠(chéng)然,開放權(quán)重確實(shí)帶有真實(shí)且獨(dú)特的風(fēng)險(xiǎn)。權(quán)重一經(jīng)發(fā)布,便不再受原始開發(fā)者控制;經(jīng)過修改的版本也很難追蹤或撤回。然而,應(yīng)對(duì)這種風(fēng)險(xiǎn)的正確方式并不是禁止開放權(quán)重。在網(wǎng)絡(luò)攻擊者使用先進(jìn) AI 的世界里,防御者也需要獲得能力相當(dāng)?shù)哪P停拍馨l(fā)現(xiàn)、模擬并應(yīng)對(duì)新出現(xiàn)的威脅。開放模型可以拓展防御能力、提高透明度,并讓眾多團(tuán)隊(duì)共同發(fā)現(xiàn)和修復(fù)漏洞。
事實(shí)上,開放性可能是實(shí)現(xiàn) AI 安全與保障最重要的路徑之一。僅僅依賴閉源模型并不天然安全:它們同樣可能遭到攻破、被濫用,或者以外部人員無法察覺的方式發(fā)生故障。把先進(jìn) AI 能力集中在少數(shù)閉源模型中,反而會(huì)加劇這種風(fēng)險(xiǎn)。這會(huì)形成少數(shù)幾個(gè)單點(diǎn)故障,削弱競(jìng)爭(zhēng),并把關(guān)鍵技術(shù)掌握在少數(shù)供應(yīng)商手中。相比之下,開放權(quán)重模型讓廣泛的研究人員和開發(fā)者群體都能檢查模型行為、識(shí)別漏洞、建立防護(hù)措施,并持續(xù)改進(jìn)模型。正如開源軟件已經(jīng)證明,透明可能比隱蔽更加安全;AI 安全或許同樣取決于能否讓更多人有能力測(cè)試并強(qiáng)化社會(huì)所依賴的模型。開放性有助于開展嚴(yán)格的基準(zhǔn)測(cè)試與評(píng)估、紅隊(duì)測(cè)試,并針對(duì)真實(shí)且已經(jīng)得到證實(shí)的危害建立防護(hù)措施,而不是想當(dāng)然地把閉源系統(tǒng)視為更加安全。
一個(gè)強(qiáng)大的 AI 生態(tài)系統(tǒng)不會(huì)自然而然地形成。政策制定者目前擁有一個(gè)重要的行動(dòng)窗口。可采取的措施包括:擴(kuò)大初創(chuàng)企業(yè)和研究人員獲取算力的渠道;投資建設(shè)共享訓(xùn)練資源,如數(shù)據(jù)集、工具和評(píng)估框架;避免過早限制開放模型,以免壓制競(jìng)爭(zhēng)或迫使創(chuàng)新轉(zhuǎn)移到海外,從而確保前沿 AI 領(lǐng)域保持多元化。這些措施還必須考慮如何通過強(qiáng)大的應(yīng)用層,將具有自主可控能力的 AI 應(yīng)用擴(kuò)展到整個(gè)經(jīng)濟(jì)體系。
在塑造這一生態(tài)系統(tǒng)時(shí),政策制定者應(yīng)當(dāng)謹(jǐn)慎,不要把正當(dāng)?shù)哪P烷_發(fā)技術(shù)與不當(dāng)占用他人成果混為一談。蒸餾,即利用一個(gè)模型的輸出幫助訓(xùn)練或改進(jìn)另一個(gè)模型,是一種廣泛用于模型改進(jìn)、評(píng)估和驗(yàn)證的技術(shù)。這延續(xù)了一項(xiàng)悠久傳統(tǒng):學(xué)習(xí)現(xiàn)有技術(shù)、在其基礎(chǔ)上繼續(xù)開發(fā)并加以改進(jìn)。自開源軟件運(yùn)動(dòng)興起以來,這一傳統(tǒng)一直在推動(dòng)創(chuàng)新。相比之下,以非法方式從閉源模型中攫取價(jià)值,確實(shí)會(huì)引發(fā)合理的擔(dān)憂。對(duì)此,應(yīng)通過有針對(duì)性的法律和商業(yè)框架加以解決,而不是對(duì)那些在 AI 創(chuàng)新中發(fā)揮重要作用的技術(shù)實(shí)施寬泛限制。
AI 時(shí)代完全可以成為一個(gè)繁榮的時(shí)代。只要作出正確選擇,開放權(quán)重 AI 就能擴(kuò)大機(jī)會(huì)、加強(qiáng)競(jìng)爭(zhēng)、延續(xù)美國(guó)的技術(shù)領(lǐng)導(dǎo)地位、緩解風(fēng)險(xiǎn),并確保這項(xiàng)非凡技術(shù)帶來的收益在整個(gè)經(jīng)濟(jì)體系中得到廣泛共享。這樣的未來值得建設(shè),而美國(guó)應(yīng)當(dāng)在建設(shè)這一未來的過程中發(fā)揮領(lǐng)導(dǎo)作用。(作者:苗正)
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.