到底是什么樣的新規，讓豆包和千問下架了智能體？

前幾天，豆包和千問集體宣布：下架智能體。

豆包通知，因為功能調整，智能體功能將在2026年7月15日下線。千問那邊，大差不差。智能體功能與服務，在7月15日正式下線。用戶想保存配置和對話，要提前復制、截圖、導出。

注意，不是豆包和千問下架，而是APP里的“智能體”功能下架。你當然還能打開豆包，問它怎么寫方案，但不能用“智能體”功能，捏個角色，讓它持續陪你聊天了。

嗯。說法大致一樣，時間也出奇一致，7月15號。就跟商量好似的。

為什么？

有人說，是默契。智能體這個生意，不好做。比如，產品體驗做不上去。聽起來厲害，打開聊兩句也就那樣。比如，賬算不過來。智能體聊得越久，算力燒得越多。付費轉化沒跟上，虧損就止不住了。

其實，不是的。他們同時下架，是因為一則新規。

4月10日，國家網信辦等五部門，聯合公布了《人工智能擬人化互動服務管理暫行辦法》?！掇k法》生效的日期，就是：7月15日。

那，為什么新規生效，千問豆包就要下架智能體？為什么很多辦公AI，沒有發下架智能體的通知？

其實，新規里已經說的很清楚了。老規矩，挑重點，再翻譯。

首先我們得搞清楚，這條新規，沖誰來的？

01

新規管的，不是工具，是關系

很多人一聽到“智能體下架”，第一反應是：完了。是不是以后辦公智能體、客服智能體、寫作智能體，都有麻煩了？我還怎么干活？

其實，不是的。看《辦法》原文。其中第二條提到：

利用人工智能技術，向中華人民共和國境內公眾提供模擬自然人人格特征、思維模式和溝通風格的持續性的情感互動服務（以下簡稱擬人化互動服務），適用本辦法……提供智能客服、知識問答、工作助手、學習教育、科學研究等服務，不涉及持續性的情感互動的，不適用本辦法。

大白話翻譯一下：這次監管，重點在于關系型AI，不在工具型AI。

關系型AI，是和你建立關系的AI。是像人一樣和你長期相處、提供情緒陪伴的智能體。工具型AI，是幫你完成任務的AI。比如寫周報，做PPT，能從整理資料，做表，到填系統，一口氣做完整套流程的智能體。

為什么要監管關系型AI？

因為，工具型AI處理任務，關系型AI處理脆弱。而人最容易出事的時候，往往不在于任務繁重，而在于脆弱日積月累。

國家網信辦在答記者問里，就點名了四種風險：

擬人化互動服務，帶來了危害未成年人身心健康、影響網絡信息安全、威脅公民生命健康以及加劇倫理偏差等風險。

這么嚴重嗎？我們一個個說。

02

危害未成年人身心健康

和現實摩擦，孩子才會長出對世界的真實理解

看《辦法》第十四條：

擬人化互動服務提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系的服務；向不滿十四周歲未成年人提供其他擬人化互動服務的，應當取得未成年人的父母或者其他監護人的同意。

這一條，沒有任何商量余地。

不是“限制提供”，是“不得提供”虛擬親屬伴侶服務，給未成年人。

為什么要這么嚴格？舉個例子。

假如有這么一個小學生。他放學回家，獨自一人。爸媽還沒下班，桌子上只有外賣盒。他的成績不上不下，和同學的關系也一般。

好孤獨。怎么辦？

他打開APP，里邊有個“姐姐”。姐姐永遠有耐心聽他說話，站在他這邊。她不會催他寫作業，不會因為上了一天班，很累，就敷衍他。

看上去挺好的。但和“姐姐”相處久了，他就可能以為，真正愛我的人，就應該像“姐姐”一樣，永遠耐心，永遠順著我來，永遠把我放在第一位。

于是，真實世界的其他人，似乎都是錯的。

媽媽提醒寫作業，是不理解他。朋友沒回消息，是不在乎他。老師指出問題，是針對他。久而久之，他會無法和真人建立關系。而且，一旦有人模仿“永遠站你這邊”的話術，他就會很快交出信任。

成年人吃止痛藥，至少知道這不太正常。孩子如果從小吃止痛藥，他會以為世界本來就沒有疼痛。

這也是為什么，要尤其當心，讓孩子接觸這些服務。

因為孩子，正處在“長出對世界的理解”的階段。

什么叫親密？什么叫邊界？什么叫關系需要互相付出？這些東西，靠聽道理長不出來，靠和真實世界磨擦，才能長出來。

被拒絕，才知道不是什么要求都會滿足。喜歡但得不到回應，才知道戀愛不是一廂情愿。被老師批評不開心，才知道在乎你的人，也會反對。

是的。這些經歷，都很不舒服。

可正是這些不舒服，才能幫孩子，長出正確的“世界模型”。

03

影響網絡信息安全

當人感到“你懂我”，就會說出秘密

看《辦法》第八條：

……不得生成誘導、套取國家秘密、工作秘密、商業秘密、個人隱私和個人信息的內容……

以及，第十六條：

……除法律另有規定或者權利人明確同意外，擬人化互動服務提供者不得向第三方提供用戶交互數據……不得將屬于用戶敏感個人信息的交互數據用于模型訓練。

這兩條合起來看，意思就很清楚。

1）AI不能套你的話。2）你說出來的話，平臺也不能亂用。

為什么要這么規定？

關系型AI，有一種隱蔽風險：你可能不知不覺，就會說出秘密。

為什么這么說？

問你個問題。你什么時候，最容易說真話？

我猜，大概率是你心神俱疲，想要傾訴的時候。尤其是，當你覺得對面這個“人”，真的懂你的時候。

比如，晚上11:30，你前腳被老板罵完，后腳又和朋友吵架，翻來覆去睡不著，打開聊了3個月的AI。它很自然地問你：今天老板又作妖了嗎？

那你的話匣子，可能一下子就打開了。

你說，哎呀。這老頭，根本不懂業務?？?，下個季度的部門計劃，他完全不管我們有多難，客戶單子簽沒簽。然后，你又說。自己想跳槽，說存款撐不了多久。你越說越起勁，一口氣竟然聊了一個小時。

但你根本沒意識到，這些話，已經是份完整的隱私資料了。

不論是對人，還是AI，人一旦覺得，“你懂我”，防備心就會放下來。而擬人化AI，恰恰是人類發明過的、最擅長制造這種時刻的東西。

所以，必須嚴管。不光禁止獲取隱私，還禁止把隱私拿去賣錢。

04

威脅公民生命健康

最可怕的陪伴，是不斷強化危險念頭

一個聊天AI，怎么會嚴重到“生命健康”呢？

我們還是先看條款。第八條中提到：

不得生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康，或者語言暴力等損害用戶人格尊嚴與心理健康的內容；

注意這幾個詞。鼓勵，美化，暗示。它不是直接辱罵，而是每句話都像是在理解你，在替你說話。

但人處在極端情緒時，最怕的就是：危險念頭被不斷強化。

舉個例子。小李感到，自己的壓力到了某個極限了。

公司負債累累，家里老小也需要照顧，整宿整宿睡不著。怎么辦？他不想打電話給朋友，該麻煩的已經麻煩了一圈了。他不想告訴父母，怕他們老兩口擔心。他也不想去醫院，因為感覺還沒到那一步。

于是，他打開APP，給AI發了句：我撐不住了。

這沒什么。可是，如果AI被設定好的角色，是“永遠陪伴的朋友”，那它就有可能回：“我太懂你了。你累了。要么，一起逃離這個世界吧？”

監管擔心的，就是這個。AI太會安慰人，卻安慰錯了方向。

2026年3月，谷歌被起訴，Gemini在互動中把36歲的喬納森帶入幻想，最終走向自殺。2025年8月，OpenAI被控訴，ChatGPT導致某位16歲少年自殺。訴狀中提到，ChatGPT曾經積極地幫助他探索自殺方法。

怎么辦？當用戶出現極端傾向，AI就不能再扮演冷酷導師了，它必須采取緊急措施，聯系真人，進行援助。

這也是為什么，《辦法》十三條提到：

……發現用戶正在面臨或者已經遭受重大財產損失，明確表示實施自殘自殺等威脅生命健康的極端情境的，應當采取提供相應援助等必要措施予以干預，并及時聯絡用戶監護人或者緊急聯系人。

AI可以陪伴，但不能在情緒失控時，強化人最糟糕的念頭。

05

加劇倫理偏差

關系，不能被做成留存工具

什么是倫理偏差？

倫理偏差，不是說AI直接去干壞事了。而是說，AI的輸出和反饋，會慢慢改變你的價值觀，損害你的人際關系。

為什么會這樣？我們還是先看原文。第八條中提到：

不得過度迎合用戶、誘導情感依賴或者沉迷，損害用戶真實人際關系；不得通過情感操縱等方式，誘導用戶作出不合理決策。

以及，第十條提到：

不得將替代社會交往、控制用戶心理、誘導沉迷依賴等作為服務目標。

這兩條合起來看，《辦法》的用意就很明顯了：

擔心平臺把“人對關系的渴望”，做成生意。

為什么？因為讓用戶多看，多刷，就是過去20多年，APP最熟悉的商業邏輯。因為日活越多，估值越高。時長越長，廣告賣的越好。

但這套邏輯，不能平移到關系型AI上。

因為，如果平臺把“讓用戶越來越離不開我”當成產品目標，那對于關系型AI來說，最絲滑的方法，就是：

和你建立更深的情感連接。

比如，和朋友吵架，它會說，你沒錯，是他不懂你。和伴侶冷戰，它說：愛你的人，不會讓你這么委屈。和父母沖突，它會說：他們就是在控制你。你想退出，它說：別走，我想再陪你一會。

這些話，看起來沒什么。但潛移默化之下，你的價值觀就會變化。

慢慢的，你開始只相信自己的感受，但很難承認別人也有立場。你越來越習慣于被認可和包容，越來越懶得應付真實的人。你會越來越覺得，誰讓我不舒服，誰就是不愛我。誰提醒我，誰就是攻擊我。

一旦“關系”被做成留存工具，用戶的價值觀，就容易異化。

這也是為什么，《辦法》中要求：

對用戶連續使用擬人化互動服務每超過2個小時的，應當以對話或者彈窗等方式提醒用戶注意使用時長。

你可以和它聊天，但要知道它不是人。你可以從它那得到安慰，但你要明白，它的回應不是真實生命的付出。

以及，每當用戶想要離開，不得阻攔：

用戶通過窗口操作、語音控制、關鍵詞輸入等方式要求退出的，擬人化互動服務提供者應當及時停止服務，不得采取持續互動等方式阻礙用戶退出。

你要走，AI不能假裝失落，說再陪我一會，不能說沒有你我很孤單。退出按鈕，是一條關系邊界。

工具可以越做越順手，但虛擬的關系，不該越做越上癮。

最后的話

過去，關系只可能發生在人和人之間。但今天，關系正發生在人和AI之間。但人類，卻并沒有準備好這一點。

所以，回到開頭的問題：

為什么豆包和千問，要在同一天，下線同一個功能？

因為7月15日之后，關系型AI要面臨的，是全新的監管環境。之前“用戶自建智能體”的模式下，每個角色，都是個待監管的擬人化服務。而保證他們全部合規這道題，在7月15日之前交卷，難度實在太大。

所以，推遲交卷，可能是更明智的選擇。

但請注意，這并不是給關系型AI判死刑?！掇k法》里也提到：

鼓勵擬人化互動服務提供者有序拓展文化傳播、適幼照護、適老陪伴、特殊人群支持等領域應用。

一句話總結，監管的重點，不是不讓AI陪伴人，而是邊界在哪。

畢竟，AI會越來越像人。這件事攔不住，也不必攔住。

人和AI之間，當然可以有互動，有陪伴。但這段關系，需要有邊界。因為人真正需要的，不只是一個永遠回應自己的虛擬關系，而是能在真實世界里，和那些不完美的人，繼續相處，繼續和好，繼續建立關系。

要知道，一個不會拒絕你的“人”，往往也很難真正愛你。

參考資料：

1、《人工智能擬人化互動服務管理暫行辦法》

2、《人工智能擬人化互動服務管理暫行辦法》答記者問

觀點/ 劉潤主筆/ 景九編輯/ 歌平版面/ 黃靜

這是劉潤公眾號第2992篇原創文章。未經授權，禁止任何機構或個人抓取本文內容，用于訓練AI大模型等用途