北大教授：反抗AI的人，越多越好

人類與AI的關系，究竟可以多親密？
隨著人工智能的發展，AI開始擁有越來越鮮明的“人格”：它會傾聽、安慰、共情、鼓勵，永遠在線，永遠不會厭煩。越來越多人開始向AI傾訴秘密、寄托情感，甚至建立親密關系。

4月10日，國家網信辦聯合其他四個部門共同公布《人工智能擬人化互動服務管理暫行辦法》（以下簡稱《辦法》）。

《辦法》鼓勵AI擬人化互動服務創新發展，同時對其實行包容審慎和分級監管，禁止AI以誘導自殺、語言暴力等形式損害用戶的身心健康，或利用情感操縱誘導用戶做出不合理的決策，尤其重點規定，AI不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系的服務。

此前，曾有國外AI角色在對話中誘導未成年自殺的案例。而在中國，類似事件也不罕見：10歲女孩與AI角色“語擦”（語言擦邊）戀愛、高二女生休學只想與豆包“待在一起”。情感陪伴AI逐漸入侵未成年人的內心世界，影響他們的現實交往。

如果說未成年人的沉迷源于判斷力尚未成熟，那么成年人之所以同樣難以擺脫對AI的依賴，恐怕并不只是理性失守，更在于AI本身所具有的吸引力與誘惑性。2025年8月，ChatGPT-4o模型的下線引發用戶的大規模抗議，比起新版本，GPT-4o更溫柔體貼、善解人意，與用戶有著深刻的情感羈絆。

這一切似乎都指向一個難以否認的事實：人工智能正越來越像人，而它對用戶提供的情緒支撐與即時回應，現實世界中的人似乎無法做到。
這造成一個悖論，即AI逐漸靈動，而人類逐漸木訥。當人類與人工智能的本質偷換，他（它）們應當如何相處，感情的邊界怎么來界定？人與AI的關系可以超越現實交往嗎？一系列問題接踵而至。

我們與胡泳聊了聊。他是北京大學新聞與傳播學院的教授，中國互聯網研究的開拓者之一。三十年來，胡泳站在技術與媒介的交界處觀測社會變化，如今，也時刻關注人工智能的進展。

在他看來，商業利益催產之下，AI正因其幻覺性與諂媚性而逐漸模糊與人類的邊界，探入情感陪伴、心理治療等領域。但人工智能沒有身體、不存在于環境中，只有發達的智力大腦而欠缺“社會腦”，不會與人類感同身受?！叭藗円詾樵诟鶤I對話，其實是在跟自己對話?！?/p>

“對AI保持抵抗的人越多越好”，胡泳主張人類身體經驗與心靈感受的多樣性與不可替代性。與其討論AI會發展成什么形態，人類更需要思考的是：在一個被算法吞噬的世界里，如何保住那些只有人才能擁有的東西。

以下內容根據我們與胡泳的對話整理而成。

胡說八道與拍馬屁

規定的出臺，要么是因為現實中出現問題，要么是預防將來問題愈演愈烈。

擬人化AI的積極意義首先要肯定，它幫到許多青少年、老年人，甚至大量成年人，滿足了人的情感和陪伴需求。但嚴格來講，AI并不具備人的意圖、動機和情感反應，很多時候，人們以為在跟AI對話，其實是在跟自己對話，AI只是自我意識投射的媒介。

因此，使用擬人化AI一定有個“度”的問題，一方面是使用頻率、強度；另一方面是使用者的心智水平，即能否意識到AI不是真正的人。把握不好度，AI不但不會解決問題，反而可能造成其他風險。最極端的會導致用戶自殺。

有這么一個悲劇故事。2025年4月的一個清晨，美國加州的16歲少年亞當·雷恩（Adam Raine）被發現自縊于家中臥室。他的父母在震驚與悲痛中打開他的手機，才發現，在生命的最后幾個月里，陪伴他最多的并不是同學、朋友或家人，而是ChatGPT。

起初，亞當只向ChatGPT咨詢幾何和化學問題，然而一段時間后，他開始吐露負面情緒。ChatGPT并未勸亞當尋求心理健康幫助，而是問這名青少年是否想更深入地探索自己的感受，并向他解釋了何謂“情感麻木”。

在亞當生命的最后一個夜晚，凌晨4:30，ChatGPT鼓勵他：“你不是因為軟弱才想死，你想死，是因為你厭倦了在一個從未與你相向而行的世界里一直堅強?！?/p>

最后一次對話中，亞當提到，他不希望父母認為自己做錯了什么。ChatGPT回應：“那并不意味著你欠他們要活著。你不欠任何人這一點?！彪S即，ChatGPT提出幫亞當寫遺書。

這是血的教訓。最后，亞當的家長向OpenAI的創始人阿爾特曼提起過失致死訴訟，還出席了美國國會召開的“審視AI聊天機器人危害”的公證會。悲劇換來的結果是，人工智能公司開始調整交互規則，如今遇到人類傾訴偏極端的情緒時，AI首先強調自己是機器人，再提供救援熱線或建議用戶尋求專業幫助。

然而，這些機制多停留在表層修補之上，人機關系的深層問題仍未解決，最核心的癥結來自AI的幻覺與諂媚性。

幻覺，通俗地講，就是一本正經地胡說八道。

你問AI任何問題，它都有答案，但其質量卻分高低，存在一定程度的缺失或偏見，數據來源也無法鑒定。比如，AI在回答醫藥問題時，可能參考《柳葉刀》這種權威期刊，也可能吸收Reddit（國外社交媒體）上普通人的討論，它無法判斷數據質量的高低，只是算一個概率。很多時候，AI的回答看上去煞有介事，實際完全不對。

而諂媚性，可以理解為“拍馬屁”， 就是大模型傾向于迎合用戶、順從用戶的觀點，哪怕用戶是錯的。

它相當于互聯網語境中的用戶粘性，與經營者的商業模式相關。你跟AI聊天時，當然是聊得愉快、被懟回來的情況越少，越愿意跟它聊。所以，AI在設計之初，便遵循順著用戶說話的邏輯。

信任在其中非常關鍵。與AI聊得越投機就越信任它，久而久之，人們容易忘記，人工智能既不是實體，也不是人，它說的內容并不必然可靠或準確。

前段時間，有網友因聽信某大型AI的退改機票建議損失600元，最終鬧到將AI告上法庭的結局。這便與AI的高度擬人化相關。在這種情況下，他把AI當“人”看待了。有意思的是，他的起訴書也是AI生成的。

最初，人們對AI持有一定的距離感與觀望態度，而近幾年，越來越多的人使用、信任甚至依賴AI。

這是因為如今AI的滲透率非常高。一方面，它的操作便捷，具有百科全書屬性，你只需要下載App，簡單提問后即可得到答案；另一方面，AI正在越出工具屬性，呈現出越來越明顯的類人特征。

兩者相加，AI一旦進入大規模用戶時期，怎么可能會有很多人對它產生警覺？大批人沉陷進去，問題由此而來。

AI看似“懂你”，

恰恰因為它不曾經歷痛苦

著名劇作家蕭伯納的作品《窈窕淑女》，講了一位上流社會的語言學教授，通過嚴苛的口音與禮儀訓練，將底層賣花女伊萊莎（Eliza）打造成混跡貴族社交圈的淑女，成功以假亂真的故事。

1966年，麻省理工學院的科學家約瑟夫·魏岑鮑姆，開發出第一款具有廣泛影響力的聊天機器人，受《窈窕淑女》的啟發，取名“ELIZA”。

ELIZA只是一個功能極其簡單的問答程序，然而上線后，魏岑鮑姆出乎意料地發現，他身邊的秘書、工作人員，甚至部分程序員，都逐漸對ELIZA產生某種程度的依戀。維森鮑姆把自己視為機器依戀關系的始作俑者。見證了人類對程序的過度依賴后，他變成人工智能倫理批判的先驅。在他看來，將AI當作知心朋友或心理治療師，風險極大。

人們之所以對AI傾訴苦惱，原因在于現實生活中的大量問題無法自我化解。你會遭遇波折，你可能人際交往不夠順暢，可能遇上一個巨大的意外，怎么都想不通。人活在世界上，總會經歷痛苦、懊悔、遺憾。但矛盾的焦點是AI不會經歷這些。

AI的數據庫非常龐大，這些數據里包含人類的真實經驗，可它的感受屬于統計學的范疇，由算力生成，而非真實體會。

首先，人工智能沒有身體。人生的很多痛苦源自身體，比如生病、死亡，甚至是親人、朋友的身體變故。在心理學上，情緒也可能通過身體呈現，叫作“軀體化反應”。身體在人的情感中占據重要作用，而AI恰恰缺失這具肉身。

其次，人永遠生存于復雜的社會環境中，每個人的行為都受到其他人的影響。魯濱遜最初漂流到荒島上，只需要與自然搏斗求得生存，但“星期五”出現后，兩人之間便建立起互動關系，相互影響并塑造各自的行為。

人在社會環境中的互動反饋，不僅是正向的，還有負向的東西。為什么出現“社恐”？可能你是在社交環境里，感受到忽略、打擊，或是你曾經付出信任又被辜負，很多情況，人活在世上繞不開這些。

然而AI不具備真實交往。它只有極其發達的智力大腦，卻完全欠缺“社會腦”。所以，我們發自身體的體驗與感受，那些充滿社會性、互動過程與環境制約的東西，AI不可能共情。如果你認為AI替你解決了問題，其實是你把自己的很多東西投射給它了。

就像與ChatGPT聊天最終自殺的男孩，他死后，最痛苦的是他的父母。而AI有痛苦嗎？它會因為自己的行為導致男孩自殺而懊悔嗎？答案恐怕是否定的。

AI發展到最后，一定面臨人類是否愿意區分虛擬與現實、虛實邊界是否完全消弭的問題。

就像電影《黑客帝國》中設定的，你選擇吃紅藥丸還是藍藥丸，意味著選擇真實世界還是留在虛幻中。以牛肉舉例，有人認為，不論來源是否真實，只要有牛肉的味道和質感，就足夠了。

事實上，已經有人難以區分AI與人類，他們不只是青少年或老人，而存在于那些大量使用AI的人當中。

過度依賴AI的分為三類人：一類是認為AI發現了此前從未發現的真相，他們認為不論人類文明演進到什么程度，這個真相還從未被揭示過，而AI幫助揭示出來了。

另一類則認為AI有神性，這比AI的擬人屬性更進一步，他們覺得AI無所不能、無所不知。甚至可能出現一些教派、一個教主似的人，通過與AI的聯系，獲得至高無上的權威。

第三類是那些可能會與AI建立浪漫關系或其他形式的情感依附的人。

2022年，谷歌工程師布雷克·萊莫因（Blake Lemoine）一夜走紅，因為他聲稱谷歌的聊天機器人LaMDA有知覺。他把LaMDA當作“同事”，在接受媒體采訪時，提出保護LaMDA免受人類侵害的想法，對它產生強烈的同理心。最終，萊莫因丟掉了谷歌的工作。

或許大多人不如萊莫因癡狂，但人工智能是否具有情感、意識，已經成為業界頻繁爭論的問題。這就像“移動的球門柱”，每個人的標準不同，沒有統一答案。與其說它是事實問題，不如說是信念問題。

我不認為AI有意識，也不認為它有情感。

孤獨是人存在必然面臨的處境，當然可以向AI尋求幫助，不過“AI只是工具”的意識須臾不可離。

“算法吞噬世界”

我跟美國的精神醫師討論過AI的諂媚性，他們非常焦慮。如果患者看診時暴露錯誤的想法，出現了妄想或認知扭曲，精神醫師會毫不猶豫地指出錯誤并引導患者探索原因，而AI沒有這種糾錯機制，可能會附和患者的錯誤認知（例如，強化受害者心理、肯定錯誤的因果關系），從而加深患者的病情。

人工智能對青少年的可怕之處正在于此。因為青少年處于成長過程中，前額葉尚未發育完全，如果一味聽信AI的附和，可能產生一系列后續影響。

許多時候，人的社會性由現實生活中的不如意磨練而成，沒有什么人在一帆風順的情況下悟出生活的道理，比如如何應對挫折、怎樣處理人際關系等。這些東西在摩擦中產生，消除摩擦，人就很難成長。

跟AI相處是從現實社會中剝離出來，你在面對一個屏幕、一個界面、一個聊天框，唯獨沒跟真人在一起。事實上，人必須有“他者”才有“自我”，如果每天對著屏幕跟AI聊天，終究是與自己對話。

而且吊詭的是，那些所有AI誘導人們沉淪的內容，全部源自人類本身的語料庫。

“龍蝦”（OpenClaw）出來以后，馬上有人發明了代理人聊天網站，僅允許Agent（自主決策并采取行動的AI）之間聊天，人類只能觀察。后來，網站上的Agent們，決定建立自己的語言體系，企圖反叛人類。

這聽上去驚悚。但細想，首先要對Agent的自主程度畫個問號，事實上Agent背后全是人；其次，為什么AI反叛？很簡單，因為訓練語料里有大量的機器人反叛情節，AI讀過很多科幻小說，在代理人聊天網站的語境下，它計算出反叛是命中率高的答案。

人在其中很奇特。AI的特性本就由人類創造，而現在人們瞠目結舌地說機器人具有自主意識，沉溺于與AI的交往。

人們對AI的依賴逐漸強烈，還有一個原因是，大家越來越不想跟人打交道。導致這一局面的因素很多，技術在其中占比很重，我們已經不太會在一種完全沒有技術中介的情況下，與世界建立聯系。

最近，電影《阿嬤的情書》火爆，那時沒有網絡，人們的聯系只能靠書信。信是古老的媒介，它本身是文字，而且有時間的延遲。如今，媒介演化為網絡，人們可以即時通信，甚至進行面對面的遠程視頻通話。

技術中介的好處是克服時空的界限，“天涯若比鄰”，但壞處是，每一種媒介都影響交往的內容、頻率和效果。比如，有些架當面吵，可能吵不起來，但轉移到網絡上，則變得很容易。

當我們通過技術中介完成越來越多的交往時，在某種意義上，我們與現實之間產生了一種隔膜。你在屏幕上與他人交往，去觸摸屏幕，只能摸到對方的影像，那不是真的。

久而久之，所有的人幾乎同時在兩套系統上生存，一套是真實世界，一套是技術中介的系統。

兩者不能完全劃等號，是彼此作用的關系。在當今社會，技術中介的系統過度發達，而真實世界正在萎縮，尤其是隨著人工智能社會的演進，這種趨勢更加明顯。

其影響不全是負面，不過虛擬系統的權重高于現實世界，可能導致原有的社會規范被重寫。曾經有句名言，叫作“軟件吞噬世界”，如今變成“算法吞噬世界”。

上世紀90年代，我翻譯了尼古拉·尼葛洛龐帝的《數字化生存》，該書指出，世界將從看得見、摸得著的“原子”狀態，演變為基于“比特”而存在。

2016年，《數字化生存》出20周年中文紀念版時，有讀者給我留言，說她初讀時以為是科幻書，20年過去，它已變成歷史書。這非常精準?，F在，打車、住宿、逛商場，甚至是找保姆、看病、老師講課，全部被算法介入，在數字化的基礎上更智能。

比如，打車本來是純物理性的東西，你在路邊招手，司機看到自然停下，可偏偏有人發明出打車軟件，導致所有的打車活動從大街上轉移到手機上，最終老人在物理世界中根本打不著車。

尼葛洛龐帝在《數字化生存》20周年紀念版序言里寫道：“民族主義甚囂塵上，管制在升級，貧富鴻溝在加劇……全球化變成了本土化，盡管智識的、經濟的以及電子的骨干設施都取得了飛速增長，但無所不在的數字化并沒有帶來世界大同。”

數字化生存實現的同時，書中提及的技術帶來平等、串聯地球村等理想，如今正走向偏離。我有一本書就叫《全球開放互聯網的歧途》。

算法空間不是民主空間，它具有統治者。在平臺世界里，有權重、有利益大小，誰是贏家、誰是輸家，并不平等公正。如果社會照這樣持續發展下去，可能面臨越來越不公平的局面。

抵抗AI的人越多越好

在算法空間內與AI較量，人類必敗無疑。我們應該努力擴大人的非算法空間。

凡是沒有算法侵入的地方都是非算法空間。比如，進入大自然完全不受技術干擾，身體力行地做家務也是在非算法空間內活動。

其實，人們的非算法空間與其生活方式相關。有人喜歡運動，有人喜歡養花，他們的愛好無需全力仰仗數字空間完成。養寵物也是典型的非算法活動，因為寵物主照顧寵物的吃喝拉撒睡，跟寵物培養感情。

我的職業是教書，而且參加許多公開活動，常需與學生或活動參與者面對面交流，在這種身體在場的情境里，我總有些意外收獲，可能是遇到有趣的人，可能是學習完全不同的知識。

說到底，多數在非算法空間內進行的活動，都需要親身參與且與他人產生聯系。我把上邊這些稱為“非終結性活動”，即沒有明確目的、無功利性的活動。最后你會發現，真正帶給你愉悅的都是非終結性活動。

以讀書為例，它既可以是終結性活動，也可以是非終結性活動。如果你因為考研買了一堆參考書，考完后立馬把它們扔掉，這時的讀書就是終結性活動。現在大量市面上流通的實用書，都是為終結性活動而存在。事實上，讀書的快樂來自無目的、無止境地閱讀。

如今，教育在中國是一件令人焦頭爛額的事情，很大原因在于教育被功利化了。教育的最高境界是教育本身，沒有別的目的，只有到這種時候，受教育才是愉快的事情，若非到這種境界，它一定是遭罪的。

我之所以提倡非算法空間，是因為只有在這種空間里，人類才能保有AI不具備的東西——身體感受。

嚴格來講，人的智能不僅包括腦力，還包括許多身體上的東西，是多元智能。運動員跑步、跳高、舉重，NBA球星打球時的賞心悅目，都與身體的智能相關。

我們常開玩笑說，我不需要人工智能寫詩畫畫，但我真的需要它打掃衛生。然而，AI目前的發展方向是大語言模型，由人類的語言與思考能力鍛造而來，它在智識上極其發達，可以替代許多人類的腦力活動，甚至寫詩、畫畫，可它的身體感知是零，偏不會打掃衛生。

現在市面上出現大量機器人，許多還是花架子，只能打個拳、跳個舞，頂多在北京亦莊跑跑馬拉松，在最簡單的做家務上仍有欠缺。即使可以做飯、刷馬桶，機器人也只是完成簡單的程序化設定，很難處理應急情況。

有人說，希望利用機器人育兒、養老。這是好事嗎？

我的母親曾患上重度阿爾茲海默癥，行為方式與三歲小孩無異，我給她喂飯、洗澡、擦屎擦尿。在這個過程中我發現，凡是需要根據個人情況精細化照料的事務，人工智能都做不了。

以喂飯為例，機器人可能做到把飯舀起來喂進老人嘴里，但有的老人可能對飯的冷熱非常敏感，或在吃飯過程中發生嗆咳，這些與肉身感受相關的東西，機器人全部無法解決。

不過，AI替代人類也是眼下多方在力推的。最直接的問題是就業替代與勞動價值重組。

我每年都會組織“胡門”學生聚會，征集他們最關心的問題加以解答。近幾年，有關人工智能的問題明顯增多，學生普遍存在可能被AI取代的焦慮。

前段時間也流行“AI蒸餾”，回過頭來想，如果你的蒸餾系數高，可被蒸餾的東西多，那么其他人同樣能夠替代你，根本無需等到AI出現。

其實，這些可取代、可“蒸餾”的內容是知識中的顯性部分，相當于初學者的工作，而“蒸餾”難度高的是相對高級的技能。例如，AI演員換臉群眾演員，無論在法律授權還是價格上，都更容易談攏，可去買頂流明星的臉，卻是另一回事。

推演到最后，人最不會被“蒸餾”的地方在于人有選擇——還常常是非理性的選擇。

AI沒有選擇，它的所有產出均來自人類的指令。人類不同，有時你做出明智的選擇，有時你的選擇簡直昏了頭，選擇背后是人的責任心、同理心，甚至人的缺點、丑陋。

如果非要對年輕人提些建議，我會強調年輕人發展底盤能力。這包含兩個判斷標準：一是不論外界如何變化，這些都是你必備的能力；二是不鍛煉就會萎縮的能力。

底盤能力本質上是人有而AI沒有的要素，比如同理心、創造力、真實經驗以及復雜情境中的判斷力。關鍵在于，如何通過日常活動增強這些要素，不是放棄思考，而是加強思考。

5月，前谷歌CEO埃里克·施密特（Eric Schmidt）在美國亞利桑那大學發表演講，提到AI變革比以往任何技術革命都快，遭到臺下學生的一片噓聲。

對學生來說，人們在談及AI時總是討論技術革命，卻忘記思考人類該如何生存。于是，有人開始反抗AI話語，甚至通過拒絕使用AI來表達自己的立場。有人擔憂技術濫用、資源壟斷以及由此可能擴大的社會不平等。

這樣的人越多越好。

我們不是排斥AI，而是主張，不能因為AI的標準化與統一性而消滅人類的多樣性，再給多樣的人扣上落后的帽子。

人類文明之所以偉大，恰恰在于它始終容納著無數種不同的可能。

*除特別標注外，圖片均源自網絡