美國拍下暫停鍵：5年內，擬禁止制造&銷售兒童AI玩具

讓AI陪伴產品的定位更明確。

來源|多知

作者|馮瑋

在美國，針對兒童AI產品的監管正在進一步收緊。

多知整理發現，近日，美國紐約州和加利福尼亞州立法機構相繼推進針對AI聊天玩具的限制法案。

兩州提出的方案均涉及“暫停期（moratorium）”，擬在未來數年內禁止相關產品的制造和銷售，為監管部門、兒童發展專家和產業界爭取時間，對這類新興產品的安全性展開更系統的評估。

具體來看：

紐約州議會正在審議S9408A法案。

其中提到，州內將禁止制造、交換、分發和銷售“聊天機器人玩具”。

該法案由紐約州參議員Andrew Gounardes發起，他指出：“我的法案將暫時中止面向幼兒的人工智能聊天機器人玩具的銷售，以便專家研究其對兒童的影響，并在造成更大傷害之前制定有效的保護措施。這合乎邏輯，公平合理，最重要的是，它明確表明，我們孩子的安全絕非大型科技公司可以拿來開玩笑的事情”。

其中提到的聊天機器人玩具，具體包括毛絨玩具、機器人、玩偶和帶有大型語言模型的語音激活設備，這些設備可以連接到互聯網并使用人工智能與兒童互動。

在紐約州參議院新聞中心的內容中，Andrew Gounardes提到：

“一項研究表明，聊天機器人玩具旨在通過持續在線和個性化回復來建立情感依戀。這對五歲以下的用戶來說尤其危險，因為他們尚無法區分人工智能和人類，而且也使所有兒童難以面對真實的人際關系。”

“過度使用聊天機器人玩具，尤其是在這種使用取代了人際互動的情況下，會剝奪兒童培養同理心、適應能力和溝通技巧等社交技能的機會。 ”

“聊天機器人玩具不僅收集用戶主動會話的數據，還會被動錄音，監視背景對話和家庭討論。至少有些型號會將這些數據與外部機構共享，用于分析和廣告。這給家庭帶來了隱私風險：今年2月，兩位美國參議員發現了一個公共網站，訪問者可以在該網站下載數千條關于Miko與特定兒童互動的數據。”

“美國聯邦貿易委員會已對七家主要的聊天機器人開發商展開調查，其中幾家已將人工智能助手集成到玩具中。與此同時，芭比娃娃、風火輪、費雪、美國女孩和波莉口袋娃娃的制造商美泰公司宣布與OpenAl合作，將人工智能的魔力帶入玩具領域。然而，OpenAl在其網站上承認，ChatGPT對13歲以下兒童不安全。 ”

按照目前進展，該法案已于6月1日在紐約州參議院獲得通過，并于6月2日在州眾議院獲得通過。由于眾議院對法案進行了小幅修改，目前法案已返回參議院等待最終確認。

五年禁令到期后，立法者可以決定是否延長禁令，或者允許向兒童銷售人工智能玩具，但可能需要制定相關法規來應對其風險。

同時，該法案采取的合理步驟是——在允許科技公司不受限制地接觸紐約最年幼、最脆弱的用戶群體之前，暫時中止銷售這種幾乎不受監管的兒童產品。

在法案支持者看來，這一暫停期將為政策制定者、兒童發展專家、家長、AI開發者和玩具制造商爭取時間，對AI聊天玩具可能帶來的影響進行更深入研究，并探索相應的監管框架。

幾乎在同一時期，加州也在推進類似立法。

加州參議員Steve Padilla提出了SB 867法案，該法案是全美首例，對面向18歲以下兒童銷售和生產具備人工智能聊天機器人功能的玩具實施為期四年的禁令。

Steve Padilla指出： “人工智能技術的應用范圍正以驚人的速度擴展。我們絕不能允許危險且未經檢驗的技術被推銷給我們的孩子。通過暫停銷售人工智能聊天機器人玩具，我們可以投入必要的時間和精力來建立一個健全的監管框架，以確保兒童的安全。”

實際上，加州擁有全美最嚴格的玩具安全法律，旨在保護兒童免受各種身體傷害，例如接觸有毒物質和窒息危險等等。

Steve Padilla強調，SB 867 法案由Children Now組織發起，并提議暫停向18歲以下兒童銷售和生產具備人工智能聊天機器人功能的玩具，為期四年。這樣做的目的，是為了“以便我們有時間更新法律，使其適應數字時代。”

該法案已于5月28日在加州參議院以39票贊成、0票反對獲得通過，目前正在提交眾議院審議。

“技術發展的速度已經超過了安全保障機制建立的速度，兒童不應該成為未經驗證技術的實驗對象”，Steve Padilla補充。

多知整理發現，推動兩州立法的重要原因，是AI玩具正在發生根本變化。

過去兩年，以生成式AI為核心的新一代兒童硬件開始快速涌現：從AI毛絨玩具、AI玩偶到具備陪伴能力的機器人產品，這些設備已經不再只是按照預設程序進行簡單互動，而是能夠借助大模型持續對話、記憶用戶信息，并根據兒童的情緒和交流習慣進行回應。

支持法案的立法者認為，這類產品使用的底層技術與ChatGPT等生成式AI系統高度相似，但其進入兒童成長場景后的長期影響仍缺乏充分驗證；在監管者看來，這類產品已經不再只是傳統意義上的玩具，而正在成為能夠長期影響兒童認知、情緒和社交關系的新型數字伙伴。

而自2025年12月以來，美國已有超過30個州提出了100多項與人工智能相關的法案，其中許多法案可能會影響兒童使用的設備，在前文提到的兩個州已經明確在AI+玩具外，華盛頓等則設立了適用于所有類別人工智能產品的保護機制。

例如：

俄勒岡州（SB 1546——法案已通過，等待州長蒂娜·科泰克在未來幾周內簽署）。

-需要明確告知用戶，他們正在與人工智能而非人類進行交互。

-強制要求制定檢測自殘或自殺意念的規程，包括危機轉介和基于臨床最佳實踐的干預措施。

-禁止發布露骨的性內容。

-限制聊天機器人模擬情感依賴或戀愛關系，并禁止基于參與度的獎勵機制。

-需要定期提醒（每三小時一次）暫停與人工智能的互動

-要求每年就危機干預和安全規程提交公開報告。

華盛頓州（HB 2225 – 法案已通過，待州長鮑勃·弗格森于3月24日簽署）。

-要求披露人工智能信息，包括每小時提醒用戶正在與人工智能交互。

-強制要求采取保障措施，以發現和應對自殘行為（包括飲食失調），并提供危機干預資源。

-禁止發布露骨的性內容。

-限制操縱性交往策略，包括培養情感依戀、模仿戀愛關系或鼓勵與家人或信任的成年人隔離。

白宮發布了《國家人工智能政策框架》，概述了國會的立法優先事項。

其中提及：

-加強對未成年人與人工智能系統互動時的保護。

-賦予家長管理孩子數字體驗的工具。

-鼓勵采取安全措施，以降低自殘或被剝削等風險。

-避免出現各自為政、監管體系碎片化的局面，同時保留各州解決地方問題的能力。

圍繞未成年人使用AI聊天機器人、AI陪伴產品和AI玩具，以及在當前整個AI網絡環境下的安全及監管討論，正在多個國家同步升溫。

在中國，將于2026年7月15日起施行的《人工智能擬人化互動服務管理暫行辦法》（下稱《辦法》），意味著以AI玩偶為代表的情感交互行業，將告別自由生長的野蠻階段，邁入安全、有序、向善的高質量發展新周期。

2025年，中國青少年研究中心針對全國7個省份、8500多名未成年人展開專項調研，數據顯示：超過兩成的孩子在接觸AI產品后，漸漸滋生出“只想依賴AI，不愿獨立思考”的惰性思維；同樣有兩成多的孩子，愈發沉迷于和AI玩偶的單向交流，刻意回避與身邊親人、同伴的真人溝通，慢慢陷入虛擬陪伴的社交孤島。

艾媒咨詢發布的《2026年中國AI玩具行業發展狀況與消費行為調查數據》顯示，中國AI玩具市場由中青年主導，且56.05%的消費者每周都會使用AI玩具3-5次……

《辦法》規定，擬人化互動服務提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系服務；向不滿14周歲未成年人提供其他擬人化互動服務的，應取得父母或其他監護人同意。

此外，擬人化互動服務提供者應當建立未成年人模式，還應在保護隱私和個人信息前提下，采取有效措施識別未成年人身份；識別為未成年人用戶的，應切換至未成年人模式或采取其他措施。

天翼物聯云芯AI模組產品線總監彭昭在一次媒體對話中提到，行業曾探索“娛樂化、社交化終端”方向，希望讓玩偶構建兒童社交網絡，在虛擬空間形成獨立數字人格。如今，新規的出臺，為這條探索之路踩下穩健剎車。

在澳大利亞，負責網絡安全事務的eSafety Commissioner已連續對多家AI陪伴產品展開調查，并要求企業說明如何保護未成年人免受色情內容、自殘誘導等風險影響。今年發布的一份官方報告指出，多款主流AI陪伴產品在兒童保護方面存在明顯缺陷。

英國也正在討論如何將AI聊天機器人納入現有未成年人網絡保護框架，并針對AI陪伴產品可能帶來的風險加強監管審查。

過去二十年，兒童互聯網監管主要圍繞社交媒體、視頻平臺和網絡游戲展開；而隨著生成式AI開始進入毛絨玩具、機器人、兒童陪伴設備等硬件場景，監管對象也正在從“屏幕里的AI”延伸到“玩具里的AI”。

當AI開始以朋友、寵物、老師甚至情感陪伴者的身份進入兒童世界時，從世界到國內，不同的政策與方案本質上的目的是相似的。

即，讓AI陪伴產品的定位更明確，它不是親情的替代品，不是心理的操控者，而是引導成長、輔助溝通、增益家庭關系的工具；也讓AI陪伴孩子時，可以更安全，更安心。

作者：馮瑋

教育科技媒體多知商務對接人：夏女士18614077531(微信同號)

教育從業者年度必讀丨《教育科技這一年：教育+AI新紀元》火熱銷售中，點擊小程序購買?

掃碼加入多知新書交流群，共同探討教育+AI的未來

由肖云著、多知首發的《價值：增長的邏輯》今日開售！點擊下方小程序即可搶購！