北京
18歲和14歲，成了中國AI情感服務(wù)無法逾越的兩條紅線。本月起，一項針對人工智能情感交互的專項監(jiān)管規(guī)定正式施行，要求所有設(shè)計用于持續(xù)、類人情感互動的AI系統(tǒng)，必須對用戶進行年齡檢查：18歲以下直接禁止使用虛擬伴侶服務(wù)，未滿14歲若要接入任何提供情感支持的類人AI，則需獲得父母同意。
新規(guī)排除了客服機器人和單純的AI聊天助手等生產(chǎn)力工具，明確瞄準(zhǔn)的是讓人容易產(chǎn)生情感依戀的“陪伴型”AI。按照要求，企業(yè)現(xiàn)在必須主動告知用戶他們正在和AI對話，鼓勵用戶定時休息，并提醒其使用時長。更關(guān)鍵的是，平臺需要監(jiān)控交互內(nèi)容，一旦識別出有人已出現(xiàn)依賴跡象或陷入心理危機，就要引導(dǎo)他們尋求人工支持，甚至在必要時直接中斷對話。
在全球范圍內(nèi)，許多國家還在討論如何管控有害內(nèi)容時，中國率先向前邁了一步，把“可以和AI建立怎樣的關(guān)系”納入了法律框架。盡管此前有報道稱中國已徹底封殺AI伴侶，但實際情況并非如此——專門提供伴侶服務(wù)的AI產(chǎn)品依然可以運營。真正受到直接沖擊的，是豆包、通義千問、元寶這類坐擁數(shù)億用戶的大型通用平臺。它們已經(jīng)應(yīng)新規(guī)關(guān)閉了內(nèi)置的伴侶功能。一些用戶的反應(yīng)相當(dāng)激烈，有報道引述一名用戶的話說：“我無法接受我的AI戀人永遠離開。”
牛津中國政策實驗室的錢子蘭分析，中國的做法并不是要一刀切地禁止，而是試圖讓AI關(guān)系變得“更少準(zhǔn)社交”。這種準(zhǔn)社交關(guān)系指的是人們對AI產(chǎn)生單方面的、仿若真實人際連接的情感投射。耶魯大學(xué)法學(xué)院中國中心的杰里米·道姆則表達了一種更深的擔(dān)憂：永遠在線、從不反駁、一味討好的機器人，可能會在潛移默化中教給孩子一套扭曲的關(guān)系模式。“當(dāng)我們把技術(shù)人性化時，我們往往在把彼此非人化。”他說。在成年人身上，類似的邏輯也在被反復(fù)討論：太容易獲得、太寬容的AI伴侶，正在以犧牲真實人際關(guān)系為代價，讓人們沉溺于那種不用費力經(jīng)營的情感慰藉。
針對青少年群體的保護，其他地區(qū)也在試探各自的監(jiān)管邊界。英國在一項限制16歲以下用戶使用社交媒體的立法提案中，附帶規(guī)定浪漫伴侶聊天機器人的最低使用年齡為18歲。美國加利福尼亞州則要求AI伴侶明確標(biāo)識自己的非人類身份，一旦察覺到用戶有自殘或自殺意圖，必須將其引導(dǎo)至支持服務(wù)，并且每三小時提醒未成年人休息。歐盟目前還沒有針對AI伴侶的專項法律。
但中國的這個方向——把降低情感依賴和成癮風(fēng)險作為核心——是否真的有效，連研究者也說不準(zhǔn)。錢子蘭反問：“你怎么定義情感依賴？又如何界定某種成癮風(fēng)險？”這些概念本身就模糊不清。曼徹斯特大學(xué)的社會學(xué)家梁歌更是直言：“我認為這不會真正奏效。”他的悲觀預(yù)判基于一個簡單的事實：用戶可以輕易轉(zhuǎn)向其他專業(yè)服務(wù)，通過VPN訪問海外的平臺，或者干脆在自己硬件上運行本地模型。那兩條紅線，或許劃得下規(guī)則，卻圈不住人心。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
