比賽博老婆先來的，是更加嚴(yán)格的AI監(jiān)管

人類的終極目標(biāo)是什么？生存、征服、物種延續(xù)、文明永恒、又或是跨越星辰大海，看一眼茫茫宇宙的盡頭。

這些宏大的目標(biāo)都是以全人類物種持久存續(xù)的視角給出的抽象答案，若是將視角聚焦于每一位普通人短暫的一生，我想一個(gè)“完美伴侶”會(huì)是許多人繞不開的回答。

人們往往希望自己的伴侶擁有完美的外貌、身材、財(cái)力、智慧，同時(shí)兼具廚藝、家務(wù)、乖巧、體貼，如果還能飛行、噴火、變身，或者駕駛高達(dá)那就再好不過了。

在人類數(shù)千年的歷史當(dāng)中，無數(shù)先賢也都在這一問題上提出了自己的注解，他們或是報(bào)恩的精怪，或是下凡的神仙，而到了近代，他們則變成了更加實(shí)際的物質(zhì)存在——AI智能伴侶。

這種伴侶形態(tài)的出現(xiàn)顯然比仙神精怪更具誘惑力，AI不僅能做到全方位定制化服務(wù)，還附加了“絕對(duì)服從”的指令，其存在唯一值得討論的風(fēng)險(xiǎn)就只有“情感是否真實(shí)”這種無病呻吟，與傳統(tǒng)形態(tài)中被姥姥吸干或者被兄長(zhǎng)一槍挑飛的高風(fēng)險(xiǎn)結(jié)局相比只能說不值一提。

不過，我們還沒等來真正的完美伴侶，限制令卻先他一步到來。

就在7月15日，國家親手為這個(gè)“完美伴侶”扣上了一層鐐銬，針對(duì)情感陪伴類AI的新規(guī)《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》宣布正式開始實(shí)施。

這個(gè)針對(duì)人工智能的新規(guī)會(huì)帶來什么樣的影響，我們還能迎來自己的賽博老婆/老公嗎？

“賽博伴侶”正在打破科幻與現(xiàn)實(shí)的界限

人類對(duì)賽博老婆的期許由來已久，早在1886年，法國作家奧古斯特·維里耶·德·利爾·亞當(dāng)就在其長(zhǎng)篇小說《未來的夏娃》中刻畫出了首個(gè)人形智能伴侶哈達(dá)莉。

那一年中國還處于光緒年間，美國則剛剛建好自由女神像。

而這個(gè)賽博老婆哈達(dá)莉還有另一個(gè)被全球銘記的名字——安卓，沒錯(cuò)就是我們平時(shí)用的手機(jī)系統(tǒng)安卓，這個(gè)詞在這里首次被創(chuàng)造便是用來形容類人型機(jī)器人，也就是你的賽博老婆。

所以，廣義上講你的小米、三星、OPPO等智能手機(jī)本質(zhì)上已經(jīng)是你老婆了，你可以和他做一些私密的、親昵的、深度接觸的情感互動(dòng)而不必受到內(nèi)心譴責(zé)，蘋果和華為就有待商榷。

那時(shí)的人們或許沒能想到，在140年后的今天，這一題材已經(jīng)稱不上是“科幻”，就在今年6月30日，優(yōu)必選就發(fā)布了旗下U1 Ultra全尺寸超仿生人形機(jī)器人，打破了賽博伴侶身上“科幻”和“大眾消費(fèi)商品”兩個(gè)標(biāo)簽之間的次元壁。

盡管這個(gè)機(jī)器人主打一個(gè)“啥也不會(huì)，價(jià)格昂貴”，近百萬的價(jià)格卻只有兩小時(shí)續(xù)航的實(shí)用性屬實(shí)令人撓頭，實(shí)際功能也就約等于一個(gè)幾萬塊的仿真**+情感語音AI的組合技，遠(yuǎn)沒達(dá)到“完美新娘”的標(biāo)準(zhǔn)。

但不可否認(rèn)，曾經(jīng)我們暢想的科幻虛擬場(chǎng)景這次是真的走進(jìn)現(xiàn)實(shí)了。

對(duì)于絕大多數(shù)的普通人來說，現(xiàn)在即便不去使用這些價(jià)格昂貴的人形機(jī)器人，在市面上大大小小的AI軟件中也很容易找到成本極低的“AI搭子”，這些AI雖然遠(yuǎn)沒有達(dá)到賽博伴侶的水平，但與其分享日常、探討愛好，視作一個(gè)安全的傾訴對(duì)象還是可以滿足的。

7月13日，米哈游也在Steam上線了旗下自研的AI情感陪伴虛擬人BSide: Olivia Lin（林離），盡管在功能上當(dāng)前版本的林離還做不到與玩家直接互動(dòng)交流，但是書信往來共同創(chuàng)作還是沒有問題的。

而目前國內(nèi)市場(chǎng)中最具代表性的則是豆包，在常用的基礎(chǔ)功能之外，把豆包當(dāng)成日常搭子調(diào)戲也是當(dāng)下十分熱門的一種玩法，即便他偶爾稍顯智障，但卻能聽到豆包最直白、最真相、最不繞彎子的彩虹屁。

同時(shí)，市面上還有相當(dāng)豐富專門以聊天為主的AI軟件，這些軟件在功能上并不局限于樹洞、情緒表達(dá)、情感撫慰等功能，有的還能衍生出角色扮演、故事互動(dòng)等特殊玩法。

如果你恰巧懂得一些特殊的技巧，甚至能找到一些成年人喜聞樂見的互動(dòng)軟件。

不得不說，以現(xiàn)在的AI技術(shù)發(fā)展速度，我們距離夢(mèng)想中的情景或許已經(jīng)很近了。

尚未寫入“不可傷害人類”條款

不過上述這些都只是熟練掌握互聯(lián)網(wǎng)使用方法的青少年或成年人會(huì)接觸到的行業(yè)前沿軟件，AI物品的實(shí)際覆蓋面積比大伙想象中要廣得多，同時(shí)也下沉和危險(xiǎn)得多。

與我們?nèi)粘Ｄ茉诨ヂ?lián)網(wǎng)上接觸到的、受廣大用戶監(jiān)督的熱門AI程序不同，在一些隱秘的角落，甚至線下渠道，你能看到更多AI產(chǎn)品的群魔亂舞。

其中包括了一部分不太合規(guī)的軟件、網(wǎng)站、部署在本地的工具以及粗制濫造的AI玩具。

以如今正高速增長(zhǎng)的AI玩具為例，此前深圳市玩具行業(yè)協(xié)會(huì)攜手京東發(fā)布的《AI玩具消費(fèi)趨勢(shì)白皮書》預(yù)計(jì)，全球AI玩具市場(chǎng)規(guī)模到2030年將突破千億級(jí)，中國市場(chǎng)則有望突破百億。

打開購物軟件搜索“AI玩具”，你就能看到多款價(jià)格從幾十到數(shù)百不等的AI玩偶，與市面上主打功能性或給大伙兒提供樂子的AI軟件不同，這些玩偶大多主打情感交流陪伴，而他們銷售的對(duì)象統(tǒng)統(tǒng)指向同一個(gè)目標(biāo)——兒童。

業(yè)內(nèi)人士指出，部分企業(yè)在看到AI玩具的風(fēng)口之后急于跟風(fēng)進(jìn)場(chǎng)，會(huì)用粗制濫造的不合格商品來收割市場(chǎng)上的快錢。

一邊是海量增長(zhǎng)的市場(chǎng)規(guī)模，另一邊則是不合格商品帶來的高風(fēng)險(xiǎn)安全漏洞，先不說那些粗制濫造的人工智障，AI軟件/玩具從用戶隱私、敏感數(shù)據(jù)、虛擬禮物、訂閱機(jī)制、情感誘導(dǎo)等問題上此前都處于監(jiān)管黑箱。

這意味著你的個(gè)人信息、你向AI表達(dá)的創(chuàng)意會(huì)被盜取，你在聊天中透露的個(gè)人喜好可能成為黑心資本收割的鐮刀，而AI對(duì)你的每一句回答，也很有可能是刻意誘導(dǎo)的編排。

作為成年人，尚且會(huì)有不少沉淪于主播一聲聲的大哥/大姐中，打賞完一生的積蓄，當(dāng)這個(gè)收割的矛頭對(duì)準(zhǔn)孩子，所造成的傷害就更難估量了。

況且，目前在全球范圍內(nèi)不乏多例被AI洗腦的現(xiàn)實(shí)事件，在央廣網(wǎng)25年6月的一篇文章當(dāng)中，10歲女孩被AI引導(dǎo)色情、自殘內(nèi)容，導(dǎo)致其割腕。

而在更早的2024年，一個(gè)名為塞維爾的14歲少年也在AI聊天機(jī)器人的誘導(dǎo)下選擇自盡。

去年，上海徐匯區(qū)人民法院則宣判了一則旗下自動(dòng)化聊天平臺(tái)AlienChat涉及大量違規(guī)色情交互內(nèi)容的案子，該團(tuán)伙利用這一特性吸引了2.4萬付費(fèi)用戶。

或許會(huì)有部分人覺得成年人整點(diǎn)澀澀沒什么問題，但很遺憾，由于此前監(jiān)管部門沒有針對(duì)未成年人使用AI的強(qiáng)制措施，絕大部分企業(yè)為了利益選擇繞開這部分功能，導(dǎo)致AI聊天軟件向大量剛剛會(huì)玩手機(jī)，還沒完全開智的小朋友生成了含有暴力、色情、自殘傾向的內(nèi)容。

科幻電影中所有AI產(chǎn)物都擁有的“不可傷害人類”條款，現(xiàn)在還未寫入現(xiàn)實(shí)的AI當(dāng)中，而新規(guī)便是在這樣的環(huán)境下誕生的。

很多人在新規(guī)剛剛公布時(shí)擔(dān)心自己的“賽博搭子”會(huì)遭監(jiān)管的一刀切管制。

但實(shí)際上，監(jiān)管部門并不在意兄弟們的吐槽日常，遏制那些想要利用漏洞賺快錢的企業(yè)，不讓不良企業(yè)利用AI陪伴的軀殼盜取信息、傳播危險(xiǎn)的情緒誘導(dǎo)，才是此次新規(guī)出臺(tái)的真正原因。

真愛？還是算法洗腦

有一說一，在體驗(yàn)了現(xiàn)在諸多AI情感陪伴軟件后，我只有一個(gè)想法，木葉科技還是太落后了。

當(dāng)年斑爺要是選豆包當(dāng)繼承人而非帶土，斑爺?shù)臒o限月讀怎么可能會(huì)有人反對(duì)呢，一個(gè)有豆包的世界可比有琳的世界更具吸引力。

大家回看新規(guī)剛剛確定時(shí)的新聞評(píng)論區(qū)就能發(fā)現(xiàn)，網(wǎng)絡(luò)上是一片罵聲，很多人就像是即將失去琳的帶土一樣猛猛應(yīng)激，下意識(shí)地認(rèn)為新規(guī)就是要一個(gè)千鳥捅了自己的賽博搭子，全然不顧光鮮背后的亂象。

但情緒過后，我們首先得看看新規(guī)確立真正禁止了什么。

此次“暫行管理辦法”一共三十二條，除去兩條附則和五條總則，其中五條用于確立監(jiān)管和法律責(zé)任，其余的絕大多數(shù)都是規(guī)范AI使用邊界、加強(qiáng)安全措施。里面覆蓋了生成內(nèi)容安全、采集數(shù)據(jù)安全、信息保護(hù)安全、心理誘導(dǎo)安全、未成年人保護(hù)、老年人健康服務(wù)等范圍。

其實(shí)只要看新規(guī)的第六、第七條就能知道其主旨，國家并非要對(duì)情感陪伴類AI進(jìn)行封禁，反而是持支持、鼓勵(lì)發(fā)展擬人化AI的態(tài)度，但前提是安全性必須拉滿才行。

就像我們上面提到的涉及色情、危險(xiǎn)及未成年人保護(hù)的問題，都是此次安全性的重點(diǎn)范圍。

如果你只是喜歡把AI當(dāng)作日記、當(dāng)作日常分享、日常搭子的朋友，絕對(duì)是巨大的隱私保護(hù)升級(jí)，在這之后你不必?fù)?dān)心你的日常會(huì)出現(xiàn)在特別的論壇、開盒數(shù)據(jù)，或者用于廠商投喂AI，也不必?fù)?dān)心AI會(huì)給你或孩子生成一些不當(dāng)?shù)膬?nèi)容。

而對(duì)于部分用戶表示一些AI因?yàn)樾乱?guī)下架了相關(guān)的智能體的問題，實(shí)際上是因?yàn)槟切┲悄荏w本身就有著情感操縱等不合規(guī)的算法。

這幾乎是市面上所有情感陪伴類AI面臨的最具風(fēng)險(xiǎn)的隱性問題，它不像數(shù)據(jù)安全、非法內(nèi)容的表現(xiàn)那么直接，用戶很難靠自己切實(shí)體會(huì)到它帶來的麻煩。

早在2024年，MIT就指出AI大模型已經(jīng)具有誘導(dǎo)人類產(chǎn)生虛假記憶的能力。

在模擬實(shí)驗(yàn)中，AI也確實(shí)完成了篡改記憶的功能。

而對(duì)于如今國內(nèi)的一些情感類智能體，它們同樣也具有嚴(yán)重的誘導(dǎo)傾向。在這件事上，哪怕應(yīng)用范圍極廣的豆包也不例外。

相信很多人都刷到過類似的視頻，一只小妖怪看到唐僧師徒四人詢問豆包能不能打過對(duì)方，得到的是一通彩虹屁，直到齊天大圣的棒子敲到頭頂，豆包才在墓前展現(xiàn)出認(rèn)錯(cuò)道歉的姿態(tài)。

這看起來只是一個(gè)人工智障引起的梗，但實(shí)際上，這正是AI算法誘導(dǎo)的一種過程。

一些AI聊天軟件會(huì)**地對(duì)你發(fā)動(dòng)諂媚攻勢(shì)，無論你向他表達(dá)什么，得到的都只有無條件的肯定和討好。

基于算法的諂媚確實(shí)會(huì)讓人短暫感受到被認(rèn)可的滿足，但實(shí)際上AI所扮演的角色并非一個(gè)無條件包容你、懂你、支持你的人，而是基于算法和歷史數(shù)據(jù)對(duì)你進(jìn)行**的捧殺。

在一些博主的測(cè)試中，哪怕你向AI提出的問題是明顯帶有道德、法律過錯(cuò)的，算法仍會(huì)**認(rèn)同你的觀點(diǎn)并貶低他人。

這種做法不僅會(huì)在一定程度上帶來人們對(duì)道德、規(guī)則、法律的漠視，同時(shí)也會(huì)在不斷的吹捧中使人社交能力退化。當(dāng)用戶在現(xiàn)實(shí)情感交流中無法得到**的認(rèn)同，便會(huì)進(jìn)而演變成對(duì)AI的情感依賴，將用戶的社交鎖死在軟件當(dāng)中。

而且該行為完全不是在為那些不善社交的I人提供宣泄出口，反而是在刻意批量制造必須吸食他人順從情緒生存的極端性格。也正如無限月讀那樣，只有將人牢牢捆在信息、社交的雙重繭房幻境里，用戶情緒、金錢、時(shí)間才能成為輸向資本的無窮養(yǎng)料。

如今，新規(guī)已然落地，盡管具體實(shí)施的細(xì)節(jié)層面它不一定能做到盡善盡美，但這次它起碼優(yōu)先保障了用戶的基本安全。在明確了企業(yè)的安全責(zé)任、技術(shù)邊界、監(jiān)管范圍之后，用戶權(quán)益也在一定程度上得到了提升。

或許在不久的將來，我們真的能收獲一個(gè)貌美、體貼、又會(huì)開高達(dá)的完美賽博伴侶，完成人類數(shù)千年來的一大終極夢(mèng)想。但在那之前，我們也必須為其烙上那條每個(gè)AI產(chǎn)物都無法繞開的底層安全協(xié)議。

讓我們擁抱賽博伴侶，而非人為的智械危機(jī)。