整治AI毒動畫、炒作網紅兒童等亂象 “清朗”行動劃定監管紅線

　　如今，看手機、刷視頻，早已不是成年人的專利。你平時刷手機時，有沒有刷到過那種扭曲改編的毒動漫，或是把小朋友當成流量工具進行炒作的網紅兒童視頻?不少家長都為此揪心不已。而這些內容大多藏在早教、親子的內容里，隱蔽性特別強，稍不留意就會給孩子帶來不良影響。

　　為進一步加強未成年人網絡保護，營造風清氣正的網絡空間，近日，中央網信辦印發通知，在全國范圍內部署啟動為期4個月的“清朗·未成年人網絡保護”專項行動，覆蓋內容生產傳播全流程、全鏈條。

　　此次專項行動具體將如何展開，對網絡平臺、違規賬號、MCN機構分別劃定了怎樣的監管紅線?

　　中央網信辦發布通知明確，在發布環節，將整治編造毒動畫，利用AI技術惡搞經典動畫形象，刻意放大暴力恐怖元素，發布窒息挑戰等鼓動危險行為，還要整治包裝炒作“神童轉世”“早熟小美女”等，打造爭議兒童人設。還有整治擺拍逃學曠課、厭學躺平等，宣揚不良價值觀等視頻內容。

　　北京師范大學法學院教授、中國互聯網協會研究中心副主任吳沈括介紹：

　　AI毒動畫的危害主要在于其隱蔽性和精準性，常常通過偽裝成兒童動畫來實施精神侵害。事實上它通過迷惑家長們，給自己套上益智早教的標簽，對孩子用熟悉的動畫形象來吸引注意力，暗中的植入各種消極元素，比如暴力、低俗和錯誤的三觀。

　　這種精準瞄準未成年人的隱性侵害，具有非常深的危害性。同時AI技術的應用大幅降低了作惡的門檻，因為它可以通過簡單的操作批量生成魔改的動畫和邪惡視頻，這種內容再沿著算法的精準投放，可能會形成灰色鏈條，同時還會對孩子造成深度傷害。

　　在互動環節，此次專項行動還將重點整治以“找閨蜜”等為幌子，誘騙未成年人發送私密照片，以及部分群組以“二次元福利”為噱頭，向未成年人定向傳播色情漫畫等違法內容，以及在未成年人出鏡視頻下發布性暗示表情包等黑話爛梗，對未成年人造成侵擾等亂象。

　　北京青少年法律援助與研究中心網絡保護部負責人陳強介紹：

　　如今部分“網紅兒童”相關賬號內容存在爭議性，比如宣揚早戀、兒童軟色情等內容，容易引發粉絲互掐行為以及用戶在評論區發布惡俗、低俗評論等，從而導致對未成年人群體的網絡暴力傷害。此外，視頻內容也可能違背未成年人意愿，給未成年人帶來現實社交壓力。

　　未成年人頻繁參與網絡推廣，在這一類賬號當中，所謂的父母感情、親子關系、日常生活都成為可能會植入廣告的場景，以及可能被用來隨意調侃歪曲解讀的元素。兒童本人就變成一個為了實現廣告反差效果的道具，長此以往，可能會對兒童的價值觀以及對待生活、家庭、金錢的態度造成負面影響。

　　在營銷環節，此次專項行動還將重點整治部分直播間采取限量發售、絕版溢價等話術，誘導未成年人購買盲盒抽卡;部分商家利用暗語誘導售賣電子煙，以及提供AI換臉等技術，教未成年人破解人臉識別驗證，還有商家利用“預售享優惠”等話術誘導未成年人轉賬匯款，實施網絡詐騙等。

　　據介紹，此次專項行動將分為兩個階段開展：

　　第一階段將抓住暑期這一關鍵時間節點集中整治;

　　第二階段將突出“長效化規范”，壓實網絡平臺主體責任。

　　對此，吳沈括介紹，通過這樣先治標后治本的兩步走模式，一個是回應了暑期這個特定時間窗口的緊迫需求，同時為后續常態化監管奠定了基礎，體現以集中整治推動長效機制建設的深層次考慮。

　　第二階段將著力規范平臺推薦行為，指導平臺優化算法推薦服務機制，不得設置誘導網絡沉迷、過度消費等算法模型。吳沈括表示算法治理的難點主要包括穿透算法黑箱、審查算法價值取向等挑戰。

　　吳沈括介紹，在舉措上也需要多管齊下嘗試，比如說將“未成年人模式”從用戶的選項變成一種默認的底線，在源頭上將不良內容排除未成年人視野。另外還需要對于關鍵詞建立必要的審核和隔離機制，切斷擦邊內容、違法內容和未成年人興趣標簽之間的關聯。此外還需要建立分類分級的推薦機制，比如說對于疑似未成年賬號和低齡類的內容，采取更高標準的推薦、隔離措施。

　　此外，專項行動在第二階段還明確，要合理限制賬號發布未成年人出鏡內容時長頻次，MCN機構不得利用旗下賬號包裝炒作網紅兒童等。對此陳強指出，對于那些打著親子、母嬰旗號實則將未成年人作為流量工具和牟利手段的賬號，以及那些存在宣揚流量至上、庸俗媚俗等不良價值觀的行為，都需要加強限制。

　　陳強介紹，目前還沒有對網紅兒童相關問題具體進行認定規范，比如未成年人出鏡的次數多少算多?借助未成年人牟利的具體行為和標準是什么?這些沒有具體規定，這種情況下就需要更加具體的立法進行規范。

　　專家指出，網絡平臺應履行內容治理的主體責任，制定內部網絡內容認定標準，加強算法推薦、內容審核、商業營銷等方面管理;而家長要尊重未成年人子女的意見，避免將功利化思維傳達給孩子。

　　陳強介紹，從大眾角度來說，在看到網絡上未成年人相關問題的時候，當我們刷短視頻刷到這些信息的時候，不要只是簡單滑走，你可以積極向平臺反饋作為用戶的意見，來督促平臺重視問題，進行改變。