法治在線丨這些爆火視頻需警惕！“AI拼接怪獸”正在帶偏你的孩子

今年以來，AI生成的短視頻在各大平臺迅速走紅，有一些被稱為“外國山海經(jīng)”的視頻在未成年人中掀起熱潮。對于視頻中出現(xiàn)的怪獸的名字，有些孩子是倒背如流。

“動(dòng)畫角色”多種多樣

均為AI拼接生成

在這些視頻中，孩子們反復(fù)念叨著拗口又毫無意義的音節(jié)。實(shí)際上，這些并不是胡言亂語，而是幾個(gè)網(wǎng)絡(luò)動(dòng)畫角色的名字。咱們再來細(xì)看這些“動(dòng)畫角色”：有木棍人；有仙人掌身軀、腳踩拖鞋的大象；有身體是輪胎的青蛙；有鱷魚和軍用飛機(jī)的融合體；還有香蕉上頂著猩猩腦袋、魚身配貓頭等違背常理的奇怪形象。這些形象并非出自傳統(tǒng)動(dòng)畫或經(jīng)典IP，而是由AI拼接生成的。

北京市互聯(lián)網(wǎng)信息辦公室網(wǎng)絡(luò)數(shù)據(jù)與技術(shù)處工作人員 王煜凱：其實(shí)最大的一個(gè)受眾就是在未成年人圈層，尤其是中小學(xué)生，還有一些低齡兒童，他們在這種視頻內(nèi)容中容易被一些夸張敘事的怪物形象和元素所吸引。

孩子中流行度高

相關(guān)視頻點(diǎn)贊量驚人

那么，這所謂的“外國山海經(jīng)”在孩子們中的流行程度究竟有多高呢？記者在多個(gè)短視頻平臺中查詢發(fā)現(xiàn)，帶有“外國山海經(jīng)”“AI山海經(jīng)”等標(biāo)簽的視頻動(dòng)輒收獲數(shù)十萬甚至上百萬的點(diǎn)贊與轉(zhuǎn)發(fā)。在評論區(qū)里，有不少家長感慨：“課文都背不下來，卻能背下來外國山海經(jīng)”；“孩子每天都能說一長串”；“不需要死記硬背，刷得多了就記住了”。還有網(wǎng)友曬出了手寫的“角色名單”，紙上密密麻麻地抄滿了這些AI形象的名稱。

聚焦視頻起源

因何令孩子著迷？

從這些視頻中不難看出，大人們其實(shí)并不太理解這些荒誕AI動(dòng)畫形象的意義，但是孩子們卻十分著迷。那么，這些AI生成的視頻究竟是從哪兒來的呢？為何短短幾個(gè)月的時(shí)間就能風(fēng)靡未成年人群體呢？

北京市互聯(lián)網(wǎng)信息辦公室網(wǎng)絡(luò)數(shù)據(jù)與技術(shù)處工作人員 王煜凱：“外國山海經(jīng)”，起源于2025年初在國外社交平臺上的一類叫名為腦腐梗的一個(gè)視頻，這類視頻的本質(zhì)就是利用AI技術(shù)生成一些行為荒誕，同時(shí)存在一些這種魔性洗腦的視頻，看過后感覺大腦像退化一樣，所以說他們在國外稱為腦腐梗。

搬運(yùn)海外“腦腐視頻”

引發(fā)二次創(chuàng)作和傳播

畫面中這些正是海外社交平臺上流行的“腦腐視頻”：以意大利語等外語搭配魔性音效，再通過AI圖像生成工具，將動(dòng)物、物品與人類特征隨機(jī)拼接，創(chuàng)造出一系列荒誕離奇的怪異形象。

今年年初，這些視頻被網(wǎng)友搬運(yùn)到了國內(nèi)的短視頻平臺上，并迅速引發(fā)了大量二次創(chuàng)作和傳播。有人制作了角色圖鑒，有人編造了一些新的故事背景和動(dòng)畫形象之間的關(guān)聯(lián)，吸引了許多未成年人關(guān)注。

隨后，這些視頻被網(wǎng)友稱為“外國山海經(jīng)”或是“AI山海經(jīng)”，并在未成年人中迅速走紅。實(shí)際上，它們與中國古代典籍《山海經(jīng)》其實(shí)毫無關(guān)聯(lián)。

從線上蔓延至線下

周邊玩具銷量大

而且，這一傳播已經(jīng)不只在網(wǎng)絡(luò)中，而是從線上蔓延到了線下。

記者調(diào)查發(fā)現(xiàn)，在一些主流網(wǎng)購平臺上，搜索“外國山海經(jīng)”會(huì)自動(dòng)關(guān)聯(lián)出大量相關(guān)詞條。除了以這些AI動(dòng)畫形象為原型制作的玩具、手辦外，還有文具、漫畫書、生活用品等等。不少商品頁面顯示“已售10萬+”，銷量很大。

記者走訪了一些學(xué)校周邊的文具店、超市、玩具店，也發(fā)現(xiàn)有“外國山海經(jīng)”相關(guān)玩具在售。

北京市互聯(lián)網(wǎng)信息辦公室網(wǎng)絡(luò)數(shù)據(jù)與技術(shù)處工作人員 王煜凱：很多小學(xué)生，把“外國山海經(jīng)”當(dāng)成學(xué)校的一個(gè)社交貨幣，小朋友以誰能記住“外國山海經(jīng)”里面怪物形象，名字更多為榮，甚至形成攀比，包括一些家長也表示，小朋友在寫作業(yè)的過程中，也會(huì)模仿“外國山海經(jīng)”里面的怪物發(fā)出一些奇怪的聲音，其實(shí)是對未成年人的學(xué)習(xí)生活都會(huì)帶來不良的影響。

除了耽誤學(xué)習(xí)、分散注意力之外，北京市網(wǎng)信辦的工作人員發(fā)現(xiàn)，在網(wǎng)絡(luò)平臺上流傳的一些“外國山海經(jīng)”相關(guān)短視頻，還有可能對未成年人身心健康造成傷害。

北京市互聯(lián)網(wǎng)信息辦公室網(wǎng)絡(luò)數(shù)據(jù)與技術(shù)處工作人員 王煜凱：像“外國山海經(jīng)”它里面會(huì)有一些叫大逃殺、打斗，甚至是軟色情的元素和題材，容易在未成年人中形成示范傳播。

內(nèi)容涉及暴力軟色情

極易誤導(dǎo)未成年人

在這些視頻中，AI生成的動(dòng)畫形象頻頻上演暴力場景：木棍人揮舞木棒砸毀汽車；體形龐大的怪獸在城市街頭瘋狂追殺人類；還有動(dòng)畫形象手持刀具，切割其他的動(dòng)畫形象……這些充滿攻擊性、破壞性的畫面，不僅渲染暴力，更因角色卡通化而弱化了危害感，極易被未成年人誤認(rèn)為“好玩”或“酷”，從而引發(fā)模仿行為。

同樣令人擔(dān)憂的是，在部分以這些形象開發(fā)的小游戲中，還夾雜著軟色情內(nèi)容，危害未成年人的身心健康。

在這些視頻的評論區(qū)，不少家長反映，孩子對所謂的“外國山海經(jīng)”極為沉迷，甚至有些孩子壓根不知道中國有《山海經(jīng)》，反而先入為主地認(rèn)為“《山海經(jīng)》就是外國的”。對此，中國政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長李懷勝認(rèn)為，現(xiàn)在孩子們接觸網(wǎng)絡(luò)的年齡越來越小，很多人還沒來得及了解真正的傳統(tǒng)文化，就已經(jīng)被這樣的不良內(nèi)容帶偏了方向。

技術(shù)門檻低

算法推薦“助推”不良內(nèi)容

記者調(diào)查發(fā)現(xiàn)，不少家長其實(shí)已經(jīng)意識到這類短視頻的問題，也在盡力阻止孩子接觸。但讓他們困惑的是：這些內(nèi)容為什么在網(wǎng)絡(luò)上擴(kuò)散得如此迅猛？為此，我們咨詢了互聯(lián)網(wǎng)和人工智能領(lǐng)域的專家。原來，是技術(shù)門檻的降低和算法的推薦造成的這波風(fēng)潮。

當(dāng)前人工智能、大數(shù)據(jù)等新技術(shù)新應(yīng)用不斷涌現(xiàn)，給網(wǎng)絡(luò)生態(tài)治理帶來新的挑戰(zhàn)。

這兩段動(dòng)畫視頻，是由人工智能研究人員使用市面上兩款主流大模型隨機(jī)生成的。只需輸入幾個(gè)描述角色和場景的關(guān)鍵詞，只需要幾十秒的時(shí)間，就能生成這樣的動(dòng)畫內(nèi)容。

技術(shù)便捷亦伴隨責(zé)任與邊界

人工智能、大數(shù)據(jù)等新技術(shù)的迅猛發(fā)展，為我們的日常生活帶來了前所未有的便利。內(nèi)容創(chuàng)作門檻的降低，賦予普通人更多表達(dá)與創(chuàng)造的可能。然而，技術(shù)的便捷也伴隨著責(zé)任與邊界。

法學(xué)專家指出，根據(jù)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》的相關(guān)條款，法律鼓勵(lì)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者制作、復(fù)制、發(fā)布符合社會(huì)主義核心價(jià)值觀、積極健康、有益于公眾尤其是未成年人成長的內(nèi)容。而當(dāng)前利用AI生成的此類視頻，內(nèi)容荒誕、邏輯混亂、缺乏文化內(nèi)涵，并不具備教育或?qū)徝纼r(jià)值。

此類視頻深受未成年人喜愛，憑借高點(diǎn)擊率、完播率，在平臺算法推薦加持下實(shí)現(xiàn)“裂變式”傳播。

“越看越推 越推越看”

算法推薦形成循環(huán)

人工智能研究人員指出，“外國山海經(jīng)”這類視頻正是利用夸張、獵奇、高沖擊力的畫面來抓取未成年人的注意力。孩子只要出于好奇點(diǎn)開看了幾秒，算法就會(huì)立刻標(biāo)記興趣，源源不斷地推送類似內(nèi)容，形成“越看越推、越推越看”的循環(huán)。

一些家長已經(jīng)注意到這類內(nèi)容對孩子的不良影響，主動(dòng)進(jìn)行舉報(bào)或屏蔽。但人工智能研究人員指出，即便如此，算法仍可能基于用戶行為或相似內(nèi)容特征，繼續(xù)推送此類視頻。

北京智源人工智能研究院高級行業(yè)研究員 靳虹博：平臺處理舉報(bào)行為的話，它是一個(gè)人工審核的過程。人工判斷的過程需要分鐘級小時(shí)級甚至是天級的這樣一個(gè)滯后的時(shí)間窗，但是對于算法推送來說，它是一個(gè)毫秒級的實(shí)時(shí)推送，所以說我們的人工審核速度或者人工干預(yù)速度和算法的分發(fā)速度之間是有一個(gè)巨大的時(shí)間差的。

法律明確

禁止危害未成年人成長內(nèi)容傳播

那么，這些利用AI生成的動(dòng)畫視頻為何能在短視頻平臺上廣泛傳播？我們的法律對于傳播的內(nèi)容是否有相關(guān)規(guī)定呢？網(wǎng)絡(luò)平臺又該如何履行監(jiān)管責(zé)任呢？

中國政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長 李懷勝：作品本身是否符合社會(huì)主義的核心價(jià)值觀，是否有違法犯罪，是否有教唆，是否有對未成年人成長不利的地方，《互聯(lián)網(wǎng)信息內(nèi)容生態(tài)治理規(guī)定》對于什么樣的信息在網(wǎng)絡(luò)空間中可以傳播，也有相關(guān)的規(guī)定，也設(shè)定了明確的禁止性條款，我們有《中華人民共和國未成年人保護(hù)法》以及《未成年人網(wǎng)絡(luò)保護(hù)條例》，對此還是有非常明確和具體的法則的。

《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第六條規(guī)定，網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者不得制作、復(fù)制、發(fā)布含有散布淫穢、色情、賭博、暴力、兇殺、恐怖或者教唆犯罪內(nèi)容的違法信息。

《未成年人網(wǎng)絡(luò)保護(hù)條例》第二十二條規(guī)定，任何組織和個(gè)人不得制作、復(fù)制、發(fā)布、傳播含有宣揚(yáng)淫穢、色情、暴力、邪教、迷信、賭博、引誘自殘自殺、恐怖主義、分裂主義、極端主義等危害未成年人身心健康內(nèi)容的網(wǎng)絡(luò)信息。

法學(xué)專家指出，我國法律除了對網(wǎng)絡(luò)內(nèi)容本身有明確的法律規(guī)定之外，對平臺的責(zé)任和義務(wù)也作出了嚴(yán)格要求。

中國政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長 李懷勝：對于網(wǎng)絡(luò)平臺來說，它實(shí)際上承擔(dān)著主體責(zé)任或者說是第一責(zé)任，平臺要通過有效的事先的信息監(jiān)管，對于可能危害威脅未成年人身心健康的信息要提前予以制止，嚴(yán)重違背社會(huì)主義核心價(jià)值觀，屬于違法犯罪或者說淫穢色情、暴力兇殺等相關(guān)的信息平臺第一時(shí)間要采取下架制止的方法，防止信息的進(jìn)一步擴(kuò)散。如果涉嫌違法犯罪的話，平臺要向相關(guān)的主管部門進(jìn)行報(bào)告。

要構(gòu)建適合未成年人的算法推薦機(jī)制

北京市網(wǎng)信辦工作人員指出，對于限制此類不良短視頻傳播，我國相關(guān)部門對算法推薦同樣作出了明確規(guī)定。

北京市互聯(lián)網(wǎng)信息辦公室網(wǎng)絡(luò)數(shù)據(jù)與技術(shù)處工作人員 王煜凱：早在2021年，國家網(wǎng)信辦就出臺過《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，其中明確要求算法推薦服務(wù)提供者，應(yīng)該堅(jiān)持主流價(jià)值觀文化導(dǎo)向，同時(shí)不得過度設(shè)置誘導(dǎo)用戶沉迷的算法推薦邏輯，同時(shí)對于未成年人保護(hù)模式也給予了相關(guān)的要求，要構(gòu)建一個(gè)適合未成年人的算法推薦的機(jī)制。

專家介紹，推動(dòng)AI大模型和算法技術(shù)符合主流價(jià)值觀，正是目前AI研究的一個(gè)重點(diǎn)方向。

治理相關(guān)亂象

要壓實(shí)平臺主體責(zé)任

法學(xué)專家認(rèn)為，治理“外國山海經(jīng)”這類亂象，除了算法技術(shù)的升級，也要壓實(shí)平臺主體責(zé)任。平臺作為內(nèi)容分發(fā)的核心樞紐，應(yīng)主動(dòng)履行審核、過濾和處置義務(wù)，將推薦權(quán)重向健康、有益、優(yōu)質(zhì)的內(nèi)容傾斜。

中國政法大學(xué)網(wǎng)絡(luò)法學(xué)研究所所長 李懷勝：就需要平臺堅(jiān)持主流的社會(huì)導(dǎo)向，要進(jìn)行積極有效的，并且是及時(shí)的人工干預(yù)措施，我們要警惕一切有害于未成年人身心健康，或者說不能達(dá)到去促進(jìn)未成年人身心全面發(fā)展的這些所謂的網(wǎng)絡(luò)作品網(wǎng)絡(luò)現(xiàn)象，對于這類現(xiàn)象我們要拿出一體化的整體性的治理舉措。

2025年4月，國家網(wǎng)信辦印發(fā)通知，在全國范圍內(nèi)部署開展為期3個(gè)月的“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)。在重點(diǎn)整治的7類突出問題中，就包括“AI應(yīng)用程序誘導(dǎo)未成年人沉迷、在未成年人模式下存在影響未成年人身心健康的內(nèi)容等”。

近期，北京市網(wǎng)信辦督促指導(dǎo)屬地網(wǎng)站平臺，通過深化算法整治、開展違規(guī)內(nèi)容排查清理等舉措，堅(jiān)決遏制AI技術(shù)濫用引發(fā)的網(wǎng)絡(luò)亂象，切實(shí)守護(hù)未成年人網(wǎng)絡(luò)空間安全。

今年9月1日起，《人工智能生成合成內(nèi)容標(biāo)識辦法》正式施行，明確所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”，標(biāo)注AI生成標(biāo)識。

在接受記者采訪時(shí)，北京市網(wǎng)信辦的工作人員也提到，網(wǎng)絡(luò)平臺用戶如果發(fā)現(xiàn)了含有不良內(nèi)容的短視頻，可以及時(shí)舉報(bào)，共同參與網(wǎng)絡(luò)環(huán)境治理，為未成年人筑起一道防護(hù)屏障。

北京市互聯(lián)網(wǎng)信息辦公室網(wǎng)絡(luò)信息服務(wù)管理處工作人員 王志會(huì)：我們指導(dǎo)網(wǎng)站平臺開通了專門的舉報(bào)專區(qū)，廣大網(wǎng)民如果發(fā)現(xiàn)違法不良信息，可以按照網(wǎng)站平臺的舉報(bào)指引進(jìn)行舉報(bào)。另一方面可以向我們網(wǎng)信部門進(jìn)行舉報(bào)，我們會(huì)及時(shí)受理研判處置。

針對“外國山海經(jīng)”這類視頻及其衍生的線下周邊產(chǎn)品對未成年人造成的不良影響，北京市網(wǎng)信辦工作人員表示，將聯(lián)合教育、文化執(zhí)法等多部門開展協(xié)同治理，守護(hù)未成年人的健康成長環(huán)境。

守護(hù)未成年人網(wǎng)絡(luò)安全

守護(hù)孩子精神家園

節(jié)目中報(bào)道的這些AI拼接怪獸亂象，經(jīng)過有關(guān)部門的治理，熱度已經(jīng)明顯降低，但是我們?nèi)砸栌行碌念愃片F(xiàn)象出現(xiàn)。治理不能止于下架視頻、清理商品，更要從源頭遏制AI生成內(nèi)容的野蠻生長，推動(dòng)算法向善、內(nèi)容向美。守護(hù)孩子的精神家園，就是守護(hù)他們健康成長的未來。別讓算法制造的怪異幻想，擠占了真正有益于心靈發(fā)展的空間。

（央視新聞客戶端）