新华视点：防范AI“变味”动画，守护孩子网络净土
新华社天津1月22日电 题：“变味”的AI动画——如何守好孩子的网络净土？
新华社“新华视点”记者白佳丽、栗雅婷
近年来，AI技术在影视领域得到广泛运用，极大地丰富了群众的文化生活。然而“新华视点”记者近日发现，一些在青少年中流行的AI动画产品角色形象怪异、音效阴森、内容低俗，有的甚至含有色情、恐怖等元素，引发家长担忧。
这类AI动画是如何炮制出来的？如何为孩子守好清朗网络空间？记者进行了走访调查。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
“变味”的AI动画防不胜防
“哩哩哩啦哩啦……”天津市民李先生发现，孩子最近嘴里总是“念念有词”，查询后才得知，这是在青少年中爆火的“AI山海经”里动画形象的名字。
“这些‘AI山海经’视频中，不少内容形象怪异、背景阴森，毫无情节和逻辑可言。但孩子看得津津有味，和同学在一起还会讨论这些动画形象，甚至把里面的内容当作真正的《山海经》故事。”李先生说。
家住山西大同的张女士表示，用视频App给孩子播放动画片时，系统多次推送AI“魔改”的动画。“本来在看《小马宝莉》，紧接着开始播放小马宝莉流泪拉车，被艾莎公主拿鞭子抽打的视频；想看《天线宝宝》，播出的视频中却出现天线宝宝被起重机压扁的情节。”
更有甚者，有的这类AI动画标注着“儿童动画”的标签，在青少年模式中也可以看到。此外，由于大数据的算法设置，一旦孩子主动或被动地观看了这类AI动画，便会被经常性推送同类视频，令人防不胜防。
多位受访家长担忧地表示，许多AI动画视频以孩子熟知的经典动画形象为主角，当深受孩子信任的角色做出不当行为，不仅会给孩子带来认知上的困惑，还可能诱导孩子去模仿。
除了“AI山海经”外，此前社交网络和短视频平台还曾出现《红楼梦》《西游记》《三国演义》等经典著作改编的AI视频，“林黛玉倒拔垂杨柳”“唐僧手持加特林”等荒诞画面让人大跌眼镜。天津市河西区德贤小学校长周瑞认为，这类对经典作品的歪曲恶搞，可能对正处于三观塑造阶段的青少年带来负面影响。
AI视频不良内容的“重灾区”
记者调查发现，在多个AI内容生成平台，用户只需上传简单的人物形象、输入文字指令，即可快速生成动态视频，电商平台也存在专门提供动画定制服务的商家。社交媒体上，还能看到有关AI生成大尺度图片的教学帖、经验帖，其中动画是AI视频不良内容的“重灾区”。
“AI技术使得制作视频的成本和门槛大幅降低，为内容创作者提供了极大助力，但客观上也让更多粗制滥造甚至导向不良的视频产品进入用户视野。”南开大学信息与传播学院副教授于孟利表示，一些投机型创作者利用青少年好奇心强的特点，将制作节奏快、刺激性强的AI动画当作“流量密码”，不择手段“博眼球”。
记者在某短视频平台上看到，不少内容荒诞或含有暴力、软色情内容的AI动画流量十分可观，例如某条“奥特曼开着推土机疯狂碾压路面汽车”的动画点赞量达到2.6万次。
据业内人士透露，创作这类内容有多种变现途径，除了平台流量分成外，还可以通过售卖盲盒、卡牌等周边产品，或将用户引流至私域等方式获利。以“AI山海经”为例，已有手办、玩偶、临摹绘本等衍生品在电商平台销售。
工信部工业和信息化法治战略与管理重点实验室副主任赵精武介绍，对于AI生成的图片、视频，平台通常采取“人工+机器”的方式进行审核，部分平台会采用数字技术工具对图片视频内容进行批量审核，有的平台还会设置专门的人工审核团队，针对用户投诉举报、首页推荐等显著位置的网络信息内容进行审核。
这类批量生成的AI动画视频，给平台的监管体系带来挑战。赵精武表示，现有审核机制在应对隐蔽性强、法律定性模糊的网络内容时存在局限，平台往往难以在短时间内准确判定其是否属于违法不良信息。此外，AI生成的视频、图像常与普通内容混杂，进一步增加了识别难度，导致人工审核成本大幅上升。
为孩子营造清朗网络空间
当AI技术深度融入社会生活，如何让其成为孩子成长的好帮手，而不是炮制有害内容的帮凶？
2024年发布的《生成式人工智能服务安全基本要求》，对生成式人工智能服务适用未成年人的有关内容作出明确规定。
2025年4月，中央网信办开展“清朗·整治AI技术滥用”专项行动，重点整治内容包括利用AI脱衣、AI绘图等功能生成合成色情内容，制作发布血腥暴力场景，人体扭曲变形、超现实怪物等恐怖诡谲画面等。
多位受访专家建议，进一步加强AI生成视频产业链的监管力度，压实平台主体责任。
赵精武表示，网络平台应重点审核面向未成年人群体的AI合成推送信息，设置专门团队优化未成年人用户算法推荐服务，增加优质网络信息内容的推送权重。
在源头治理方面，于孟利建议，应在AI生成工具上强制嵌入不可篡改的数字水印，从而实现内容的精准溯源。
“低龄儿童对信息真伪的判断力较弱，面对AI等新技术带来的网络信息洪流，家长应积极承担监护人职责，成为孩子观看内容的最后一道‘把关人’。”中国传媒大学动画与数字艺术学院院长王雷说。
天津市安定医院儿童青少年心理科病区主任雷彤表示，学校和家庭应加强未成年人的生命教育等，让孩子培养正确的价值观，抵御不良网络内容的侵蚀；同时，加大优质儿童文化产品的供给。“当‘正’的内容足够多、足够有趣，‘邪’的内容自然便没有了生存空间。”雷彤说。（完）
热门专题
热门推荐
最新犯罪悬疑剧《暴锋雨》开播，尺度突破，双女主刑侦引爆话题。 双女主强势扛起刑侦大旗，油锯碎尸、树洞藏尸、活猪啃噬……一系列源于真实案件改编的惊悚罪案接连上演。那么，这场探案风暴的真正主导者究竟是谁？剧情又将如何展开？ 犯罪悬疑剧《暴锋雨》深度解析 （以下剧情内容为艺术创作，请勿模仿。） 故事始于一
《十日终焉》开机：一场关于记忆、轮回与演技的豪赌 由肖战领衔主演，改编自同名小说的无限流悬疑剧《十日终焉》，终于正式官宣开机。消息一出，全网期待值拉满，相关话题讨论迅速升温。 影视改编与原著之间，向来难以划上绝对的等号。但这一次，情况尤为特殊。原著小说本身已是现象级作品：超过90万读者点评，拿下9
《逐玉》爆火后主演迎事业转折点，健康审美座谈会引行业反思 近期一场备受关注的健康审美座谈会虽未直接点名《逐玉》，但其探讨的议题却与观众对这部剧的诸多评价高度契合。座谈会提出的观点，几乎每一条都能对应上网友此前对剧集制作与演员表现的讨论焦点。 表面上看，近期舆论焦点多集中于男主角张凌赫的表现，但女主角
于凤至与赵四小姐：张学良生命中两位传奇女性的真实容貌与人生轨迹 在民国历史的璀璨星河中，少帅张学良无疑是备受瞩目的焦点人物。而他情感世界里的两位关键女性——原配夫人于凤至与相伴终老的赵四小姐（赵一荻），更是构成了这段历史中动人而复杂的一章。张学良最终选择与赵四小姐相守到老，而于凤至则默默付出、孤独等
凭借《逐玉》爆火出圈，张凌赫事业直接开挂，稳居当红小生前列！ 随着事业势头一路高歌猛进，张凌赫的下一部影视作品自然成为全网关注的焦点。目前，他与王楚然联袂主演的民国虐恋大剧《这一秒过火》，早已未播先火，持续霸占各大社交平台热搜榜，引发观众热烈讨论。 市场的反响是最有力的证明：该剧在主流视频平台的预约