6月12日,“网信中国”正式对外发布消息:中央网信办举报中心自本月起开设“涉AI应用乱象举报专区”,此次专项整治覆盖了利用AI技术“魔改”经典影视作品、生成“数字泔水”等14类具体问题。与此同时,媒体同步推出《AI魔性侵权乱象系列调查》,将声音克隆等新型侵权现象带入公众视野——在部分AI创作平台上,用户仅需上传3秒原声音频,即可实现对音色的克隆,甚至随意篡改台词内容。

经典影视剧遭遇AI“魔改”的视频截图,揭示了技术滥用对原创内容的冲击。
为进一步配合“清朗·整治AI应用乱象”专项行动,中央网信办举报中心已正式开通专项举报入口。受理范围被精准划分为“AI应用服务违规类”和“AI信息内容乱象类”两大维度。具体而言,其中涵盖了生成合成内容标识落实不到位、制作并传播虚假不实及暴力低俗信息、利用AI技术“魔改”经典作品、生成所谓的“数字泔水”等14类突出问题,全面覆盖了当前AI应用领域的主要乱象。
媒体在对AI侵权现象进行持续追踪调查时,发现了一系列令人担忧的细节。今年4月上旬,有记者在ViiTor AI平台上进行实测发现:仅需上传3秒原声音频,几分钟内便能成功克隆出一个音色,并自由替换台词。电影《哪吒之魔童闹海》主角配音演员吕艳婷等多位专业人士的原声音频,赫然出现在该平台的公开音色库中,使用次数早已突破万次。更令人震惊的是,在二手交易平台上,AI声音克隆服务的价格低至每50字不到1元,众多商家宣称相似度超过98%。然而,一旦被问及侵权风险,这些商家的回复出奇一致——“问就是有侵权”。
南都此前报道,揭示了这一灰色产业链的蔓延态势。
4月7日,知名配音演员季冠霖通过媒体发出倡议,强烈呼吁平台方建立侵权内容的快速识别与下架机制。她的原话非常值得深思:“技术应为文明赋能,而非成为侵权的温床。”
值得庆幸的是,事情很快出现了转机。调查报道发布后,多地监管部门迅速将“AI技术滥用”列为整治重点。4月16日,记者再次登录ViiTor AI平台发现,“音色克隆”功能中原本“请上传3-5秒音频或视频”的选项已被移除,公共素材库中与“哪吒”相关的音色也已无法搜索到。
同日,ViiTor AI平台相关负责人回应称:“平台公共音色库中的内容均为用户自主上传的UGC内容。平台仅执行必要的合规筛选,不对音色内容进行主动推荐、编辑或干预。对于确属侵权且证据清晰的举报内容,平台会进行核验并采取下架、屏蔽等相应措施。”
