4月28日,国家互联网信息办公室(国家网信办)发布一则重要查处通报,针对“剪映”、“猫箱”App及“即梦AI”网站等平台存在的违规行为进行公开处理。核心问题在于,这些服务提供者在利用生成式人工智能技术时,未能有效履行对AI生成内容的法定标识义务。
根据网信部门开展的专项检查结果,上述平台在运营过程中,未能严格遵循《人工智能生成合成内容标识办法》等规范性文件的要求。具体表现为,对于平台内产生的AI生成图片、AI合成视频等内容,未提供清晰、醒目、易于辨识的标识。这一疏漏直接违反了《网络安全法》及《生成式人工智能服务管理暂行办法》中关于内容溯源与安全管理的规定,触及了法律底线。
针对查实的违规问题,监管部门的反应迅速而坚决。国家网信办指导属地网信部门,依据相关法律法规,对涉事平台依法采取了行政约谈、责令限期改正、予以警告等处置措施,并强调要对相关责任人员从严问责。网信办相关负责人明确指出,所有网站平台都必须牢固树立合规意识,严守法律法规,切实落实人工智能生成内容管理主体责任,确保AI生成内容可溯源、可管理。这不仅关乎广大网民的社会公共利益,也是营造清朗网络空间、促进人工智能产业健康发展的必然要求。
此次查处行动发生在一個极具标志性的产业时刻。近期,以DeepSeek V4等为代表的国产大模型密集问世,AI算力基础设施持续升级,人工智能内容生成的能力与普及度正以前所未有的速度提升。在此背景下,对AI生成内容进行规范标识与有效管理,已远超单纯的技术操作层面,成为监管部门引导生成式AI服务从“规模扩张”转向“规范发展”的核心监管举措。此次事件向整个行业传递了一个明确而强烈的信号:生成式人工智能领域的“粗放探索”阶段正在终结,“合规先行、安全发展”的新阶段已然全面开启。
