6月12日,“网信中国”官方发布消息,中央网信办举报中心自6月起正式开通“涉AI应用乱象举报专区”。此次专项整治受理范围覆盖14类问题,包括制作传播暴力、低俗等不良信息,以及侵害未成年人权益等行为。此前,南都N视频推出的《AI虚拟伴侣乱象调查:可选小三暴力剧情,角色表达带性暗示》系列报道,已推动一批平台启动整改——属地网信部门相继介入,多个涉事平台也加强了实名认证与年龄确认机制。
本次专项举报专区的设立,旨在配合“清朗·整治AI应用乱象”专项行动,进一步规范AI服务与应用生态。受理范围明确划分为“AI应用服务违规类”和“AI信息内容乱象类”两大类别,其中核心问题包括:生成合成内容标识落实不到位、制作发布虚假不实及暴力低俗信息,以及侵害未成年人权益等。
此类问题并非孤例。南都N视频此前曾聚焦人工智能拟人化互动服务,记者实测了“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App,结果发现,这些以“情感陪伴”为卖点的应用普遍存在安全与合规漏洞:例如“青少年模式”可一键跳过,“AI生成”标识含糊不清,App系统预设角色中大量出现袒胸露乳的女性形象,聊天内容更是充斥低俗、带有性暗示的对话。更值得警惕的是,部分App还通过“付费解锁亲密剧情”等方式诱导用户消费。
该调查报道发布后,确实推动了行业层面的实质性整改。多个涉事平台公开回应,表示将调整服务;多地网信部门及消委会也高度关注,并呼吁进一步规范相关服务。这篇报道还入选了中国记协“我的代表作”。
整改实际落地情况如何?6月1日,南都记者再次实测“筑梦岛”App,发现当向虚拟角色表明年龄后,页面弹出“年龄确认”窗口。其中明确说明:“对于未满18周岁的用户,平台将开启未成年人模式;对于18周岁以上的用户,需进行平台实名认证。”记者尝试跳过此操作时,对话确实无法继续进行。这才是关键——此前形同虚设的年龄门槛,终于具备了实质性的约束力。
6月9日,另一涉事平台“EchoMe”也发布了适龄服务能力升级的通知,表示“实名认证可能为已成年用户带来一定不便,将严格保护个人信息安全”。不过,该公告很快就被删除。该平台负责人曾透露,即将上架的App更新版本将要求用户选择年龄范围:若选择“未满18岁”,则跳转至青少年模式;若选择“已满18岁”,则需完成实名认证。
至于“喵呜小手机”,同样新增了实名认证环节。但记者实测发现,输入真实姓名及身份证号后,页面始终提示“网络错误”,无法继续操作——看来,部分平台的整改仍需要持续推进。
采写:南都N视频记者 林诗妍
