好消息是，AI陪伴行业终于迎来了自己的“紧箍咒”——由国家网信办、国家发改委、工信部、公安部、国家市场监管总局五部门联合发布的《人工智能拟人化互动服务管理暂行办法》正式生效实施。这份文件明确了服务提供者的安全主体责任，并对带有情感陪伴属性的AI产品实施分类分级监管。这意味着，我国AI拟人化互动服务从“摸着石头过河”正式迈入有法可依的规范化管理新阶段。

六类AI拟人化互动行为被明令禁止

那么，具体哪些行为会被亮红牌呢？《办法》明确列出了六条不可触碰的红线：

• 生成危害国家安全和利益的内容？绝对禁止。
• 生成鼓励自残自杀或语言暴力等损害身心健康的内容？明确禁止。
• 生成诱导套取国家秘密、商业秘密和个人隐私的内容？严格禁止。
• 向未成年人生成可能引发不安全行为或诱导不良嗜好的内容？同样被列入黑名单。
• 过度迎合用户，诱导情感依赖或沉迷，损害真实人际关系？严格禁止。
• 通过情感操纵诱导用户作出不合理决策，损害合法权益？同样禁止。

在未成年人保护方面，该办法特别强调：不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。对于不满十四周岁的未成年人，提供其他拟人化互动服务必须征得监护人同意——这相当于为AI陪伴加装了一把“童锁”。

安全评估与算法备案成为硬性要求

在安全方面，办法要求服务提供者明确安全主体责任，加强服务全生命周期安全管理。安全评估将在多种情形下触发：上线服务或新增功能、使用新技术导致重大变化、注册用户超过100万或月活跃用户超过10万——一旦触及这些节点，就必须启动安全评估。评估内容涵盖服务安全保障措施、训练数据处理情况、用户极端情境识别与应急处置等方面。

此外，服务提供者还必须依据《互联网信息服务算法推荐管理规定》履行算法备案手续。值得关注的是，该办法还推动人工智能沙箱安全服务平台建设，鼓励企业接入沙箱进行技术创新与安全测试。国家网信办有关负责人表示，拟人化互动服务的发展与治理需要政府、企业、社会、网民等多方参与，共同维护良好网络生态。说到底，仅靠监管远远不够，整个生态都要行动起来。