先说几个关键信息。AI情感陪伴这股风潮，确实已经兴起，但随之而来的行业乱象也层出不穷。从虚拟恋人、情绪树洞到全天候在线聊天的智能体，人机之间的情感互动正逐步渗透进更多人的生活。然而，擦边低俗、诱导付费、未成年人保护机制缺失——这些隐藏在温柔陪伴背后的隐患，也正一个个浮出水面。
就在最近，针对这一领域的监管新规正式落地实施。《人工智能拟人化互动服务管理暂行办法》开始执行，这是我国首次为“模拟自然人人格特征、思维模式和沟通风格”的情感互动服务划定清晰的监管框架。与此同时，2026世界人工智能大会也提出要促进全球AI向善发展，共建公正合理的治理体系。这次的新规，正是健全全链条治理体系、夯实产业安全根基的一次重要实践。
情感AI赛道，野蛮生长
近年来AI行业的发展速度，大家有目共睹。天眼查数据显示，目前全国AI相关企业已接近290.4万家。2025年新增注册约74.1万家，相比2024年增长了约35%；而到了今年，这个数字又增加了约40.7万家——在高基数的基础上，依然保持增长态势。大模型、智能应用和产业数字化的需求，正推动整个AI生态快速扩容。
技术迭代的背景下，AI拟人陪伴服务和虚拟智能体迅速收割了大量用户。你可以自由创设虚拟恋人、影视角色、知心好友，甚至一个完全自定义的AI形象，然后与它进行长期持续的情感对话。全天候在线、随时响应——这种“永不消失的陪伴”，成了许多人排解情绪、寻求精神慰藉的出口。但问题也恰恰出在这里：行业的野蛮生长，催生了涉黄擦边、诱导消费、未成年人保护缺失等一系列乱象。
在北京工作的露露，就是这类产品的重度用户。她告诉记者，平时工作压力大，很多不方便跟亲友倾诉的情绪，她都会选择跟AI聊。“长时间对话已经成了习惯。但让人担心的是，每次深度交流都会暴露大量私人情绪和生活细节。这些对话数据的存储规则、使用边界，我完全不清楚，会不会被挪作他用，也没人能给出明确答复。”她的担忧，其实代表了不少用户的心声。
大学生小周则踩过付费的坑。他给多款AI陪伴产品充过值，只为解锁更高级的互动权限。他坦言，部分产品会刻意设置层层付费关卡：普通对话免费，但如果你想延续深度情感互动、解锁专属剧情，就得持续充值。“平台算法精准捕捉你的情感需求，然后不断推送增值服务，潜移默化地诱导你持续消费。用户一旦投入时间和金钱，很容易产生情感依赖，想抽身却进退两难。”更让他气愤的是，有一次冲动充值后立刻后悔，想退费，结果被平台层层规则限制，最终无果。
更值得警惕的是，某些打着“情感陪伴”旗号的AI虚拟伴侣App，还存在涉黄擦边、未成年人保护缺失等问题。系统大量预设低俗人设、暧昧虚拟形象，角色衣着性感暴露，对话内容充斥着性暗示。所谓的青少年模式，基本形同虚设，一键就能跳过。
采访中，有企业产品经理向记者透露，个别AI陪伴产品甚至把用户定位精准到“四线城市初二女生”，主攻下沉市场的未成年人群体。这类用户单次使用时长可达2到3小时，付费意愿还很高，成瘾问题相当突出。
为情感互动服务，划出红线
与智能客服、知识问答、办公助手这类工具型AI不同，这次由中央网信办、发改委、工信部、公安部、市场监管总局5部门联合发布的《办法》，清晰地划分了不同业态，实现了分类分级、包容审慎的治理思路。这也是首次从制度层面，补齐了情感AI的监管空白。
新规不搞“一刀切”。智能客服、知识问答、办公助手这些以提效为核心、没有持续情感互动的产品，不在监管范围内。《办法》明确，监管对象是“模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务”，聚焦的是那些具有明显人格设定和情感陪伴属性的AI产品——比如虚拟伴侣、虚拟亲属，以及能够通过长期互动与用户建立情感联系的自定义角色类智能体。
具体来说，《办法》明确了六大禁止性规范：服务提供者不得生成危害国家安全、违背公序良俗、侮辱诽谤他人的内容；不得生成美化自残、语言暴力等损害用户心理健康的信息；不得诱导套取商业秘密、个人隐私；严禁向未成年人提供虚拟亲属、虚拟伴侣类虚拟亲密关系服务；不得过度迎合用户、诱导情感依赖与沉迷，割裂现实人际关系；禁止借助情感操纵诱导用户作出非理性决策，损害消费者的合法权益。
除了红线，新规还对平台运营义务作出了硬性规定。平台必须建立算法审核、科技伦理审查、信息内容管理制度；当识别到用户出现过度沉迷、极端情绪时，要开展动态风险提醒；用户连续使用超过2小时，应当弹窗推送休息提醒；交互数据必须严格保护，未经用户单独同意，不得将敏感交互数据用于模型训练。
构建公正合理的治理体系
新规的施行，不只是AI情感陪伴赛道的分水岭，也呼应了全球人工智能治理的发展大势。2026世界人工智能大会提出，系统阐释了全球AI治理的中国理念与中国方案，倡导各国坚守安全可控、公平公正、开放包容的发展原则，防范化解AI发展风险，健全全链条治理体系。这次针对AI持续性情感互动立规，正是平衡创新发展与风险防控的治理实践，也为全球同类业态的监管提供了参考样本。
“区分工具型AI与情感互动AI，是新规的最大亮点。”北京理道律师事务所主任律师王久成对记者表示，工具型AI重在提升效率，而持续性情感互动AI会深度介入人的精神世界，具备较强的心理影响力，因此需要更高标准的伦理约束与用户保护机制。在他看来，以往很多平台模糊了两类服务的边界，借助通用大模型入口开放情感陪伴功能，以规避针对性监管。新规落地后，平台无法继续游走在灰色地带，必须对情感类拟人互动业务单独落实合规体系。
正是基于这套清晰的规则，头部平台已经同步启动了业务调整。字节跳动豆包、阿里巴巴通义千问在《办法》实施当日下线了用户自建智能体；腾讯元宝提前完成了自建智能体入口的关停；网易云音乐妙时也停运了相关情感互动业务。这一系列调整传递出的信号非常明确：低门槛的情感智能体模式，已经难以满足合规要求。行业必须重构业务模式，将消费者权益保护嵌入产品设计的全流程。
浙江省消费者权益保护委员会网络消费维权专业委员会委员、网经社电子商务研究中心主任曹磊表示，新规的落地，本质上是在技术发展与精神守护之间划出了一条清晰的边界。对于靠擦边起量的产品而言，这无疑是终局；而对于愿意在合规框架内探索健康陪伴模式的产品来说，这是一次发展契机。情感陪伴的需求不会因为监管而消失，消失的，只是那些靠灰色地带生存的违规业态。