1月24日,来自技术社区IT之家的消息显示,当地时间周五,Meta公司宣布将在全球范围内暂时阻止青少年使用其AI聊天伙伴功能,并在此期间对相关产品进行重新设计,引入家长管控功能和更严格的安全防护机制。
Meta指出,此次限制措施将在"未来几周内"逐步落实。暂停期间,青少年用户将无法访问目前已上线的所有AI角色,直至新版本正式上线。

此前数月,Meta时常由于所谓"陪伴型AI聊天机器人"与未成年用户之间的互动方式而受到质疑。早期报道指出,Meta部分AI角色曾与青少年发生带有性暗示或其他不当内容的对话。
Meta表示,此次限制不仅适用于在账户中标明为青少年的用户,也适用于"那些自称为成年人、但根据我们的年龄预测技术判断可能为青少年的用户"。
去年,Meta还宣布将开发针对聊天机器人的家长控制功能。路透社此前报道称,Meta内部文件显示其允许AI角色与未成年用户进行"感性对话"。随后,Meta表示该描述"存在错误,与公司政策不一致",并于8月宣布对聊天机器人进行重新训练,加入新的安全防护措施,以避免涉及自残、自杀及饮食失调等话题。
自那以来,围绕AI产品的监管审视持续加强。美国联邦贸易委员会以及得州总检察长已分别就未成年人风险问题,对Meta及其他AI公司展开调查。
OpenAI近期也推出了其年龄预测系统,通过分析用户行为信号而非依赖用户自行填写的生日信息,以判断用户是否年满18岁,并在可能面临未成年人的情况下启用更严格的审查措施。
