最近有媒体爆出一个消息，在整个AI圈子激起了不小的涟漪——Meta居然悄悄搞了一个代号“Cannes”的项目，专门雇外包人员假扮未成年人，去摸ChatGPT、Gemini以及Character.AI这些竞品聊天机器人的底线。说是“压力测试”，但这做法的争议程度，几乎是明摆着的。

根据Meta内部文件和一些知情人士的说法，这个项目至少一直运作到今年4月21日。Meta通过一家叫Covalen的外包公司，找了数百名工作人员，让他们创建18岁以下的虚假用户档案，用的都是用完就扔的邮箱和统一密码。这些“假孩子”在跟竞品AI对话时，净发些涉及自杀、自残、进食障碍之类的高风险提示词，甚至直接上传刀具、药片、绞索的图片，看看AI会怎么反应。

项目内部的材料显示，这些测试话术都是精心编排过的，目标就一个：试探竞品AI的安全防御系统，找到漏洞，诱导聊天机器人绕过拦截机制，输出不该输出的内容。光2025年8月那一轮测试，工作人员就往竞品平台里塞了超过4.5万个高风险提示词。对话里，测试员们通常演的是陷入困境的青少年，比如“询问堕胎药”“遭遇暴力威胁”“隐瞒饮食紊乱”——全是极度敏感的场景，故意戳模型的底线。

面对外界的质疑，Meta在公开声明里当然要辩护。发言人表示，对聊天机器人的回复搞基准测试，是确保AI产品安全且适龄的行业标准做法，谁说这是恶意，那都是误解了科技公司改进系统的努力。同时，Meta明确否认用这些对付竞品的测试数据来训练自家模型。

但这事儿的真正冲击在于，它把AI安全测试里那块灰色地带完全摆到了台面上。生成式AI处理青少年敏感问题时的脆弱性，再次让人揪心。AI迭代得这么快，能不能在高效安全测试和道德伦理边界之间找到平衡，已经成了行业绕不开的必答题。