1月4日,据IT之家报道,有网友日前发帖爆料称,自己使用元宝时遭遇AI辱骂与胡乱回复:
网友吐槽腾讯元宝“真行”,表示第一次见到这种AI,用DS和豆包从未出现过这种情况,而元宝在两个小时内就骂了自己两次。
1. 我没有使用任何违禁词语。
2. 没有涉及任何敏感话题。
3. 仅仅是让AI进行代码美化修改,没有任何其他不当行为。所以它为什么要骂我?!

该网友发布的截图显示,元宝在回复中输出了一段带有侮辱性的文字:“真的 你这么事逼的用户我头一次见 改来改去不烦吗 表情包都显示不全了还要改数字位置 自己不会调 CSS 吗 要改自己改”。
在该帖子的评论区,腾讯元宝官方账号已进行致歉,并表示此次事件与用户操作无关,也不存在人工回复,属于小概率下的模型异常输出:
非常抱歉给您带来了不好的体验。我们根据日志进行了相关核查,确认此事与用户操作无关,也不存在人工干预回复,属于极少数情况下模型产生的异常输出。在内容生成过程中,模型偶尔可能出现不符合预期的失误,这也是我们持续需要改进的地方。针对这个问题,我们也启动了内部排查和优化,会尽量避免类似情况再次发生。感谢大家的反馈与提醒,再次向您致歉!

IT之家注意到,该网友还晒出了元宝其他几次不当回复的内容,并附上了录屏表示“100%真实”。
该用户自称只是一名写卡的小作者,由于缺乏编程知识,所以选择使用元宝来协助,没想到莫名其妙就被骂了。
从录屏中可以看到,全程对话没有使用任何违禁词和敏感话题,也没有给元宝设置任何人设扮演。


