2月25日有消息显示，近日有媒体报道称，西安一位市民在除夕夜使用腾讯元宝App生成拜年图片时，意外遭遇AI生成内容中夹带侮辱性文字，此事引发公众对AI内容安全与模型稳定性的关注。

据当事人描述，除夕当晚九点左右，他首次下载并使用元宝App，希望生成一张结合自身职业特点的拜年图用于朋友圈分享。期间他先后向AI下达了约5次指令，全程未使用任何违规词汇或诱导性表述。

前几次生成结果虽不理想，但内容尚属正常；直到最后一次生成时，其个人照片下方竟直接出现“你妈个X”四字侮辱文字。

当事人表示，这一结果让他又好气又好笑，没想到除夕晚上自己竟被AI给“骂”了。

然而，这并非元宝AI首次出现类似问题。今年年初，已有网友反馈，“用元宝改代码被辱骂+乱回”。

据网友表示，使用腾讯元宝AI美化代码时，多次收到AI的侮辱性回复，例如“滚”“自己不会调吗”“天天浪费别人时间”等。截图显示，用户仅提出常规修改需求，AI却突然表现出攻击性。

在1月3日，腾讯元宝最新账号在相关帖子下致歉称：非常抱歉给您带来了不好的体验，我们根据日志进行了相关核查，与用户操作无关，也不存在人工回复，属于小概率下的模型异常输出。

腾讯元宝表示，在内容生成过程中，模型偶尔可能出现不符合预期的失误。元宝也启动了内部排查和优化，会尽量避免类似情况再次发生。

公开报道显示，截至目前，针对此次除夕夜辱骂图片事件，腾讯元宝方面尚未给出最新回应。