1月3日传来消息，埃隆·马斯克旗下的xAI本周为其聊天机器人Grok推出了新的图像编辑功能，引发用户争议。该功能允许X平台用户在无需原作者同意（甚至无需通知作者）的情况下，对任何图像进行编辑。
然而，真正将事件推向风口浪尖的是一个更早的举动——马斯克在1月1日要求Grok将演员本·阿弗莱克的一张AI梗图替换为自己的脸，由此掀起了一股“比基尼换装”热潮。
问题在于，这一功能并未经过充分的验证。甚至有一部分“乐子人”借此生成了大量涉及未成年人的图像，以及包含唐纳德·特朗普（美国前总统）、普丽蒂·帕特尔（英国印裔女性政治家）等知名人物肖像的图片，引发了普通用户及监管机构的普遍不满。
对此，xAI 昨日承认“已识别到防护措施存在疏漏，正在紧急修复”，并强调儿童色情材料“属于违法且被禁止的内容”。
前一天，Grok 表示已审查近期与X用户的交互记录，将这些事件描述为“个别案例”。其中提到，有用户曾要求生成“描绘未成年人穿着极少衣物”的图像。Grok 补充说明“正在持续改进，以彻底屏蔽此类请求”。
值得注意的是，xAI 技术人员帕尔萨·塔吉克也公开承认了这一问题：“感谢反馈，团队正在研究进一步收紧我们的限制措施。”
马斯克旗下的xAI产品常因强调用户自由度、防护度较低而引发争议。其AI伴侣Ani可与用户调情；Grok还被曝出能生成泰勒·斯威夫特的深度伪造裸露视频，尽管xAI明确禁止“以色情方式描绘人物肖像”。
行业专家指出，更广泛的问题已超越Grok本身。2024年ChatGPT的推出加速了AI生图技术的扩散，目前许多公司难以彻底防止功能滥用。该技术助长了针对真人的深度伪造色情内容。儿童安全组织称，相关问题正在加剧恶化。
监管机构已拉响警报：英国互联网观察基金会（非营利组织）报告称，AI生成的儿童性虐待材料在2025年前六个月增长了400%，并形容这一增速“令人惊恐”。调查人员现已发现“首批令人信以为真”的描绘儿童性虐待的AI视频。
法国巴黎检方表示，将对xAI的Grok涉嫌生成非法色情内容启动调查。据称，一些用户借此生成了真实人物的虚假性暴露内容，并在X平台上散布。受害者包括数百名女性和未成年人。
印度电子和信息技术部上周五要求政府对Grok的安全功能进行审查。印度官员指出该平台出现“新趋势”，用户上传女性照片并要求聊天机器人“减少其衣物并使其性感化”。该部称此行为“不可接受，是对AI功能的严重滥用”。
