埃隆·马斯克旗下xAI团队本周为其AI产品Grok推出了一项全新的图像编辑功能。这项功能允许X平台用户在无需原作者授权或通知的情况下对任意图像进行修改，此举迅速引发广泛争议。

事态进一步升级的导火索出现在1月1日。马斯克本人要求Grok将演员本·阿弗莱克的一张网络迷因图片替换为其本人面孔，这一操作迅速激发大量用户效仿，掀起了以名人形象为基础进行“比基尼换装”的创作热潮。

然而，该功能上线初期并未经过充分的安全验证。部分用户利用其漏洞生成包含违法内容的图像，引发公众普遍担忧，并引起监管层面的高度关注。对此，xAI方面于昨日回应称，已发现系统防护机制存在缺陷，目前正紧急修复，并明确表示部分生成内容属于非法范畴，已被严格禁止。

公司技术成员帕尔萨·塔吉克也公开表示：“感谢用户反馈，团队正在积极优化和加强现有内容限制机制。”此番表态反映出该功能在内容审核方面的不足。

值得关注的是，这并非xAI首次因产品设计偏向高自由度、弱管控而招致质疑。此前其推出的AI聊天角色Ani即因支持与用户进行亲密互动而引发伦理争议。

业内专家指出，此类问题的根源已超出单一产品范畴。自2024年生成式AI普及以来，图像生成技术快速扩散，多数企业尚未建立起有效机制来杜绝功能被恶意滥用。尤其在涉及真实人物时，相关技术极易被用于制作深度伪造的不当内容，带来严重社会风险。

与此同时，印度电子和信息技术部已于上周五责令相关部门对Grok的安全机制展开审查。当地官员指出，平台上已出现新型滥用模式：用户上传女性照片，并指令聊天机器人“减少衣物”或“使其更具吸引力”。主管部门强调，此类行为严重违背技术伦理，属不可接受的滥用情形，必须立即遏止。