1月12日，环球网报道称，由于平台监管措施不足，埃隆·马斯克旗下人工智能初创企业xAI开发的聊天机器人格罗克（Grok）被大量用户滥用，用于生成网络色情图片，甚至涉及儿童色情内容，这一现象已引发多国批评与抵制。目前，印度尼西亚、马来西亚已正式实施对Grok的封禁，欧盟、英国等地也已启动深入调查，并发出可能封禁的警告。

作为xAI的核心产品，Grok被深度集成在马斯克旗下的X平台（原推特）中，用户可直接调用其图像编辑功能。近期，X平台上出现大规模滥用现象，部分用户利用Grok生成真实人物的虚假暴露内容，受害者包括数百名成年女性及未成年人，这些违规内容在平台上肆意传播，招致多国谴责。

当地时间1月10日，印度尼西亚通信与数字事务部长表示，由于担心人工智能技术可能生成色情内容，该国已暂时封禁美国企业家马斯克旗下人工智能企业xAI的聊天机器人Grok，成为首个拒绝访问该人工智能工具的国家。紧随其后，马来西亚通讯与多媒体委员会于1月11日宣布暂时限制访问Grok，指出其被反复滥用于生成“色情、不雅和未经同意的篡改图像”。

此外，美国三名民主党参议员于1月9日要求苹果和谷歌下架X和Grok应用，认为在马斯克未能有效阻止平台传播未经同意的色情内容及儿童性虐待图像前，两款应用不应继续留在应用商店。

目前，欧盟委员会已要求X平台保留所有与Grok相关的内部数据直至2026年底，为潜在的法律行动留存证据。英国科技大臣利兹·肯德尔则警告，若X平台不遵守英国法律，可能面临“境内访问服务被阻断”的处罚。法国巴黎检方证实，将对Grok涉嫌生成非法色情内容启动调查。

xAI于2024年8月为Grok推出图像生成功能Grok+ Imagine，支持用户通过文字提示或上传图片编辑生成图像及短视频，还特别设置了“火辣模式”，该模式被外界质疑本质是为“打擦边球”内容定制，大幅放宽了内容生成尺度。

面对压力，X平台表示将对非法内容采取“删除资料、永久封禁账号”等措施，并配合执法机构；同时，xAI将Grok的图像生成功能限制为仅向付费用户开放，试图通过提高使用门槛减少滥用。马斯克本人也在社交媒体上表示，任何使用Grok制作非法内容的人，将面临与上传非法内容同等的法律后果。

业内人士认为，此次事件可能推动各国加快人工智能监管立法进程，尤其是针对生成式AI的内容审核、用户权益保护等环节的规范。