1月12日，据环球网援引的消息，由马斯克创立的AI人工智能公司xAI所开发的聊天机器人格罗克（Grok），因平台监管松散，被大量用于生成网络色情图片，甚至涉及儿童色情领域，遭到多国的批评与抵制。目前，印尼、马来西亚已正式实施对Grok的封禁。欧盟、英国等也启动了深入调查，并发出封禁警告。
作为xAI的核心产品，Grok被集成在马斯克拥有的X平台（原推特）中，用户可直接调用其图像编辑功能。近期，X平台出现大规模滥用乱象，部分用户利用Grok生成真实人物的虚假暴露内容，受害者包括数百名成年女性及未成年人。这些违规内容在平台上肆意传播，引发了多国舆论的谴责。
当地时间10日，印度尼西亚通信和数字事务部长表示，出于对人工智能生成色情内容的担忧，该国暂时封禁了美国企业家马斯克旗下人工智能公司xAI的聊天机器人Grok，成为第一个拒绝访问该AI工具的国家。紧随其后，马来西亚通讯与多媒体委员会于1月11日宣布暂时限制访问Grok，指出其被反复滥用于生成“色情、不雅及未经同意的篡改图像”。
此外，美国3名民主党参议员于1月9日要求苹果和谷歌下架X和Grok应用，认为在马斯克未能阻止平台传播未经同意的色情内容及儿童性虐待图像前，两款应用不应继续留在应用商店。
目前，欧盟委员会已要求X平台保留所有Grok相关内部数据直至2026年底，为潜在法律行动留存证据。英国科技大臣利兹·肯德尔则警告，若X平台不遵守英国法律，可能面临“境内访问服务被阻断”的处罚。法国巴黎检方则证实，将就Grok涉嫌生成非法色情内容启动调查。
xAI在2025年8月为Grok推出图像生成功能Grok+ Imagine，支持用户通过文字提示或上传图片编辑生成图像及短视频，还特别设置了“火辣模式”。外界质疑该模式本质是为“擦边色情”定制，大幅放宽了内容生成尺度。
面对压力，X平台表示将对非法内容采取“删除资料、永久封禁账号”等措施，并配合执法机构；同时，xAI将Grok的图像生成功能限制为仅向付费用户开放，试图通过提高使用门槛减少滥用。马斯克本人也在社交媒体上表示，任何使用Grok制作非法内容的人，将面临与上传非法内容同样的法律后果。
业内人士认为，此次事件可能推动各国加快AI监管立法进程，尤其是针对生成式AI的内容审核、用户权益保护等环节的规范。
