1月15日,社交平台X宣布对其人工智能助手Grok的图像生成功能进行严格限制。此前,Grok因持续被指控生成涉及儿童的性化图像及未经同意的裸露内容,已承受了数周的舆论压力。
北京时间今天凌晨,X通过其安全官方账号发布声明,表示平台已采取技术手段,禁止Grok对现实人物图像进行编辑,特别是涉及比基尼等暴露服装的内容。这一限制将覆盖所有用户,不区分是否为付费订阅者。
与此同时,xAI公司决定将Grok的图像生成功能全面纳入付费订阅体系,非付费用户将不再具备生成图像的权限。
在法律明确禁止的地区,X还将直接封锁所有用户通过Grok生成现实人物身穿比基尼、内衣等服装图像的能力。
就在X发布声明的数小时前,美国加州已就xAI及其Grok在AI生成裸露内容及儿童剥削材料方面的处理方式展开调查。加州总检察长罗布·邦塔指出,一项分析发现,在圣诞节到新年期间,xAI生成的大约两万张图像中,超过一半涉及穿着极少的人物,其中包含疑似未成年人的形象。
X在声明中强调,对儿童剥削行为采取零容忍立场,并将持续清理包括儿童性虐待材料和未经同意裸露内容在内的高优先级违规信息。
