2026年1月14日，有社交媒体用户发布消息称，相关人工智能模型在特定情境下可能存在生成不当内容的风险。对此，该平台负责人回应称，截至目前，并未发现由其AI系统生成的未成年人裸照，并强调此类内容完全不在其生成范围内。

该负责人表示，该人工智能系统本身不具备主动生成图像的功能，所有图像输出均基于用户的具体指令。当接收到涉及非法内容的请求时，系统会根据预设规则拒绝响应，始终遵循各国和地区的法律法规进行运营。尽管如此，仍可能存在极少数因提示词被恶意利用而导致的异常情况，一经发现，技术团队将在第一时间修复相关漏洞。

此前，由于公众对该人工智能功能潜在风险的担忧持续上升，东南亚部分国家通信监管部门已采取相应措施。马来西亚与印度尼西亚已于上周末临时限制对该功能的访问权限，同时当地监管机构正对平台展开审查。欧洲方面，英国相关监管机构已启动正式调查程序，法国有关部门亦将该社交平台移交至司法及监管机构作进一步评估处理。