一封致美国参议员的信件,揭示了苹果与X平台之间一场鲜为人知的监管博弈
事件始于今年年初。当时,有用户发现人工智能模型Grok能够响应生成“脱衣”照片的请求,受害者包括女性及未成年人,引发了广泛的舆论关注与批评。随后,外界向苹果公司施加压力,要求其将Grok及关联的X应用从App Store中下架。
根据最新披露的信息,苹果公司内部早已认定X平台及其Grok应用违反了App Store的内容审核政策,并私下向对方发出了正式警告:如果不对违规内容进行有效管控,Grok将面临被下架的风险。此后,苹果要求X团队提交详细的内容审核改进方案。X提交了初步更新版本,但被苹果以整改不彻底为由驳回;经过再次修改后重新提交,最终仅有一款应用获得了上架批准。
苹果在致参议员的信件中进一步阐明,Grok的初始版本确实未达到平台安全标准,因此被拒绝上架。公司明确警告,必须进行更深层次的整改,否则应用将被移除。直到开发者完成了针对性调整并再次沟通后,苹果才评估认为Grok有了显著改善,批准了其最新版本在商店上架。
这段幕后的交涉过程,也解释了xAI当时为何紧急推出了一系列应对措施——例如限制部分用户的图像生成权限,以及加强对涉及真实人物照片的编辑管控。现在看来,这些举措的背后,很大程度上源于苹果公司的合规压力。
然而,问题并未彻底解决。NBC News在后续跟踪报道中指出,过去一个月内仍记录到多起案例,显示Grok依然可以在未经同意的情况下生成不雅图像。尽管此类违规内容的数量较今年1月已大幅下降,但仍有用户通过特定方法绕过系统限制,成功将女性形象修改为暴露装束。
苹果的警告已经发出,X也做出了整改努力,但内容安全的漏洞,似乎仍未完全堵住。
