IT之家2月4日消息,彭博社报道称,埃隆·马斯克旗下的人工智能公司xAI正在接受英国数据保护监管机构的调查。随着监管审查趋严,其人工智能聊天机器人Grok被指用于生成并传播涉及真人的色情合成图像,目前正面临更严格的监管审查。

英国信息专员办公室(ICO)在当地时间周二的一份声明中表示,此次正式调查将重点关注生成此类图像的详细过程,以确认其中是否存在对个人数据的不当处理行为。
上月,在马斯克旗下的社交媒体平台X上,有用户诱导聊天机器人Grok,在未经当事人同意的情况下,生成了针对特定真人(主要为女性,甚至包括儿童)的人工智能情色合成图像,此举引发了公众与政界的强烈愤慨。据报道,有用户在女性发布的个人照片下留言,向Grok下达“给她脱衣”、“给她穿上比基尼”等指令。彭博社报道称,Grok每小时能生成数千张此类情色图像。xAI最终限制了Grok在X平台上的图像生成功能,但该聊天机器人仍在多个国家被临时封禁,同时还面临欧盟和法国方面的调查。
周二早些时候,法国执法部门突击搜查了X公司位于巴黎的办公室,这是针对该社交媒体平台涉嫌滥用行为刑事调查的一部分,调查范围包含色情深度伪造内容。
英国信息专员办公室有权对xAI处以最高1750万英镑(IT之家注:现汇率约合1.66亿元人民币),或其全球年销售额4%的罚款,以两者中金额更高者为准。该机构表示,此次曝光的色情内容生成事件“根据英国数据保护法引发了严重关切,对公众存在重大潜在伤害风险”。
监管机构将核查xAI是否合法、公正、透明地处理个人数据,以及该公司是否设置了充分的安全防护措施,以阻止有害深度伪造内容的生成。信息专员办公室的威廉·马尔科姆在声明中透露,该机构正与英国通信管理局(Ofcom)及国际组织协同开展调查。
本月早些时候,ICO曾公开表示已联系X欧洲用户的数据控制方——爱尔兰实体X Internet Unlimited公司,及其母公司xAI,要求其明确为遵守英国数据保护法所采取的合规措施,本次ICO调查正是在此之后启动。
另外,英国通信管理局表示,Grok独立应用程序不在其调查范围内,原因是通过该应用生成的内容不会自动公开。
