IT之家1月16日消息，据《读卖新闻》报道，针对X平台生成式AI图像编辑功能遭到滥用、他人照片被篡改加工为情色图像的问题，日本政府已正式介入。

当地时间1月15日，日本政府已要求X平台采取改进措施，以防止不当图像被生成和传播。若相关问题持续存在，该国政府将考虑首次依据《AI法》对企业实施行政指导。这也是在国际社会陆续采取行动的背景下，日本政府首次明确表态并披露具体应对方案。

目前，X平台的图像编辑功能使用的是xAI开发的对话型AI“Grok”。用户可通过两种方式进行图像加工：一种是在回复栏中输入指令文字，另一种是在选择发布图片后，通过编辑界面下达指示。

自去年12月下旬第二种方式上线后，将他人照片加工成泳装或内衣形象的案例在全球范围内激增。日本国内亦出现多起相关事件，包括偶像及疑似未成年人的照片被篡改，甚至被处理成接近裸体的状态。

当地政府人士透露，负责《AI法》的内阁府已于9日以口头方式向X提出要求，强调他人图像被轻易加工和扩散的问题十分严重，并要求抑制色情加工图像的生成。

同时，内阁府还着眼于AI法框架下行政指导的可能性，书面询问了X对该问题的立场、不当内容生成的拒绝机制，以及未来应对方针，并要求尽快提交说明。截至当地时间15日晚间，X尚未作出正式回应。

在具体应对措施方面，X已于9日将图片生成功能限制为仅限付费用户使用，并于15日宣布采取技术手段，防止所有用户将现实存在的人物加工成比基尼等形象。然而《读卖新闻》调查发现，截至当地时间15日19时，有关功能仍可用于制作高暴露度图像。

据IT之家了解，日本的《AI法》于去年9月正式全面施行，旨在推动生成式AI技术创新的同时控制相关风险。该法规定，在发生侵犯公众权利的情况下，政府可对AI企业进行调查，并基于结果提出指导和建议，但并未设立罚则，目前尚无适用先例。