1月4日消息，由于用户和议员举报其人工智能聊天机器人Grok生成“低俗色情”内容（包括该工具制作的女性AI篡改图像），印度已下令埃隆·马斯克旗下的X平台立即对Grok进行技术与操作流程整改。
当地时间周五，印度信息技术部发布命令，要求马斯克的X平台针对Grok采取纠正确措施，包括限制生成涉及“裸体、性化描述、露骨色情内容及其他非法素材”的内容。该部门还要求这家社交媒体平台在72小时内提交整改报告，详细说明为防止平台托管或传播“低俗、色情、粗鄙、不雅、露骨色情、恋童及其他法律禁止内容”所采取的具体举措。
据科技媒体TechCrunch查阅的这份命令显示，若X平台拒绝整改，其享有的“安全港”保护地位将面临风险，这项保护依据印度法律，可让平台对用户生成内容免除相关法律责任。
据了解，印度政府此番出手，源于此前用户曝光的多起案例：有人通过指令让Grok篡改人物图像（对象以女性为主），使其呈现身穿比基尼的形象。印度议员普里扬卡·查图维迪就此正式提起投诉。此外，近期有报道指出该人工智能聊天机器人存在生成涉及未成年人的性化图像的情况。X平台已于周五承认，此事是由平台安全防护措施存在漏洞所致，相关图像随后已被下架。
但据TechCrunch调查发现，截至本篇报道发布时，X平台上仍能看到通过Grok人工智能篡改生成的女性比基尼图像。
就在此次命令发布的几天前，印度信息技术部已于本周一发布了一份面向所有社交媒体平台的更广泛警示通知。通知中提醒各平台，遵守印度当地关于低俗色情及露骨色情内容的相关法律，是平台获得用户生成内容法律责任豁免权的前提条件。通知还敦促企业加强内部安全防护机制，并警告称，若未落实相关要求，平台或将依据印度信息技术法及刑法面临法律追责。
命令中警告道：“特此重申，若不遵守上述要求，有关部门将严肃处理，并可在不另行通知的情况下，对你方平台、平台相关负责人及平台内违法用户追究严厉的法律责任。”印度政府表示，不遵守命令的行为可能导致X平台依据印度信息技术法及刑法相关规定被追责。
印度是全球最大的数字市场之一，该国已成为检验各国政府在追究平台对人工智能生成内容责任方面决心边界的关键案例。印度若加强相关执法力度，可能会对在多个司法管辖区运营的全球科技企业产生连锁反应。
值得注意的是，X平台目前仍在法庭上对印度部分内容监管规则提出质疑，认为联邦政府的内容下架权力存在滥用风险；不过该平台此前已遵守了印度政府下达的大部分内容封禁指令。与此同时，X平台用户越来越多地使用Grok进行新闻事件的实时事实核查与评论，这也让Grok生成的内容比独立人工智能工具的输出内容曝光度更高、政治敏感性更强。
