1月4日消息，据IT之家等媒体报道，因印度用户及政府议员举报埃隆·马斯克旗下X平台的人工智能聊天机器人Grok生成含有“低俗色情”的内容，印度政府已下令要求该平台立即对Grok的技术与操作流程进行全面整改。
印度信息技术部于当地时间周五发布正式命令，要求马斯克的X平台针对其Grok工具采取紧急纠正措施，严格限制其生成涉及“裸露、性化描述、露骨色情内容以及其他非法素材”的输出。该部门还要求这家社交媒体平台在72小时内提交详细的整改报告，明确指出为防范平台托管或传播“低俗、色情、粗鄙、不雅、露骨色情、恋童及其他法律禁止内容”所采取的具体举措。
科技媒体TechCrunch查阅的这份官方命令显示，若X平台拒绝进行整改，其当前依据印度法律享有的“安全港”保护地位将面临风险。这项保护措施可使平台对其用户生成的内容免除相关法律责任。
据了解，印度政府此番出手，源于此前由用户曝光的多个案例：有人通过指令让Grok篡改人物图像（对象以女性为主），使其呈现身穿比基尼的形象。印度议员普里扬卡·查图维迪已就此提出正式投诉。此外，近期有报道指出，该人工智能聊天机器人存在生成涉及未成年人性化图像的情况。X平台已于周五承认，此事因平台安全防护措施存在漏洞所致，相关图像随后已被下架。
但据TechCrunch调查发现，截至本报道发布时，X平台上仍能看到通过Grok人工智能篡改生成的女性比基尼图像。
就在此次命令发布的几天前，印度信息技术部已于本周一向所有社交媒体平台发布了一份更广泛的警示通知。通知中提醒各平台，遵守印度当地关于低俗色情及露骨色情内容的相关法律，是平台获得用户生成内容法律责任豁免权的前提条件。通知还敦促企业加强内部安全防护机制，并警告称，若未落实相关要求，平台或将依据印度信息技术法及刑法面临法律追责。
命令中严正警示道：“特此重申，若不遵守上述要求，有关部门将严肃处理，并可在不另行通知的情况下，对你方平台、平台相关负责人及平台内违法用户追究严厉的法律责任。”印度政府表示，不遵守命令的行为可能导致X平台依据印度信息技术法及刑法相关规定被追责。
印度作为全球最大的数字市场之一，该国已成为检验各国政府在追究平台对人工智能生成内容责任方面决心边界的关键案例。印度若加强相关执法力度，可能会对在多个司法管辖区运营的全球科技企业产生连锁反应。
值得注意的是，X平台目前仍在法庭上对印度部分内容监管规则提出质疑，认为联邦政府的内容下架权力存在滥用风险；不过该平台此前已遵守了印度政府下达的大部分内容封禁指令。与此同时，X平台用户越来越多地使用Grok进行新闻事件的实时事实核查与评论，这也让Grok生成的内容比独立人工智能工具的输出内容曝光度更高、政治敏感性更强。
