近日，最高人民法院在官方网站公示了全国首例生成式人工智能产生“幻觉”所引发的侵权纠纷判决详情。

2025年3月，用户梁某注册并使用了一款由某科技公司基于自研大语言模型开发的生成式AI应用。同年6月29日，当梁某向该AI咨询某高校的报考信息时，应用生成了关于该校校区的不准确描述。

发现错误后，梁某在对话中进行了纠正，但AI不仅坚持错误信息，甚至生成了一条“若内容有误将赔偿10万元”的解决方案。随后，梁某提供了正式、正确的信息，AI最终承认错误，并建议其向杭州互联网法院提起诉讼索赔。

梁某据此提起了诉讼，要求该科技公司赔偿9999元。科技公司辩称，AI生成的内容不构成法律意义上的“意思表示”，公司已尽到合理的注意义务且无过错，原告也未能证明其遭受了实际损失。

法院审理认为，人工智能本身不具备民事主体资格，不能独立作出意思表示。涉案AI自行生成的“赔偿承诺”不能视为服务提供者的意思表示，理由包括：AI不能作为意思表示的传达人或代理人；被告并未通过AI预设任何具有法律效力的表示行为；从社会普遍观念来看，用户难以对AI随机生成的承诺产生合理信赖；同时也没有证据表明原告愿意接受AI生成内容的约束。

法院同时明确，服务提供者的责任需依据不同类型进行区分：对于违法信息须履行严格审查义务；虽无法保证“零幻觉”，但必须以醒目的方式提示内容风险，并采取合理的技术手段来防范错误。

具体到本案，该科技公司已完成大模型备案与安全评估，采取了当前技术条件下的必要措施来保障生成准确性，并履行了风险提示说明义务，因此认定平台方并无过错，不构成侵权。

最终，法院驳回了原告梁某的全部诉讼请求，判决双方均未提起上诉，目前该判决已生效。