AI生成内容失实谁担责？法院：平台需显著警示风险
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
“如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。”
AI生成错误信息后竟“建议”用户起诉自己，这般荒诞情节竟真的走上法庭。针对国内首例因生成式人工智能模型幻觉引发的侵权案，杭州互联网法院近日作出一审判决，明确AI的“承诺”不构成平台意思表示，并系统阐释了服务提供者的注意义务边界——平台虽无法保证“零幻觉”，但须以醒目方式提示风险、采取合理技术防错。
AI坚持错误不改 用户真把它告上法庭
2025年6月，梁某使用某AI应用程序查询高校报考信息，结果AI提供了某高校的不准确信息。在梁某指出错误后，AI的回应是“如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。”直到梁某向AI提供该高校的最新招生信息，AI才终于败下阵来，承认自己生成了不准确的信息。梁某遂提起诉讼，认为AI生成不准确信息对其构成误导，使其遭受侵害，要求这款AI的运营者赔偿9999元。
梁某认为，AI生成的不准确信息对其构成误导，增加了信息核实与维权成本，平台理应承担侵权责任；而被告则辩称，对话内容完全由模型生成，不构成意思表示，自己已充分履行了注意义务，无过错，且梁某并未产生实际损失，因而亦不构成侵权。最终，法院一审驳回了原告梁某的诉讼请求。原、被告均未上诉，判决现已生效。
作为我国目前首例因生成式人工智能模型幻觉引发的侵权纠纷，这起案件涉及众多争议问题：AI在对话中“说出”的内容，能否被理解为平台的真实意思？当错误信息来自模型的“幻觉”，而非人为编造，责任又该如何认定？在技术缺陷尚无法完全消除的情况下，平台应如何更好地尽到应有的注意义务？围绕这些问题展开的判决，也为生成式人工智能在现实场景中的使用划出了一条可供参照的司法边界。
AI“承诺”无效 谁是真正的“言说者”？
在判决中，杭州互联网法院首先厘清了一个核心争议：生成式人工智能在对话中生成的“承诺”信息，究竟能否构成其独立、自主的意思表示，或被视为平台运营者的意思表示。这实质上涉及人工智能是否具备民事主体资格的问题。
判决明确指出，现行法律下，人工智能并不具备民事主体资格，既不能独立作出意思表示，也不能被视为平台的“代理人”或“传声筒”。换言之，即便AI在对话中作出了承诺式回应，也不能理解为平台真实意愿的外化。在“梁某案”中，即便AI在对话中生成了“赔偿承诺”，也不足以让平台因此受到合同或承诺的约束。上海交通大学凯原法学院副教授林洹民点评此案时指出，该判决明确了“人类负责制”原则，即人工智能系统带来的利益和风险，最终都应由人类分配和承担。
在此基础上，法院进一步界定了生成式人工智能侵权责任的归责原则。判决认为，案涉生成式人工智能属于服务而非产品，不应适用无过错的产品责任，而适用民法典规定的过错责任原则。这意味着，AI生成不准确信息本身并不构成侵权，责任认定需考察平台是否存在过错。
AI“幻觉”不等于侵权 平台的注意义务应如何划界
在明确适用过错责任原则后，判决还对如何认定运营者即生成式人工智能服务提供者的过错进行了清晰的界定，重点关注平台在面对AI幻觉时，究竟应当履行何种注意义务？
法院在判决中对注意义务进行综合考量和类型化、分层界定：
一是对于法律明确禁止生成的有毒、有害、违法信息，生成式人工智能服务提供者负严格结果性审查义务，一旦生成此类信息本身即构成违法。
二是对于一般性不准确信息，现行法律并未要求服务提供者确保“零错误”或信息绝对准确，而是一种方式性义务，强调其应采取合理措施提高生成内容的准确性与可靠性。
三是服务功能的显著提示说明义务。平台须采取必要、合理的醒目措施，让用户认知AI的局限性。具体包括：在欢迎页、用户协议及交互界面显著位置提示“AI生成内容存在局限，不能确保准确，仅供参考”；对可能涉及人身、财产安全等的专业问题（如医疗、法律、金融），应以正面警示语在恰当时机进行显著提醒。法院认为，本案被告已在多处履行此义务，符合显著性要求。
四是功能可靠性的基本注意义务。平台应采用同行业通行技术措施（如数据安全评估、模型内生安全、外部护栏、检索增强生成RAG等）提升准确性，达到市场平均水平。对于涉及生命安全、心理健康等高风险特定领域，提供者负有更高义务，包括采取特别技术措施与特殊安全保障。
在“梁某案”中，法院审查后认定被告已完成大模型备案与安全评估，并在应用界面、用户协议等多个层面履行了提示说明义务，原告未能证明其遭受了实际损害或存在相当因果关系（AI不准确信息未实质影响其决策）。最终，法院认定平台不存在过错，不构成侵权。
这一判断，与生成式人工智能的技术现实密切相关。正如多位法律界人士指出，大语言模型本质上是一种基于概率的语言生成系统，并不具备对事实真伪作出判断的能力。在当前主流技术路径下，幻觉难以被彻底消除，要求人工智能服务提供者对所有输出结果承担结果责任，既不现实，也可能过度加重负担、扼杀创新。
从判决到治理 法院如何看待AI“幻觉”风险
对于我国首例AI“幻觉”侵权案，杭州互联网法院指出，人工智能时代已经到来，对生成式人工智能的治理，应当坚持发展与安全并重、促进创新与权益保护相结合的原则。一方面，要为技术创新保留必要空间，避免因责任过度前置而抑制新技术的发展；另一方面，也必须守住法律底线，严格禁止生成各类有毒、有害、违法信息，防止技术风险向现实社会外溢。
在这一框架下，法院强调，对生成式人工智能服务侵权适用过错责任原则，并非对风险的放任，而是希望通过更具弹性和适应性的规则设计，引导服务提供者持续改进技术、完善风险防控机制，以创新本身回应发展过程中出现的问题。
同时，法院也特别提醒社会公众，在面对生成式人工智能高度流畅、自然的语言应答时，应保持必要的警觉与理性认知。当前技术条件下，大模型本质上仍是生活和工作中的“文本辅助生成器”和“信息查询工具”，尚不足以充当可靠的“知识权威”，更不能作为替代个人判断的“决策者”。对AI生成内容的轻信与盲从，本身就可能放大“幻觉”带来的风险。只有在理性使用的前提下，AI的“魔法”才能真正成为增强个人能力的工具，而不是制造误导甚至风险的来源。
出品：南都大数据研究院 AI新治向工作室
采写：南都N视频见习记者 张文嘉
相关攻略
来源：环球网【环球网科技综合报道】3月31日消息，科技媒体Appleinsider报道，苹果与应用开发商Epic Games围绕应用商店费用展开的旷日持久的法律战，近日再次迎来关键进展。美国第九巡回
没有惊天大案，也没有强冲突强反转，近期热播的法治剧《家事法庭》将镜头探入更为广阔的社会肌理与民生日常。对于习惯精英律政题材的观众而言，这部剧或许有太多的家长里短和鸡飞狗跳，但其可贵之处恰恰在于不追求
3月31日消息，昨日深夜，博主“PQ-管仲窥豹”发布微博向赛力斯公开致歉：本人杨XX，系微博账号“PQ-管仲窥豹”的注册使用人。就本人使用前述账专通过微博平台于2024年5月至2025年1月期间发布
这些天，电视剧《家事法庭》正在热播，这可太对我的胃口，尽管比较忙，还是尽量抽出时间和大家一起追剧。只是没想到追着追着，追到了自己身上。有一天，中国法治出版社的赵宏主任给我发来微信，问我《家事法庭》剧
IT之家 3 月 28 日消息，当地时间 3 月 27 日，据外媒 Ars Technica 报道，Spotify 与多家大型唱片公司正向法院申请对影子图书馆“安娜的档案”作出 3 22 亿美元（I
热门专题
热门推荐
3月31日消息，OPPO将于4月21日举行新品发布会，推出Find X9s Pro、Find X9 Ultra两款影像旗舰。今日，OPPO Find 系列产品负责人卓世杰晒出Find X9s Pro
Yandex网页版无需登录入口是https: ya ru ，该链接通过skip_sslsignin=1参数直连最新服务器，自动跳过登录验证，支持多语言、多服务快捷访问，具备轻量界
格隆汇3月31日｜日经225指数收盘下跌822 13点，跌幅1 58%，报51063 72点。日经225指数3月收跌13 23%，创下自2020年3月(新冠疫情初期)以来最大月度跌幅。
顺丰控股港股(6936 HK)涨超5%，报35 02港元，最高触及35 7港元；顺丰控股A股(002352 SZ)涨4%，报38 23元，创一个半月新高。消息面上，顺丰控股披露了2025年年度报告，
小吉空调以“双十”服务，向用户交付家居空间的美学方案家电行业的竞争，长期围绕产品参数与外观设计展开;但当产品趋同成为常态，品牌真正的分水岭开始后移——从“产品交付那一刻”延伸到“用户使用的整个周期”