随着智能体技术加速渗透社会生活,相关法律争议也呈现出全新特征。在司法实践中,主体界定模糊、因果关系认定复杂、举证责任分配不均,已成为审理智能体纠纷案件的三大核心挑战。近日,在以“共守智能体安全底线”为主题的“AI新治向”系列沙龙上,广州互联网法院刘启法官分享了司法前沿观察,强调应在审慎包容原则下,通过机制创新平衡技术发展与法律治理。

广州互联网法院综合审判三庭负责人刘启法官作主题分享。
智能体司法纠纷类型:不正当竞争与侵权风险突出
从当前司法案例来看,智能体引发的法律纠纷主要集中在以下几个领域:
首先是不正当竞争纠纷。这类问题多表现为智能体实施“越界”行为,例如违规调用设备权限、绕过平台技术防护,进行数据抓取、流量劫持或虚假刷量等,扰乱市场秩序。
其次是侵权类纠纷,涉及人格权、知识产权及财产权等多个维度。具体包括利用智能体生成虚假肖像、深度伪造视频,未经授权抓取受版权保护内容,或擅自操控账户、处置虚拟财产等侵权行为。
再者是数据安全与隐私纠纷。焦点在于智能体在数据收集、存储、使用环节可能存在的乱象,如过度采集用户个人信息、违规处理未成年人数据、未履行充分告知义务等。
司法审判现实难题:主体界定、因果关联与举证困境
智能体作为新兴技术形态,对传统司法审判逻辑构成显著挑战。刘启法官指出,当前难题主要体现在三方面。
第一,法律主体定性模糊。尽管政策文件已将智能体定义为具备自主感知、决策与执行能力的系统,但其法律地位尚未明晰。这直接导致责任归属复杂化:智能体应被视为工具、网络服务,还是独立的新型产品?不同定性对应截然不同的责任规则体系。
第二,因果关系认定困难。与传统人工智能工具不同,智能体具备环境交互、工具调用及自主学习演进能力。其行为逻辑可能随迭代发生自主调整,输出结果具有较强不确定性。当损害因智能体“自主学习”偏离初始设定而引发时,要准确界定开发者、运营者、用户等各方行为与损害结果之间的因果链条,变得尤为复杂。
第三,举证责任分配失衡。智能体的核心算法、决策依据、运行日志等关键数据多由开发者或运营方掌控,形成典型的“算法黑箱”。在侵权诉讼中,处于技术弱势的普通用户往往难以获取这些核心证据。传统“谁主张,谁举证”原则面临现实挑战,亟待优化完善。
司法应对策略:专业化审理、差异化责任与证据规则革新
面对上述困境,司法体系需构建更具适应性的治理路径。刘启法官结合实践,提出三方面具体建议。
其一,建立专业化审理机制。这意味着优化审判方式与人员配置,引入技术调查官、行业专家辅助办案,通过技术手段厘清行为逻辑,解决专业事实认定难题。
其二,构建与风险匹配的差异化责任框架。依据智能体应用场景的风险等级,合理配置举证责任。例如,对低风险的内容生成类智能体,可以合同约定为基础适用过错责任;对中风险的生活服务类智能体,可考虑过错推定责任;而对自动驾驶、智能医疗等高危场景,则可将其视为数字危险源,在一定条件下适用无过错责任。责任划分可遵循“控制力+收益”原则:开发者对算法与数据缺陷负责;深度定制并获利的平台承担相应责任;用户违规操作承担过错责任;多智能体协作致损的,按控制力与过错比例分担,难以区分的可依法承担连带责任。
其三,完善技术性证据规则体系。有必要强制要求智能体运营方规范留存算法日志、运行记录,并设定法定保存期限。在诉讼中,对无正当理由拒不提供关键数据的一方,可依法推定其存在过错。同时,可探索运用区块链技术固定智能体行为数据,并引入第三方技术鉴定机构,协同破解证据获取与认证难题。
刘启法官强调,面对智能体技术带来的法律适用新课题,司法治理应坚持审慎包容、鼓励创新的原则。核心是在现有法律框架内进行弹性解释,构建契合技术特性的规则体系,从而在护航技术创新与落实法律治理之间寻求动态平衡。
据悉,本次“AI新治向”系列沙龙由粤港澳大湾区生成式人工智能安全发展联合实验室与南方都市报社共同主办,并获广东省网络数据安全与个人信息保护协会支持。活动汇聚政府、司法、学界、企业及媒体代表,围绕近期发布的《智能体规范应用与创新发展实施意见》,深入剖析智能体应用的安全风险逻辑,共商多元共治与创新实践方案。
