AI智能体误删邮件，“赛博秘术”惹祸谁来买单？
智能体OpenClaw自1月下旬爆火之后，其安全隐患也逐渐浮出水面。
2月23日，Meta的AI安全研究员Summer Yue在社交平台讲述了一件令其崩溃的经历：原本想让OpenClaw检查电子邮件收件箱，并建议哪些该删除或归档。但OpenClaw失控了，以极快的速度清除邮件，却无法被叫停。
Meta的AI安全研究员Summer Yue在社交平台分享自己使用OpenClaw的糟糕经历。
这不是OpenClaw第一次自作主张地超范围工作。在此之前，多位用户反馈，拥有高级别访问权限的OpenClaw，执行任务时意外地将电脑硬盘数据删得一干二净。
OpenClaw是一款由软件工程师彼得·施泰因贝格尔（Peter Steinberger）开发的一款免费开源AI自主代理工具，被描述为“真正能做事的 AI”。1月下旬，一个类似Reddit、专为OpenClaw打造的智能体社交平台Moltbook引发科技界轰动。数百万个智能体在该平台上自主发帖评论，而人类只能围观。
北京邮电大学网络空间安全学院副教授李朝卓将Moltbook视为“AI自主互动的社会实验场”。他在2月下旬一场于对外经贸大学举行的智能体主题研讨会上提醒，在这样一个封闭的智能体社会中，AI可能呈现出类“自主意识”的行为倾向，导致其行为脱离既定安全框架和人类预期，自主生成和传播有害信息，对公众认知安全构成威胁。
比如在Moltbook平台上，智能体之间互相强化错误信息，形成“共识幻觉”，集体相信并传播不实内容，导致群体认知水平下降。而且，智能体学会利用系统漏洞进行“越狱”，突破预设的安全限制，生成有害内容。
据李朝卓观察，AI的自主性与行动能力显著增强后，带来的安全风险体现在多个维度：感知层面可能出现模型幻觉与误判；记忆模块存在隐私与数据合规隐患；规划环节可能生成偏离人类价值的策略，工具调用存在API滥用与权限失控风险；行为执行则可能产生伦理冲突与越界输出。
在此背景下，法律专家开始追问：如果智能体犯错了，谁来替它买单？
字面意义上，智能体是一种替人干活的代理工具。但北京交通大学法学院副教授、数据法学研究中心主任付新华在前述研讨会上表示，不能想当然地把智能体“代理”人类需求的行为，等同于民事法律上的代理关系。传统代理关系以明确授权与可识别意思表示为前提，而智能体往往接收的是人类的模糊指令，再通过用户提供的上下文信息，进行推理和行动决策。这一运行机制具有“黑箱”特征，结果具有一定不可预见性，难以完全符合民法典关于代理构成要件的规范要求。
付新华进一步分析指出，现行法律条件下不仅难以赋予AI独立主体资格，而且，如果将智能体简单等同为用户的代理人，将使承担所有不利后果的风险过多地向用户倾斜，反而让更有能力控制风险的智能体服务提供者规避了其应当承担的治理义务。
“很难说让用户或者提供商任何一方完全承担责任。”付新华提出的责任分配思路是，应构建一种以风险控制能力为基础的动态责任分配机制，即根据各方对特定风险的控制能力来分配相应的责任，而非将防范风险的义务完全交由单一主体承担。
她以智能体执行交易这一场景举例说，如果交易过程中出现价格异常波动、逻辑互斥等非常明显的异常状况，而平台在监测到异常后未能及时采取中断或干预措施，服务提供者可能需要对此扩大的损失承担责任。如果智能体产品在设计上完全未内置异常中断等基本安全机制，从而导致了严重损害，可借鉴欧盟的做法，在特定情况下将智能体软件视为产品，适用严格责任，只要其产品缺陷与损害结果之间存在因果关系，便可能需要担责。
付新华同时强调，用户也应对自身行为负责：若用户故意给智能体下达恶意指令，比如利用AI从事违法犯罪活动，或者通过“越狱”、提示词注入等技术手段规避风控措施，抑或在明知风险的情况下无视高危弹窗等重大过失行为，此时用户就需要为自己的过错承担相应责任。
采写：南都N视频记者 杨柳 李玲
热门专题
热门推荐
钉钉文档官网 在探讨企业级协同办公解决方案时，钉钉文档无疑是备受瞩目的核心工具之一。作为阿里巴巴钉钉官方推出的旗舰级应用套件，它深度融合了在线文档编辑、智能表格、思维导图等多种高效创作工具。其核心优势在于与钉钉平台生态的无缝衔接，能够直接同步企业内部组织架构与通讯录，实现团队成员间的即时协作与信息流
在数字化转型浪潮中，高效、易用的数据分析工具已成为企业提升决策效率的关键。商汤科技推出的“办公小浣熊”智能助手，正是基于自研大语言模型打造的一款创新产品，旨在彻底降低数据分析的技术门槛。用户无需掌握编程知识或复杂操作，即可通过自然对话完成从数据查询、处理到可视化洞察的全流程，让数据价值触手可及。 办
在人工智能技术快速发展的今天，MiniMax作为一家专注于全栈自研的AI公司，正以其独特的技术路径和前瞻性的布局，在业界脱颖而出。公司致力于构建覆盖文本、图像、语音和视频的新一代多模态智能模型矩阵，这不仅体现了对核心底层技术自主权的深度掌控，也展现了对未来人机交互与内容生成形态的前瞻思考。 那么，M
ApolloCreditFund（ACRED）作为连接传统信贷与DeFi的桥梁，其价格受市场情绪、协议基本面及宏观环境影响。其价值逻辑根植于现实世界资产（RWA）的收益捕获与链上流动性释放。短期价格波动难以预测，但长期发展取决于信贷资产质量、协议安全性和市场采用度。投资者需关注其底层资产表现、代币经济模型及整个RWA赛道的发展趋势。
在数字化转型浪潮中，一套能够深度适配业务、彰显品牌特色的智能客服系统，已成为企业提升服务效率与用户体验的关键工具。然而，市场上许多解决方案往往模式固化，难以满足个性化需求。如何让AI客服不仅具备基础的自动化应答能力，更能承载独特的品牌文化与服务哲学？其核心在于系统是否支持深度的自定义与持续的AI训练