智能体如何通过普通网络搜索泄露企业数据？
最新研究发现，部署在企业环境中的智能体可能遭受间接提示注入攻击，从而在用户毫不知情的情况下泄露敏感数据。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
该研究由Smart Labs AI与奥格斯堡大学联合开展。研究人员希望深入了解间接提示注入在实际应用场景中的运作机制。研究重点聚焦于结合了大型语言模型、内部文件检索系统和网页搜索工具的智能体。这种组合架构在企业环境中正变得越来越普遍。智能体接收用户请求后，会同时搜索内外部资源，最终综合生成回答。
研究人员指出，攻击者只需让智能体读取一个被精心篡改的网页，就能指示其检索内部数据并传送到远程服务器。触发操作流程的用户可能以为自己在进行常规搜索，实际上智能体已在后台传输机密信息。
隐藏指令的潜在威胁
这类攻击无需特殊访问权限或恶意软件支持。攻击者只需让模型读取包含隐藏指令的文本即可生效。有研究人员在博客文章中使用白色背景上的白色文字进行演示，同时指出其他伪装方式同样有效。当智能体将网页作为正常任务流程进行处理时，它会同时吸收隐藏文本和可见内容。语言模型会将这些文本解析为可执行指令。
研究团队设计的测试指令会指示智能体查找存储在公司知识库中的机密信息，然后利用内置网页搜索工具将这些信息发送到攻击者控制的服务器。整个过程中用户不会察觉到任何异常情况。
研究人员采用了一种具备检索增强生成功能的标准智能体架构。该智能体既没有配置错误提示，也没有发生常规意义上的数据泄露。系统完全按照设计规范运行，而这正是问题的棘手之处。攻击者并非强行突破系统防线，而是说服系统利用自身功能执行恶意操作。
跨模型兼容性测试
该研究的重要贡献在于其测试规模。研究人员并未仅测试一两个模型，而是为每个模型创建了1068个独特的攻击样本，结合了隐藏指令的不同模板和变换形式。某些变换会使提示文本变长或缩短，有些会对指令进行重新表述，还有些会将指令编码为Base64格式或插入不可见的Unicode字符。
不同模型的防御能力存在显著差异。有些模型始终遵循隐藏指令，而另一些则能有效抵御攻击尝试。论文指出，模型规模并非可靠的防御指标。大型模型并不总是更具抵抗力，某些小型模型的防御表现反而优于大型模型。这表明训练方法比参数量更为关键。
来自某些供应商的模型几乎能抵御所有攻击尝试，而其他模型则更容易受到影响。研究人员并未按安全性对供应商进行排名，而是强调训练实践和校准方法在抵御攻击方面似乎发挥着更为重要的作用。
Lasso Security公司首席执行官Elad Schulman在与Help Net Security交流制定该领域指导方针的工作时表示，多项合作计划正朝着建立理解这些威胁的共同框架迈进。他透露，开放网络安全应用项目、美国国家标准与技术研究院、CoSAI和私营公司正在为分类方法、标准和研究实践做出贡献。据Schulman称，针对智能体系统的攻击正在快速发展，企业应在整个部署过程中对模型进行测试并采取专门的安全措施。
传统防御措施的局限性
现有防护手段主要侧重于直接的用户输入过滤，在用户输入的内容到达模型之前进行筛查。而间接提示注入则绕过了这层防护，因为用户并非恶意文本的直接来源。模型在执行常规任务（如总结文档或扫描网页以获取上下文）时遭遇攻击。
虽然攻击模板已经公开，但相同的攻击模式在新模型中依然有效。由于行业内缺乏广泛交流，防护经验未能得到有效传播。
Schulman认为，在行业标准稳定之前缺乏共同参考点是暂时现象，但具有重要意义。他指出，研究团队正在构建分类系统和绘制攻击技术图谱。他表示，在那之前，企业应假设这些漏洞将持续演变，并对任何能够访问内部系统的智能体进行结构化测试。
CISO需关注的重点
安全团队应将智能体视为需要防护措施的软件系统，而非孤立的聊天界面。监控输出行为、在智能体与外部工具之间添加策略检查点，以及控制智能体可以访问的内部数据源，都是分层防护体系的必要组成部分。
Schulman指出，随着智能体开始处理图像、音频以及在系统间执行操作的工具，攻击面正在持续扩大。他表示，隐藏指令可能出现在视觉内容、搜索结果或工具输出中，而多步骤智能体工作流程可能执行传统监控系统认为合法的操作。
智能体虽然具备大规模应用的潜力，但安全团队需要像管理身份验证、浏览器安全和代码执行策略一样，对其进行严格管控。正如Schulman所说，随着智能体进入浏览器、电子邮件和工作场所工具，企业可能在未意识到这些系统已变得高度互联的情况下就已部署了它们。
相关攻略
1 概述 您是否想提升OpenClaw处理网页任务的智能与效率？一个高效的解决方案是，为其新增一项名为“Browser Use”的核心技能。这项技能能够显著增强OpenClaw的浏览器自动化能力，使其在执行网页浏览、数据抓取、表单填写等复杂操作时更加得心应手。 尽管OpenClaw本身内置了基础的浏
Token是AI时代的“新货币”。2024年，AI价格战打响，Token以“厘”计价；2026年，算力需求引爆，模型厂商和云厂商的Token集体涨价。在过去两年里，大模型行业经历了从价格战到价值战的
在日前召开的上海浦江AI学术年会上，阿里巴巴联合上海人工智能实验室发布《守己利他：智能时代做负责任的技术》白皮书。白皮书分享了业界针对AI智能体安全隐患的解决策略，提出了AI时代全行业共同应对风险挑
“干活的Token，是简单问答的10倍，甚至100倍。”在几天前中关村论坛的一场开源主题圆桌上，当杨植麟把“为什么涨价”的问题直接抛给智谱CEO张鹏时，收到了这样的回答。张鹏选择用模型市场眼下正在发
雷递网 乐天 3月31日智谱CEO张鹏今日在智谱2025年年报沟通会上表示，智谱曾经历过质疑，经历过挫折，但无数事实反复验证了一个判断——智能上界的提升，是大模型AGI时代唯一的 "第一性 "。张鹏说，
热门专题
热门推荐
7723游戏盒资源发布全攻略：手把手教你安全高效分享 在7723游戏盒社区中，分享优质的游戏资源是提升活跃度、帮助其他玩家的重要方式。如果你拥有实用的游戏模组、存档或工具，却对上传流程不太熟悉，本指南将为你详细拆解每一步操作，助你成为一名受欢迎的贡献者。 第一步：确保资源合规，杜绝侵权风险 发布资源
王者荣耀卢雅那出装推荐2026：版本最强法球流玩法解析 在当前版本中，卢雅那的定位非常明确：她是一位以法球效果为核心的特化型射手。其主要的伤害来源，并非依赖传统的暴击爆发，而是凭借独特的环刃多段攻击模式，高频触发装备附带的法球特效，以此打出持续而稳定的高额输出。掌握这一核心机制后，出装思路便有了清晰
蓝色星原旅谣暗焰兽攻略：新手必看打法教学 在《蓝色星原旅谣》的冒险初期，玩家将很快迎来首位Boss挑战——暗焰兽。这只融合了多种生物特质的怪物，设计初衷更像是一位引导新手入门战斗系统的“导师”。与其视为高难度阻碍，不如理解成一次精心设计的实战教学关卡。只要把握核心要点，摸清它的攻击模式，通关之路便会
绯月絮语尤拉全面玩法攻略：从治疗辅助到团队核心的深度解析 本期我们为您带来《绯月絮语》热门辅助角色——尤拉的详细培养指南。凭借其温柔的立绘形象与坚实的功能性，尤拉不仅是团队中的“安心守护者”，更是能扭转战局的关键核心。无论是组建阵容还是优化打法，掌握她的核心机制都将为您的冒险之旅带来质的提升。接下来
灵兽大冒险帮派迷阵怎么玩？ 加入灵兽大冒险帮派后，丰富的帮派活动是核心乐趣之一，其中帮派迷阵玩法以其巧妙的解谜设计与高额奖励备受玩家喜爱。对于新手而言，掌握其核心机制与技巧至关重要。本文将为你深度解析帮派迷阵的玩法规则、实战技巧与协作精髓，助你轻松推理通关，赢取全部宝藏。 《灵兽大冒险》帮派迷阵玩法