AI漏洞定义引争议:微软提示注入与安全专家交锋
1月7日消息,科技媒体bleepingcomputer昨日(1月6日)发布博文,称微软近日驳回了一名安全工程师提交的关于Copilot的四项安全漏洞报告,引发了行业关于“AI漏洞”定义的激烈争论。

网络安全工程师John Russell近日在LinkedIn发文透露,他向微软提交了4个关于Copilot的安全漏洞,但微软随后关闭了这些工单,理由是它们“不符合修复资格”。
Russell指出,这些问题包括直接和间接的“提示注入”(导致系统提示词泄露)、通过Base64编码绕过文件上传策略,以及在Copilot隔离的Linux环境中执行命令。
其中最值得关注是绕过文件上传策略。通常情况下,Copilot会拦截高风险格式的文件。但Russell发现,只要将这些文件编码为Base64文本字符串,就能骗过初步检测。
援引博文介绍,一旦这些文本在会话中被解码,恶意文件就会被重构并执行分析,从而有效规避了安全控制。此外,他还展示了通过巧妙设计的指令诱导AI泄露其核心“系统提示词”的方法。
微软判定这些问题未跨越安全边界,属于“AI已知局限”而非需修复的漏洞。Russell反驳称,竞争对手Anthropic的Claude模型能够拒绝此类攻击,证明这是缺乏输入验证的问题。
该媒体随后联系微软,得到的回复是所有报告均已根据其公开的“AI漏洞标准”(Bug Bar)进行了评估。微软认为,如果攻击仅限用户的执行环境,或者没有跨越明确的安全边界(如导致未经授权的数据访问或提取),则不被视为安全漏洞。
这一事件在安全社区引发了分歧。安全研究员Cameron Criswell等人也认为,这反映了大型语言模型(LLM)的普遍局限性,即无法完美区分“用户数据”和“操作指令”。
OWASP GenAI 项目也持保留态度,认为单纯的系统提示词泄露除非涉及敏感数据或破坏核心防护,否则不算高危漏洞。
相关攻略
最近行业里有个观察挺有意思:索尼那边,把主力单机游戏往PC上移植的动作,似乎按下了暂停键。这可不是简单的节奏调整,背后更像是一种防御性的战略收索。而这一切,很可能与微软正在秘密推进的那个混合硬件项目——Project Helix——直接相关。 逻辑其实很清晰。按照索尼过去的习惯,PS5世代那些王牌大
微软发布了一款面向Xbox手柄的全新U型摇杆帽,该设计旨在增强操控时的防滑性和耐用性,尤其考虑了特定用户的需求。新产品将于5月21日在Xbox设计实验室提供免费设计文件下载,但需用户自行3D打印制作。这进一步丰富了微软已有的六种可自定义摇杆帽选项,为玩家提供了更个性化的游戏外设选择。
近期,科技媒体Windows Latest披露了一则值得关注的动态。报道指出,微软已悄然更新了Windows 11针对游戏场景的内存配置指引,明确了新的分级标准:16GB被视为“基准配置”,而32GB则被官方正式划定为“无忧畅玩区”(worry-free)。这一调整传递出一个清晰的行业趋势——32G
科技圈这两天出了件挺让人唏嘘的事儿。据科技媒体Windows Central报道,一台极其稀有、全球限量仅50台的微软50周年纪念版Surface Laptop 7,在送修后竟然“失踪”了。 事情的主人公Rhener Furtado遇到了设备死机的问题,于是将这台珍贵的纪念版笔记本寄给了微软官方进行
近日,微软面向Windows 11预览体验成员推送了Build 26300 8346更新,其中包含了一项备受经典用户关注的改进:一个经过全面重构的“运行”(Win+R)对话框。此次更新不仅为其换上了契合Fluent Design设计语言的现代化界面,原生适配了深色主题,更在性能上实现了超越——其启动
热门专题
热门推荐
苹果MacStudio库存见底,预示新款即将发布。外观预计延续经典紧凑设计,接口布局不变。核心升级为M5Max和M5Ultra芯片,性能大幅提升,但内存供应可能受限。固态硬盘速度有望翻倍。作为苹果专业桌面新旗舰,其起售价可能小幅上调,WWDC大会可能是发布窗口。
对于使用尼康Z卡口APS-C画幅(DX格式)相机(如Z fc、Z30、Z50)的摄影爱好者而言,在套机镜头之外选择一支定焦镜头,是提升创作自由度和画面质量的关键一步。尼克尔 Z DX 24mm f 1 7正是这样一款专为轻量化与大光圈设计的定焦镜头,目前京东售价1899元,为追求便携与画质平衡的用户
自动驾驶技术的分级标准正面临行业内部的深度反思与重构。在2026北京车展上,小马智行联合创始人兼CEO彭军发表的观点,将行业关注的焦点从技术参数转向了更为根本的责任归属议题。 彭军明确指出,当前广泛采用的L1至L5自动驾驶分级体系已显得“极其无厘头”。他认为,这些层级划分并非衡量自动驾驶商业化前景的
4月28日,《商业内幕》发布的一篇深度报道,揭示了特斯拉自动驾驶承诺背后日益凸显的信任危机。多年来,“未来将实现完全自动驾驶”是特斯拉吸引消费者的核心卖点,但对于众多早期支持者而言,这一愿景正变得愈发渺茫。 图1:马斯克确认HW3车型无法升级至无监督版FSD 问题的根源在于硬件代际差异。在近期举行的
当AI智能体不仅能说会道,还能帮你订餐、写报告,甚至用周杰伦的风格唱首歌时,汽车行业的竞争焦点,已经悄然从硬件参数转向了软件生态。这届北京车展,就是最好的证明。 “你能让它用周杰伦那种吐字不清的风格,唱首歌吗?”在火山引擎的展台,一位体验者向工作人员提出了这个有趣的要求。指令下达后,座舱里的“豆包”





