游乐游手机版
首页/电脑教程/文章详情

AI漏洞定义引争议:微软提示注入与安全专家交锋

时间:2026-01-07 14:07
1 月 7 日消息,科技媒体 bleepingcomputer 昨日(1 月 6 日)发布博文,报道称微软近日驳回了一名安全工程师提交的关于 Copilot 的四项安全漏洞报告,引发了行业关于“A

1月7日消息,科技媒体bleepingcomputer昨日(1月6日)发布博文,称微软近日驳回了一名安全工程师提交的关于Copilot的四项安全漏洞报告,引发了行业关于“AI漏洞”定义的激烈争论。

提示注入算不算漏洞?微软与安全专家引发 AI 漏洞定义争议

网络安全工程师John Russell近日在LinkedIn发文透露,他向微软提交了4个关于Copilot的安全漏洞,但微软随后关闭了这些工单,理由是它们“不符合修复资格”。

Russell指出,这些问题包括直接和间接的“提示注入”(导致系统提示词泄露)、通过Base64编码绕过文件上传策略,以及在Copilot隔离的Linux环境中执行命令。

其中最值得关注是绕过文件上传策略。通常情况下,Copilot会拦截高风险格式的文件。但Russell发现,只要将这些文件编码为Base64文本字符串,就能骗过初步检测。

援引博文介绍,一旦这些文本在会话中被解码,恶意文件就会被重构并执行分析,从而有效规避了安全控制。此外,他还展示了通过巧妙设计的指令诱导AI泄露其核心“系统提示词”的方法。

微软判定这些问题未跨越安全边界,属于“AI已知局限”而非需修复的漏洞。Russell反驳称,竞争对手Anthropic的Claude模型能够拒绝此类攻击,证明这是缺乏输入验证的问题。

该媒体随后联系微软,得到的回复是所有报告均已根据其公开的“AI漏洞标准”(Bug Bar)进行了评估。微软认为,如果攻击仅限用户的执行环境,或者没有跨越明确的安全边界(如导致未经授权的数据访问或提取),则不被视为安全漏洞。

这一事件在安全社区引发了分歧。安全研究员Cameron Criswell等人也认为,这反映了大型语言模型(LLM)的普遍局限性,即无法完美区分“用户数据”和“操作指令”。

OWASP GenAI 项目也持保留态度,认为单纯的系统提示词泄露除非涉及敏感数据或破坏核心防护,否则不算高危漏洞。

来源:https://www.ithome.com/0/911/156.htm
上一篇AO3镜像站稳定入口:快速访问方法与可用地址 下一篇华硕ProArt外设系列:双滚轮鼠标与矮轴光轴键盘新品解析
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
网易闪电邮附件下载失败的解决方法
电脑教程 · 2026-07-01

网易闪电邮附件下载失败的解决方法

当使用网易闪电邮下载附件时,经常遇到进度条卡在“正在下载”或直接中断、且页面无任何提示的情况,这通常由以下几个原因导致。网易闪电邮附件下载失败的根本问题往往不是表面现象,而是网络环境、本地配置和网易邮箱策略共同作用的结果。下面我们将从根源入手,逐步排查并提供有效的解决方案。 先确认是否为超大附件限制

Origin下载卡在0%的解决方法
电脑教程 · 2026-07-01

Origin下载卡在0%的解决方法

第一次安装Origin时,很多新手朋友最头疼的莫过于进度条卡在0%不动,光标一闪一闪,等了十几分钟还是老样子。老实说,这根本不是你的网速太慢,而是安装程序压根没连上服务器——要么连接通道被阻断,要么你本地的网络组件出了问题。别急,我们直接上解决方案,分三步轻松搞定。 使用离线安装包绕过Origin内

萝卜投研电脑版安装教程与下载方法详解
电脑教程 · 2026-07-01

萝卜投研电脑版安装教程与下载方法详解

先说结论:萝卜投研目前确实没有独立的PC客户端,不过别急,通过应用宝电脑版就能在Windows 10 11上运行它的Android原生App,而且手机端的账号、收藏的研报都能同步过来,还能导出到本地,就一个词儿——省心。下面我把整个安装和使用的流程拆开细说。 换句话说,这套方案等于直接绕过了传统模拟

小米智能存储规格揭晓:4+32GB存储与40Mbps免费远程访问
电脑教程 · 2026-07-01

小米智能存储规格揭晓:4+32GB存储与40Mbps免费远程访问

7月1日,小米的首款NAS产品终于浮出水面——官方命名为“小米智能存储”,并于今天上午10点正式开启众筹,起售价2299元。对关注智能家居和家庭数据存储的用户来说,这算是一个等了很久的消息。 先看看基本规格。机身三围200 5×85×161mm,铝合金中框材质,整机保修三年,做工上对得起小米一向的质

苹果手表充电方法及是否支持无线充电
电脑教程 · 2026-07-01

苹果手表充电方法及是否支持无线充电

苹果手表采用磁吸无线充电,基于MagSafe技术,从零充满约需90分钟。需匹配设备型号,快充需20W以上适配器。建议将电量维持在20%-80%,开启优化电池充电功能可降低衰减,充电环境温度应控制在0℃至35℃。