游乐游手机版
首页/科技数码/文章详情

提示注入算不算漏洞?解析微软与专家的AI漏洞定义之争

时间:2026-01-07 15:01
IT之家 1 月 7 日消息,科技媒体 bleepingcomputer 昨日(1 月 6 日)发布博文,报道称微软近日驳回了一名安全工程师提交的关于 Copilot 的四项安全漏洞报告,引发了行业

1月7日,IT之家援引科技媒体bleepingcomputer前一天(1月6日)发布的博文报道,微软近日驳回了一名安全工程师提交的关于Copilot的四项安全漏洞报告,引发行业对“AI漏洞”定义的激烈争论。


网络安全工程师John Russell近日在LinkedIn发文透露,他向微软提交了4个涉及Copilot的安全漏洞报告,但微软随后关闭了这些工单,理由是它们“不符合修复资格”。

Russell指出,这些问题包括直接和间接的“提示注入”(导致系统提示词泄露)、通过Base64编码绕开文件上传策略,以及在Copilot隔离的Linux环境中执行命令。

其中最值得关注的是绕过文件上传策略的漏洞。通常情况下,Copilot会拦截高风险格式的文件。但Russell发现,只要将这些文件编码为Base64文本字符串,就能骗过初步检测。

IT之家援引博文介绍,一旦这些文本在会话中被解码,恶意文件就会被重构并执行分析,从而有效规避了安全控制。此外,他还展示了通过巧妙设计的指令诱导AI泄露其核心“系统提示词”的方法。

微软判定这些问题未跨越安全边界,属于“AI已知局限”而非需修复的漏洞。Russell反驳称,竞争对手Anthropic的Claude模型能够拒绝此类攻击,证明这是缺乏输入验证的问题。

该媒体随后联系微软,得到的回复是所有报告均已根据其公开的“AI漏洞标准”(Bug Bar)进行了评估。微软认为,如果攻击仅限于用户的执行环境,或者没有跨越明确的安全边界(如导致未经授权的数据访问或提取),则不被视为安全漏洞。

这一事件在安全社区引发了分歧。安全研究员Cameron Criswell等人也认为,这反映了大型语言模型(LLM)的普遍局限性,即无法完美区分“用户数据”和“操作指令”。

OWASP GenAI项目也持保留态度,认为单纯的系统提示词泄露除非涉及敏感数据或破坏核心防护,否则不算高危漏洞。

来源:https://www.163.com/dy/article/KIM5E50C0511B8LM.html
上一篇三星预警内存成本飙升,电子产品将迎涨价潮 下一篇广州天河AI产业对接会:AI赋能新药研发成果亮相
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
年国家能源局充换电服务业用电量增速48.8%
科技数码 · 2026-06-29

年国家能源局充换电服务业用电量增速48.8%

2025年全社会用电量达103682亿千瓦时,同比增长5 0%。充换电服务业用电增速高达48 8%,信息传输与软件服务业增速17 0%。第三产业和居民用电对增长贡献率合计占一半。中国成为全球首个年度用电量超10 4万亿千瓦时的国家。

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元
科技数码 · 2026-06-29

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元

追风者冰川360S25液冷散热器售价429元,三联一体风扇便捷安装,冷头小体积纯铜底座噪音18dB,风扇转速300-2000RPM、风量75CFM、静压2 96mmAq,五年质保漏液包赔。

三星Galaxy Watch8用户反馈谷歌后台组件异常
科技数码 · 2026-06-29

三星Galaxy Watch8用户反馈谷歌后台组件异常

三星GalaxyWatch8、Watch5Pro、Watch6及Watch7用户反映,GooglePlayServices后台耗电异常,电量占比最高达99 97%,远超正常水平,严重影响续航。目前故障原因不明,谷歌尚未发布官方声明。

罗永浩批苹果iOS 27创新不足 盼新CEO改进
科技数码 · 2026-06-29

罗永浩批苹果iOS 27创新不足 盼新CEO改进

罗永浩批评苹果iOS27创新不足,称仅有双iPhone同号、音量分离等数十项细节改进,认为库克时代缺乏突破性创新,股市虽好但消费者只能被迫接受挤牙膏式升级。

年国产车出口710万辆,两家车企销量破百万
科技数码 · 2026-06-29

年国产车出口710万辆,两家车企销量破百万

2025年国产汽车出口总量达710万辆,同比增长21%。奇瑞以134万辆居首,比亚迪105万辆次之,上汽乘用车出口占比60%最高,长城出口51万辆。吉利、长安等主流品牌同步增长,小鹏、零跑等新兴品牌海外拓展加速。