首页 游戏 软件 资讯 排行榜 专题
首页
电脑教程
AI漏洞定义引争议:微软提示注入与安全专家交锋

AI漏洞定义引争议:微软提示注入与安全专家交锋

热心网友
35
转载
2026-01-07

1月7日消息,科技媒体bleepingcomputer昨日(1月6日)发布博文,称微软近日驳回了一名安全工程师提交的关于Copilot的四项安全漏洞报告,引发了行业关于“AI漏洞”定义的激烈争论。

提示注入算不算漏洞?微软与安全专家引发 AI 漏洞定义争议

网络安全工程师John Russell近日在LinkedIn发文透露,他向微软提交了4个关于Copilot的安全漏洞,但微软随后关闭了这些工单,理由是它们“不符合修复资格”。

Russell指出,这些问题包括直接和间接的“提示注入”(导致系统提示词泄露)、通过Base64编码绕过文件上传策略,以及在Copilot隔离的Linux环境中执行命令。

其中最值得关注是绕过文件上传策略。通常情况下,Copilot会拦截高风险格式的文件。但Russell发现,只要将这些文件编码为Base64文本字符串,就能骗过初步检测。

援引博文介绍,一旦这些文本在会话中被解码,恶意文件就会被重构并执行分析,从而有效规避了安全控制。此外,他还展示了通过巧妙设计的指令诱导AI泄露其核心“系统提示词”的方法。

微软判定这些问题未跨越安全边界,属于“AI已知局限”而非需修复的漏洞。Russell反驳称,竞争对手Anthropic的Claude模型能够拒绝此类攻击,证明这是缺乏输入验证的问题。

该媒体随后联系微软,得到的回复是所有报告均已根据其公开的“AI漏洞标准”(Bug Bar)进行了评估。微软认为,如果攻击仅限用户的执行环境,或者没有跨越明确的安全边界(如导致未经授权的数据访问或提取),则不被视为安全漏洞。

这一事件在安全社区引发了分歧。安全研究员Cameron Criswell等人也认为,这反映了大型语言模型(LLM)的普遍局限性,即无法完美区分“用户数据”和“操作指令”。

OWASP GenAI 项目也持保留态度,认为单纯的系统提示词泄露除非涉及敏感数据或破坏核心防护,否则不算高危漏洞。

来源:https://www.ithome.com/0/911/156.htm
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

索尼暂停PC游戏移植以专注应对微软混合硬件挑战
科技数码
索尼暂停PC游戏移植以专注应对微软混合硬件挑战

最近行业里有个观察挺有意思:索尼那边,把主力单机游戏往PC上移植的动作,似乎按下了暂停键。这可不是简单的节奏调整,背后更像是一种防御性的战略收索。而这一切,很可能与微软正在秘密推进的那个混合硬件项目——Project Helix——直接相关。 逻辑其实很清晰。按照索尼过去的习惯,PS5世代那些王牌大

热心网友
05.20
微软Xbox手柄U型摇杆帽防滑升级提升游戏操控体验
AI资讯
微软Xbox手柄U型摇杆帽防滑升级提升游戏操控体验

微软发布了一款面向Xbox手柄的全新U型摇杆帽,该设计旨在增强操控时的防滑性和耐用性,尤其考虑了特定用户的需求。新产品将于5月21日在Xbox设计实验室提供免费设计文件下载,但需用户自行3D打印制作。这进一步丰富了微软已有的六种可自定义摇杆帽选项,为玩家提供了更个性化的游戏外设选择。

热心网友
05.20
微软官方建议Win11游戏内存配置16GB起步32GB更佳
系统平台
微软官方建议Win11游戏内存配置16GB起步32GB更佳

近期,科技媒体Windows Latest披露了一则值得关注的动态。报道指出,微软已悄然更新了Windows 11针对游戏场景的内存配置指引,明确了新的分级标准:16GB被视为“基准配置”,而32GB则被官方正式划定为“无忧畅玩区”(worry-free)。这一调整传递出一个清晰的行业趋势——32G

热心网友
05.20
微软Surface Laptop 7五十周年纪念版送修丢失全球限量仅50台
科技数码
微软Surface Laptop 7五十周年纪念版送修丢失全球限量仅50台

科技圈这两天出了件挺让人唏嘘的事儿。据科技媒体Windows Central报道,一台极其稀有、全球限量仅50台的微软50周年纪念版Surface Laptop 7,在送修后竟然“失踪”了。 事情的主人公Rhener Furtado遇到了设备死机的问题,于是将这台珍贵的纪念版笔记本寄给了微软官方进行

热心网友
05.19
微软Win11运行对话框升级支持深色模式并提升启动速度
系统平台
微软Win11运行对话框升级支持深色模式并提升启动速度

近日,微软面向Windows 11预览体验成员推送了Build 26300 8346更新,其中包含了一项备受经典用户关注的改进:一个经过全面重构的“运行”(Win+R)对话框。此次更新不仅为其换上了契合Fluent Design设计语言的现代化界面,原生适配了深色主题,更在性能上实现了超越——其启动

热心网友
05.19

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

Mac Studio M5性能深度解析 五大关键信息助你全面了解
iphone
Mac Studio M5性能深度解析 五大关键信息助你全面了解

苹果MacStudio库存见底,预示新款即将发布。外观预计延续经典紧凑设计,接口布局不变。核心升级为M5Max和M5Ultra芯片,性能大幅提升,但内存供应可能受限。固态硬盘速度有望翻倍。作为苹果专业桌面新旗舰,其起售价可能小幅上调,WWDC大会可能是发布窗口。

热心网友
05.20
尼克尔Z DX 24mm f/1.7镜头 适合C画幅人文扫街售1899元
业界动态
尼克尔Z DX 24mm f/1.7镜头 适合C画幅人文扫街售1899元

对于使用尼康Z卡口APS-C画幅(DX格式)相机(如Z fc、Z30、Z50)的摄影爱好者而言,在套机镜头之外选择一支定焦镜头,是提升创作自由度和画面质量的关键一步。尼克尔 Z DX 24mm f 1 7正是这样一款专为轻量化与大光圈设计的定焦镜头,目前京东售价1899元,为追求便携与画质平衡的用户

热心网友
05.20
彭军直言L3自动驾驶本质仍是L2,现有分级体系亟待重构
业界动态
彭军直言L3自动驾驶本质仍是L2,现有分级体系亟待重构

自动驾驶技术的分级标准正面临行业内部的深度反思与重构。在2026北京车展上,小马智行联合创始人兼CEO彭军发表的观点,将行业关注的焦点从技术参数转向了更为根本的责任归属议题。 彭军明确指出,当前广泛采用的L1至L5自动驾驶分级体系已显得“极其无厘头”。他认为,这些层级划分并非衡量自动驾驶商业化前景的

热心网友
05.20
特斯拉FSD无法升级引车主不满 马斯克承诺遭质疑
业界动态
特斯拉FSD无法升级引车主不满 马斯克承诺遭质疑

4月28日,《商业内幕》发布的一篇深度报道,揭示了特斯拉自动驾驶承诺背后日益凸显的信任危机。多年来,“未来将实现完全自动驾驶”是特斯拉吸引消费者的核心卖点,但对于众多早期支持者而言,这一愿景正变得愈发渺茫。 图1:马斯克确认HW3车型无法升级至无监督版FSD 问题的根源在于硬件代际差异。在近期举行的

热心网友
05.20
龙虾车圈热潮来袭现象深度解析
业界动态
龙虾车圈热潮来袭现象深度解析

当AI智能体不仅能说会道,还能帮你订餐、写报告,甚至用周杰伦的风格唱首歌时,汽车行业的竞争焦点,已经悄然从硬件参数转向了软件生态。这届北京车展,就是最好的证明。 “你能让它用周杰伦那种吐字不清的风格,唱首歌吗?”在火山引擎的展台,一位体验者向工作人员提出了这个有趣的要求。指令下达后,座舱里的“豆包”

热心网友
05.20