首页 游戏 软件 资讯 排行榜 专题
首页
科技数码
提示注入算不算漏洞?解析微软与专家的AI漏洞定义之争

提示注入算不算漏洞?解析微软与专家的AI漏洞定义之争

热心网友
12
转载
2026-01-07

1月7日,IT之家援引科技媒体bleepingcomputer前一天(1月6日)发布的博文报道,微软近日驳回了一名安全工程师提交的关于Copilot的四项安全漏洞报告,引发行业对“AI漏洞”定义的激烈争论。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈


网络安全工程师John Russell近日在LinkedIn发文透露,他向微软提交了4个涉及Copilot的安全漏洞报告,但微软随后关闭了这些工单,理由是它们“不符合修复资格”。

Russell指出,这些问题包括直接和间接的“提示注入”(导致系统提示词泄露)、通过Base64编码绕开文件上传策略,以及在Copilot隔离的Linux环境中执行命令。

其中最值得关注的是绕过文件上传策略的漏洞。通常情况下,Copilot会拦截高风险格式的文件。但Russell发现,只要将这些文件编码为Base64文本字符串,就能骗过初步检测。

IT之家援引博文介绍,一旦这些文本在会话中被解码,恶意文件就会被重构并执行分析,从而有效规避了安全控制。此外,他还展示了通过巧妙设计的指令诱导AI泄露其核心“系统提示词”的方法。

微软判定这些问题未跨越安全边界,属于“AI已知局限”而非需修复的漏洞。Russell反驳称,竞争对手Anthropic的Claude模型能够拒绝此类攻击,证明这是缺乏输入验证的问题。

该媒体随后联系微软,得到的回复是所有报告均已根据其公开的“AI漏洞标准”(Bug Bar)进行了评估。微软认为,如果攻击仅限于用户的执行环境,或者没有跨越明确的安全边界(如导致未经授权的数据访问或提取),则不被视为安全漏洞。

这一事件在安全社区引发了分歧。安全研究员Cameron Criswell等人也认为,这反映了大型语言模型(LLM)的普遍局限性,即无法完美区分“用户数据”和“操作指令”。

OWASP GenAI项目也持保留态度,认为单纯的系统提示词泄露除非涉及敏感数据或破坏核心防护,否则不算高危漏洞。

来源:https://www.163.com/dy/article/KIM5E50C0511B8LM.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

英伟达云游戏升级支持Vision Pro:4K/90帧VR体验评测
科技数码
英伟达云游戏升级支持Vision Pro:4K/90帧VR体验评测

IT之家 3 月 31 日消息,英伟达更新 GeForce Now 云游戏服务,在最新 2 0 83 版本中,专门针对苹果 Vision Pro 头显,提升游戏串流画质。本次版本更新全面解锁高帧率模

热心网友
03.31
微软多模态智能Co-Pilot重磅发布,开启AI协作新模式
科技数码
微软多模态智能Co-Pilot重磅发布,开启AI协作新模式

微软于3月30日推出365Copilot研究代理新功能Critique,可让GPT与Claude协作完成研究:GPT生成初稿,Claude按学术标准核查准确性、完整性等,未来还将支持双向互审。同时微

热心网友
03.31
微软推出Critique系统:双模型协同实现AI自我纠错
科技数码
微软推出Critique系统:双模型协同实现AI自我纠错

智通财经APP获悉,微软(MSFT US)于周一揭晓了一系列新的人工智能升级,推出名为“Critique”的全新多模型深度研究系统。据该公司首席执行官萨蒂亚·纳德拉介绍,该系统核心采用了创新的双模型

热心网友
03.31
微软承认Win11推送问题,承诺半年后将改进更新机制
科技数码
微软承认Win11推送问题,承诺半年后将改进更新机制

快科技3月31日消息,据Windows Latest报道,微软近日承认Windows 11的 "控制功能推出 "(CFR)机制确实让用户感到困扰,并承诺将赋予用户更多自主选择权,让他们能够自行决定是否启

热心网友
03.31
Win11推送机制问题,微软半年后终承认并着手修复
电脑教程
Win11推送机制问题,微软半年后终承认并着手修复

3月31日消息,据Windows Latest报道,微软近日承认Windows 11的“控制功能推出”(CFR)机制确实让用户感到困扰,并承诺将赋予用户更多自主选择权,让他们能够自行决定是否启用新功

热心网友
03.31

最新APP

史莱姆农场
史莱姆农场
休闲益智 03-31
凡人传说
凡人传说
角色扮演 03-30
恶魔秘境
恶魔秘境
角色扮演 03-29
猫和老鼠华为
猫和老鼠华为
休闲益智 03-29
暗黑之地
暗黑之地
角色扮演 03-28

热门推荐

OPPO Find X9 Ultra联名哈苏影像 4月21日重磅发布
网络安全
OPPO Find X9 Ultra联名哈苏影像 4月21日重磅发布

PChome 3月31日消息,OPPO官微官宣,OPPOx哈苏影像新品联合发布会将于4月21日晚19:00在成都举办,Find X9s Pro、Find X9 Ultra等新品将至。据了解,OPPO

热心网友
03.31
2026最新小红书官网登录入口与PC端访问地址
电脑教程
2026最新小红书官网登录入口与PC端访问地址

小红书网页版登录入口为https: www xiaohongshu com explore,支持扫码、手机号验证码及微信三种登录方式,首页默认瀑布流展示热门笔记,具备多维度内容检

热心网友
03.31
举证难与盗声困境:AI模仿维权路径指南
科技数码
举证难与盗声困境:AI模仿维权路径指南

两年前,谢添天发现自己的声音被一款APP“盗”走——用户输入文本,即可用他的音色生成以假乱真的AI声音。维权半年,因举证难度太高,最终以和解和对方致歉了结。两年后,一场大规模的联合发声,将AI盗声侵

热心网友
03.31
数字智能赋能正能量:网络媒体论坛探讨三个治理方向
科技数码
数字智能赋能正能量:网络媒体论坛探讨三个治理方向

来源:央广网3月28日至29日,以“发挥主流媒体引领力 激发多元主体创造力——共创繁荣网络内容生态”为主题的2026中国网络媒体论坛在河南郑州举行。网络媒体因技术而诞生,凭创新而繁荣。面对新一轮科技

热心网友
03.31
AI驱动CRM升级:企业级智能解决方案重塑付费模式
科技数码
AI驱动CRM升级:企业级智能解决方案重塑付费模式

当大语言模型与AgenticAI(智能体)从试验场进入企业级生产环境,SaaS行业的底层价值逻辑正面临系统性重估。这一轮变革的核心,正指向“AI CRM 2 0”的全面到来——它不再是传统CRM的功

热心网友
03.31