游乐游手机版
首页/科技数码/文章详情

微软Copilot四大安全隐忧:AI安全新争议涌现

时间:2026-01-08 13:13
1月7日,有安全研究人员披露,其向微软报告了关于Copilot的四项潜在安全问题,但相关反馈被最新驳回,此事在网络安全领域引发了对人工智能系统漏洞界定标准的广泛讨论。安全工程师John Russel

1月7日,有安全研究人员披露,其向微软报告了关于Copilot的四项潜在安全问题,但相关反馈被最新驳回,此事在网络安全领域引发了对人工智能系统漏洞界定标准的广泛讨论。

安全工程师John Russell近日在社交平台表示,他已向微软提交了四个与Copilot相关的问题案例,包括通过Base64编码绕过文件上传限制、实现命令执行以及诱导模型泄露系统提示词等行为。然而,这些报告随后被关闭,理由是不符合漏洞修复的认定条件。

据描述,其中一项技术涉及将可执行文件转换为Base64格式的文本字符串,从而避开前端检测机制。当该文本在对话过程中被解码后,原始文件得以还原并被系统处理,实质上绕过了原有的安全策略。此外,研究者还演示了如何利用特定输入指令使模型输出其内部使用的系统提示内容,这一过程属于典型的提示注入攻击路径。

对此,微软方面回应称,所有提交事项均已依据其公开发布的AI安全评估框架进行审查。公司认为,若相关行为未突破预设的安全边界,例如未导致跨用户数据泄露或未获得未授权访问权限,则不构成传统意义上的安全漏洞,而应归类为当前生成式人工智能技术的已知局限。

这一立场引发了业内不同声音。部分技术人员认为,尽管此类现象在大型语言模型中普遍存在,但能否有效防御已知攻击模式仍应作为产品安全性的重要衡量指标。有观点指出,已有其他厂商的模型在类似场景下表现出更强的防御能力,说明输入验证和上下文隔离仍具备优化空间。

与此同时,也有安全组织持审慎态度,认为系统提示词的暴露本身并不必然等同于高风险事件,除非其直接导致敏感信息外泄或核心防护机制失效。当前,围绕AI系统的威胁模型仍在演进中,如何界定“漏洞”与“功能边界”,仍是行业亟待统一认知的关键议题。

来源:https://ai.zol.com.cn/1113/11139672.html
上一篇具身智能行业开源模型测评的必要性与关键价值 下一篇华硕ProArt MD301鼠标与KD300键盘上市:三模超长续航
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
OpenClaw手机App上线,结果翻车了
科技数码 · 2026-07-01

OpenClaw手机App上线,结果翻车了

OpenClaw 官方宣布,已正式推出 iOS 和 Android 原生移动 App,用户如今可以在手机上使用这款主打“能真正帮你做事”的个人 AI 助手。官方在 X 上给出的定位也很直接:把 Agent 放进口袋里,让用户可以在移动端处理频道消息、任务和回复。从功能上看,OpenClaw 移动端并

优必选CEO周剑:家庭机器人生态核心投入过半精力
科技数码 · 2026-07-01

优必选CEO周剑:家庭机器人生态核心投入过半精力

先说几个核心判断:优必选正在布局一盘长远战略。创始人兼CEO周剑在近期一场媒体沟通会上,直接亮出了公司未来的发展路线——工业、商用、家庭陪伴机器人三条业务主赛道并行推进,现阶段每条线各占约一半精力。一边是已经能够稳定创造收入的工业场景,另一边则是他眼中“最具想象力与未来空间”的家庭陪伴领域。工业人形

CPO/NPO/OIO开启封装级光连接价值空间,技术路线尚未收敛
科技数码 · 2026-07-01

CPO/NPO/OIO开启封装级光连接价值空间,技术路线尚未收敛

6月30日,申银万国在光连接系列研报中重点指出,MPO光连接器领域的投资机会值得高度关注。通俗来说,随着AI算力集群持续扩张,光互联升级带来的连锁效应——数据中心光纤通道数量、前面板端口密度、机柜内光纤管理复杂度——均在同步攀升。光连接器的角色早已超越传统的低价值标准件,如今它直接决定着链路插损、可

龙岗AR实景剧本游内测体验短板有效破解之道
科技数码 · 2026-07-01

龙岗AR实景剧本游内测体验短板有效破解之道

在今年龙岗区第二届人工智能与机器人发展大会上,区级部门一次性推出了7个AI“龙搭子”。其中,名为“龙导游”的成果成为文商旅融合领域的核心亮点。据南都N视频记者了解,依托“龙导游”打造的全区全域AR实景剧本游“龙岗大陆”,已在今年五一假期发布了内测版本。经过一个月市场验证后,该项目正式启动面向全社会的

南下资金6月30日净买入中芯国际与建滔积层板
科技数码 · 2026-07-01

南下资金6月30日净买入中芯国际与建滔积层板

6月30日,南下资金持续大举买入港股,单日净流入金额高达58 95亿港元。接下来,我们直接盘点哪些个股获得资金青睐、哪些遭到减持: 净买入方面,中芯国际领跑全场,单日吸金19 33亿港元;建滔积层板紧随其后,净买入10 59亿港元;腾讯控股获得7 65亿港元净流入;智谱(02513 HK)也有6 5