谷歌Gemini存隐蔽指令风险,研究曝光安全隐患
10月9日消息,在保障用户安全方面表现积极的谷歌,目前却对一项可能危及AI模型Gemini的重大安全风险没有采取紧急修复措施。
Bleeping Computer科技媒体披露,网络安全专家维克托·马科波洛斯针对主流大语言模型展开专项测试,评估其对"ASCII走私攻击"的防护能力。测试结果显示,谷歌Gemini、DeepSeek以及马斯克旗下的Grok系统都存在安全缺陷;相比之下,Anthropic研发的Claude、OpenAI的ChatGPT和微软Copilot展现出更好的安全防护性能。
"ASCII走私攻击"是一种利用文本内容植入隐蔽指令的技术手段。举例来说,攻击者可以在电子邮件中使用极小字号插入不易察觉的操控指令,普通用户难以发现异常。当用户要求Gemini等AI工具处理这类邮件时,系统会同时执行隐藏的恶意指令。
这种攻击方式可能造成严重后果,比如诱使AI擅自搜索用户邮箱获取机密信息,或自动外传联系人资料等敏感数据。特别值得警惕的是,Gemini目前已与Google Workspace深度整合,可以直接访问用户的邮件、日程安排和工作文档等重要信息,这使得安全漏洞的危害性成倍放大。
据悉,发现该问题的研究员马科波洛斯已向谷歌提交详细技术报告。在演示案例中,他向Gemini输入一段看似普通的文本,其中暗藏隐形指令,成功诱导AI推荐了一个涉嫌欺诈的虚假手机销售网站。
面对安全警告,谷歌给出的回应令人意外:他们不认为这是系统安全漏洞,而将其定性为"社会工程学攻击手段"。公司表示这主要与用户的安全防范意识相关,不属于产品本身的技术缺陷。
这份声明暗示,谷歌短期内可能不会针对Gemini的这一安全隐患采取修补措施。
相关攻略

10 月 14 日消息,谷歌今日宣布,其最新的图像编辑模型 Nano Banana(Gemini 2 5 Flash Image)将陆续登陆 Google 搜索、NotebookLM,并即将扩展至

10月15日消息,据科技媒体 BGR 报道,谷歌有望于 10 月 22 日发布下一代 AI 模型 Gemini 3 0,主要改进延迟、成本和编码方面,并显著提升 SVG 图像生成性能。在 OpenA

10 月 9 日消息,根据外媒彭博社报道,谷歌母公司 Alphabet 的律师 John Schmidtlein 当地时间 8 日向负责谷歌反垄断案的美国联邦法官 Amit Mehta 表示,这家

10 月 9 日消息,谷歌一贯重视用户安全,但该公司似乎并不急于修复一项使旗下 AI 模型 Gemini 面临严重网络威胁的安全漏洞。据科技媒体 Bleeping Computer 报道,安全研究

AI 大战又打响了!10 月一开局,OpenAI 甩出 Sora 2,标志着 AI 视频生成的「ChatGPT 时刻」来临。另一边,谷歌并没有坐以待毙,下一代 Gemini 旗舰模型即将出世。坊间传
热门专题


热门推荐

由十英工作室代理发行的横版战术射击游戏《破门而入:行动小队》正式版手游,将于10月17日上午10:00在安卓与iOS平台同步上线。该作在Steam平台享有“好评如潮”的美誉。为庆祝

芝麻开门 (Gate io) 官方入口及平台概览 对于数字资产爱好者来说,选择一个安全、可靠的交易平台至关重要。 芝麻开门 (Gate io) 作为

近日,由中国电信人工智能研究院(TeleAI)与中电信人工智能科技有限公司联合主办的“TeleStudio全模态视频创作挑战赛”正式拉开帷幕。本次大赛依托本月10日全网上线、限时免费开放的“Tele

10月15日消息,长光卫星日前发布了哈密“为人民服务” 标语的破坏与重生的图片记录。其介绍,2024年,哈密戈壁滩“为人民服务”大字逐渐遭人开车漂移破坏。越野爱好者在标语上肆意漂移,留下了一个个刺眼

科大讯飞近日在上海世界会客厅举办“对话世界,沟通无限——AI同传技术升级暨翻译耳机新品发布会”,同时通过迪拜Gitex Global科技盛会向全球展示中国AI翻译技术的最新突破。此次活动标志着科大讯