AI图像识别存隐私漏洞,黑客可借“看图”窃取用户数据
8 月 26 日消息,科技媒体 bleepingcomputer 昨日(8 月 25 日)发布博文,报道称 Trail of Bits 研究人员开发出一种新型 AI 攻击手法,将恶意提示词隐藏在高分辨率图片中,并在 AI 系统自动降采样处理后显现,再被大语言模型当作指令执行,可窃取用户数据。
该方法由 Trail of Bits 的 Kikimora Morozova 与 Suha Sabi Hussain 提出,灵感来源于 2020 年德国布伦瑞克工业大学的图像缩放攻击理论。攻击者先在高分辨率图片中嵌入肉眼不可见的指令,再利用 AI 系统降采样算法使其显现。
援引博文介绍,AI 平台为节省性能与成本,通常会自动降采样(downscaled)用户上传的图片,主流使用最近邻(nearest neighbor)、双线性(bilinear)、双三次插值(bicubic interpolation)等图像重采样算法。
攻击者可针对特定算法设计图片,让隐藏的色块在降采样后形成可识别文字。例如,Trail of Bits 的案例中,图片深色区域会变红,并在双三次降采样后显现黑色文字。

一旦文字显现,AI 模型会将其视为用户输入的一部分,会结合正常指令执行,从而引发数据泄露或其他风险操作。研究人员在 Gemini CLI 环境中,利用此漏洞在 Zapier MCP“trust=True”模式下,未经用户确认便提取了 Google 日历数据并发送至指定邮箱。
该方法已在多个平台测试有效,包括 Google Gemini CLI、Vertex AI Studio(Gemini 后端)、Gemini 网页与 API 接口、安卓手机上的 Google Assistant 及 Genspark。
研究团队还发布了开源工具 Anamorpher(测试版),可生成针对不同降采样方法的攻击图片,表明其潜在威胁范围远超已验证的工具。
相关攻略
使用海螺AI高效生成产品FAQ需遵循三阶段流程:首先从真实用户交互中提炼5-8个高频问题样本;其次通过结构化提示词强制AI输出编号清晰的问答格式;最后必须人工校验关键业务信息,确保版本、链接及合规声明的准确性。此方法能产出精准实用的FAQ文档。
在众多AIGC工具不断涌现的当下,要找到一个功能强大、操作简单且易于上手的创作平台确实需要一番筛选。今天我们要详细介绍的“智象未来”(HiDream ai),正是一个值得你重点关注的全能型AIGC平台。它依托于自主研发的多模态大模型,构建了一个集AI创作、智能编辑与社区交流于一体的中文AIGC创作社
如何利用AI生成HTML文档提升办公效率 在追求高效能的现代办公环境中,自动化与智能化技术已成为驱动变革的核心力量。其中,运用AI生成HTML文档,正成为提升团队生产力、优化工作流程的关键策略。这项技术究竟能为企业带来哪些具体的价值? 简而言之,它不仅能将文档创建的时间成本压缩至最低,更能系统性地规
如何快速筛选两个Excel表格中的相同数据:三种高效方法详解 在日常办公与数据分析中,我们经常需要对比两个Excel表格,快速找出它们之间的重复记录。无论是核对客户信息、比对库存清单、整合多部门销售数据,还是进行财务对账,精准定位出两个数据集的交集,都是确保数据准确性与进行深度分析的关键前提。本文将
一、用AI生成药品说明书的五大优势与应用场景 在制药这一高度严谨的行业,药品说明书不仅是传递信息的文件,更是保障用药安全与满足法规合规的核心依据。传统的撰写方式耗时费力,面对日益增长的临床试验数据和快速变化的全球监管要求,常常显得捉襟见肘。因此,一个关键问题被提出:能否在严格保证信息精准与合规的基础
热门专题
热门推荐
摘要由实在Agent通过智能技术生成。此内容由AI根据文章内容自动生成,并已由人工审核。 随着企业数字化转型进入智能体(Agent)驱动的新阶段,如何平衡AI创新与安全合规成为关键挑战。尤其在《网络安全等级保护基本要求》(等保2 0)的严格框架下,企业级智能体的部署必须同时满足效率提升与合规保障的双
使用情景 对于外贸从业者来说,年终总结绝非简单的例行汇报。它是一次至关重要的年度复盘与战略规划,既要系统梳理过去一年的业绩成果与经验得失,也要为来年的市场开拓与业务增长指明清晰路径。在全球贸易竞争白热化的今天,一份逻辑严谨、数据详实、洞察深刻的总结报告,不仅是个人专业能力的集中体现,更是赢得管理层支
使用情景 又到年末了,年度安全工作总结是每个团队都绕不开的环节。这份总结的价值,远不止于一份简单的回顾。它更像是一份“体检报告”,清晰地告诉你过去一年安全工作的“健康状况”——哪里做得好,哪里还有隐患,从而为来年的精准施策打下坚实的基础。 不过,说起写总结、做PPT,不少人就开始头疼了:内容怎么组织
Zcash (ZEC) 月度暴涨520%:深度解析后市行情与关键点位 近期,隐私币龙头Zcash (ZEC) 上演了一场令人瞩目的行情,月度涨幅高达520%,价格一度逼近300美元,创下自2021年12月以来的新高。在加密市场整体承压的背景下,ZEC的逆势狂飙吸引了全球投资者的目光。本文将结合技术分
在存量竞争的时代,电商售后数据早已超越了“成本中心”的单一角色,它正成为洞察产品质量、优化物流链路、提升用户忠诚度的核心战略资产。然而,现实往往骨感:多平台、多店铺、多套ERP系统并存,数据散落一地。靠人工手动汇总?不仅耗时费力,更关键的是,你永远无法实现真正的实时预警与敏捷响应。那么,电商售后数据





