
近日,谷歌公开披露其旗舰人工智能模型Gemini正面临一场蓄谋已久的大规模商业化攻击。攻击者通过高频次、系统性地向模型提交精心设计的提示词,试图从中提取模型内部决策逻辑与运作机制的关键信息。
据披露,单次攻击中提示词调用次数超过十万量级。这类行为具有高度组织化特征,旨在通过逆向工程手段解析Gemini模型,进而实现能力复现或增强攻击方自身人工智能系统的性能。
谷歌研判显示,发起此类攻击的主体主要为具备明确商业诉求的机构,包括部分私营人工智能企业及研究组织。这些行为者试图通过技术手段快速获取行业先发优势。相关活动覆盖全球多个区域,但具体来源地与涉事实体尚未公开。
蒸馏攻击本是一种常规模型优化方法,即通过“教师-学生”架构将大型模型的知识迁移至轻量化模型中,以提升部署效率。但在此次事件中,攻击方将其异化为一种数据驱动的逆向分析手段:通过海量提问采集Gemini在不同输入条件下的响应内容、响应时长、置信分数等微观特征,逐步推演其决策边界与推理路径,并以此构建训练数据集,用于训练具备相似能力的替代模型。
谷歌强调,此类行为已超出技术探索范畴,实质构成对核心知识产权的侵害。尽管主流厂商普遍部署了识别与拦截蒸馏攻击的防护机制,但由于大型语言模型服务普遍面向公众开放,其交互接口在设计上天然存在被持续探测与利用的可能性,因此仍难以完全规避此类风险。
