先说几个核心判断:针对Gemini 3.5在生产环境下的成本控制,许多人第一想到的就是换一个更便宜的模型。这确实可行,但未必是最明智的策略。更稳妥、也更显功力的做法,其实是先重新审视自己的提示词——在不牺牲模型核心能力的前提下,尽量减少不必要的Token消耗,这往往比直接换模型更具性价比。

动手之前,建议借助聚合平台将优化前后的Prompt分别推送给多个模型进行对比测试,快速摸清Token消耗的真实变化。这一步能帮你筛选出性价比最高的Prompt结构,避免走弯路。
方法一:系统指令与上下文的结构化精简
很多Prompt之所以冗长低效,很大程度上是因为充斥着冗余的客套用语,以及为了约束旧模型而添加的“防御性指令”。Gemini 3.5本身对指令的理解和遵循能力就很强,那些“请务必”“严格禁止”等低信息密度词汇,通常可以直接去除。
更关键的一步,是要把系统指令和用户提示词彻底区分开来。系统指令只保留三样内容:角色设定、全局输出格式、安全红线。用最简洁的陈述句将其固化下来——因为任何微小的改动都会导致缓存失效。至于任务背景、示例样本和动态约束条件,全部放到用户提示词中。这样既保证了核心指令的高可缓存性,又能灵活应对不同场景。
方法二:通过预处理降低多模态Token消耗
在多模态场景下,直接将超高分辨率的原始图片喂给模型,Token消耗会非常惊人。图片预处理是投入产出比极高的降本手段之一。
分辨率归一化:文档分析与OCR场景中,图片短边控制在1600px左右通常就够用;如果是图表和照片,1200px足矣。模型按像素量计费,控制分辨率是直接见效的方式。
格式与质量平衡:除非是专业摄影图,否则没必要使用无损PNG。将图片转为JPEG或WebP格式传输,文件体积能缩小数倍,但对视觉理解准确率的影响几乎可以忽略。
方法三:充分发挥Prompt Caching的潜力
上下文缓存是Gemini 3.5专门为高频重复Token提供的费用减免机制。要利用好这个机制,核心思路就是四个字:动静分离。
将角色的长篇设定、Few-shot示例等固定内容放在Prompt最开头,Gemini会自动识别并缓存。系统指令一旦确定,就尽量少做频繁改动。同时要避免在缓存段中插入“当前时间”“会话ID”等动态变量,将这些变量后置到用户消息中,确保核心指令的缓存能稳定命中。
方法四:长会话与Agent任务的上下文裁剪
在Agent链式调用或多轮对话中,历史信息会像滚雪球一样迅速膨胀。可以设定一个Token阈值:当历史记录超过阈值时,只保留最近的N轮完整对话,其余部分在后台交给更便宜的轻量模型进行极度压缩,用简短的摘要文本代替冗长的历史记录。
对于长流程的Agent任务,更彻底的做法是在关键节点总结出JSON格式的“中间结论或状态”,然后手动重置上下文,将该状态摘要作为新会话的第一条消息。这样一来,上下文长度就被牢牢限制在可控范围内。
