OpenAI 最近放出了一个新动作:推出一款名为 GPT-4o mini 的轻量级生成模型。相比旗舰级的 GPT-4o,这个 mini 版本在资源消耗和成本上都有明显优势,对开发者来说意味着可以把 AI 能力更广泛地嵌入到产品中。
这不仅仅是一次模型更新,更像是给开发者和应用场景的一次“松绑”。与此同时,ChatGPT 免费版的功能也得到了实质性的扩展——过去那些限制,正在一点点被打破。
从本周四开始,ChatGPT 免费版、Plus 版和团队版用户已经可以通过网页和应用程序直接使用 GPT-4o mini 了。企业用户要等到下周才能拿到访问权限。值得注意的是,GPT-4o mini 将正式取代原有的 GPT-3.5 Turbo 模型,面向所有终端用户开放。
当然,如果开发者暂时不想切换,依然可以通过 API 继续使用旧模型。OpenAI 表示,旧模型最终会被淘汰,但具体时间表还没公布——至少目前还有缓冲期。
回想一下,自今年5月起,免费 ChatGPT 账户就已经能用上 GPT-4o 了,只不过每三小时会有限次。这次更新后,GPT-4o 的限额依然存在,但当你用超时,模型会自动回退到 GPT-4o mini,而不是以前的 GPT-3.5。这个变化意味着:免费用户的体验上限被直接拉高了一大截。
从基准测试的表现来看,GPT-4o mini 在 MMLU 推理测试中拿到了 82% 的成绩,比 Google 的 Gemini 1.5 Flash 高出 3 个百分点,比 Anthropic 的 Claude 3 Haiku 高出 7 个百分点。性能上确实压了同级别竞品一头。
更关键的是成本。OpenAI 声称 GPT-4o mini 的运行成本比 GPT-3.5 Turbo 低了 60%。具体报价是:每百万输入 token 15 美分,每百万输出 token 60 美分。这个价位,让 OpenAI 自己有底气称它为“当今功能最强大、最具成本效益的小型模型”。
那么,这种成本节约是怎么实现的?说白了,不是所有 AI 任务都需要动用 GPT、Claude 或 Gemini 这种旗舰级大模型。就像用牛刀杀鸡,用大型语言模型去处理简单但高频的任务,既烧钱又浪费算力。而 Google 的 Gemini 1.5 Flash、Meta 的 Llama 3 8b、Anthropic 的 Claude 3 Haiku,以及现在 Open AI 的 GPT-4o mini,正是为这类场景设计的——更快、更便宜、更精准地处理那些重复性的简单任务。
最后补充几个硬参数:GPT-4o mini 的上下文窗口和旗舰版 GPT-4o 一样,达到了 128000 个 token——差不多是一本书的容量。知识截止日期是 2023 年 10 月。目前 API 支持文本和视觉功能,视频和音频支持会在未来陆续加上。从这些细节来看,这个 mini 版本并不“迷你”,该给的都给到位了。
