OpenAI 刚刚正式宣布,全新旗舰级模型 GPT-4o mini 已全面登陆 Azure AI 平台。现阶段率先开放文本处理能力,图像、音频与视频功能将在后续版本中逐步支持。对于开发者而言,这无疑是一项重大利好——毕竟,成本更低、响应更快的智能模型,谁不期待呢?

先来看硬核指标。GPT-4o mini 在大规模多任务语言理解(MMLU)测试中取得了 82% 的分数,而上一代 GPT-3.5 Turbo 仅为 70%。不仅智能水平显著提升,价格反而降低了 60% 以上。这相当于用更少的预算,请到了更出色的助手。该模型还支持 128K 的扩展上下文窗口,并继承了 GPT-4o 改进后的多语言处理能力。如果你迫不及待想体验,Azure OpenAI Studio 的 Playground 已开放免费试用。
微软在 Azure AI 上为 GPT-4o mini 内置了默认安全机制,同时扩展了数据驻留管控与服务可用性。在实际使用中,尤其是在助手、代码解释器以及检索等流式处理场景下,性能和功能表现更为出色。换句话说,那些对实时性要求较高的应用,终于拥有了更趁手的工具。
值得关注的是,Azure AI 此次为 GPT-4o mini 推出了全球随用随付的计费模式,并提供了最高吞吐量限制。客户按实际消耗的资源付费,流量在全球范围内路由以保障更高的吞吐量,同时数据存储位置可静态控制。这个全球随用随付部署选项,每分钟可提供 1500 万个 token(TPM)的吞吐量,并承诺 99.99% 的可用性——与 OpenAI 自身的行业速率保持一致。
GPT-4o mini 本月还将登陆 Azure AI 的 Batch 服务。Batch 利用非高峰容量,以 50% 的折扣在 24 小时内交付高吞吐量作业。这种模式只有微软能在 Azure AI 上实现,因为他们有能力将非高峰容量让利给客户。对于预算敏感且需要大批量推理的场景来说,这简直是福音。
更值得期待的是,本月微软 Azure AI 还将推出 GPT-4o mini 的微调功能。客户可以根据自身具体的用例和场景,进一步定制模型。继上个月改为基于 token 的培训计费之后,微软将托管费用降低了 43%。再加上模型本身低廉的推理价格,Azure OpenAI 服务的微调部署,对于生产工作负载的客户而言,性价比已经达到了最高水平。
