微软近期一次性推出了三款全新的 Phi-3.5 系列 AI 模型,在多语言与多模态领域再次彰显了其技术实力。这三款模型分别为 Phi-3.5-mini-instruct、Phi-3.5-MoE-instruct 以及 Phi-3.5-vision-instruct,各自针对不同的应用场景进行了精准优化。
首先来看 Phi-3.5-mini-instruct。这款轻量级大语言模型参数规模仅为 3.8 亿,非常适合计算资源受限的环境。虽然体积小巧,但它支持高达 128k 的上下文长度,并针对指令执行能力进行了专项优化——无论是代码生成、数学推理还是逻辑解题,它都能胜任。在多语言处理和多轮对话等对比测试中,该模型的表现甚至不逊色于众多同级别的对手,真正实现了“小身材、大能量”。

接下来是 Phi-3.5-MoE,这款模型采用了创新的“专家混合”架构。它将多个专门化的小模型组合在一起,每个子模型负责处理特定类型的任务,整体参数量高达 419 亿。该模型同样支持 128k 上下文窗口,在代码编写、数学运算、多语言理解等多个维度的评测中表现相当突出。更令人瞩目的是,在 MMLU(大规模多任务语言理解)基准测试中,它竟然直接超越了 OpenAI 的 GPT-4o mini——这种以小博大的突破,确实令人振奋。

最后一款是 Phi-3.5-vision-instruct,主打多模态理解能力。它将文本与图像处理功能深度融合,能够执行图像理解、光学字符识别、图表分析、视频内容总结等复杂任务。同样具备 128k 的上下文窗口,在处理多帧视觉任务时显得游刃有余。
为了训练这三款模型,微软在数据投入方面毫不吝啬。其中,Mini Instruct 模型使用了 3.4 万亿个 token,在 512 块 H100-80G GPU 上持续训练了 10 天;Vision Instruct 模型则耗时 6 天,消耗了 5000 亿个 token;而 MoE 模型的训练最为“凶猛”,在 23 天内吞掉了高达 4.9 万亿个 token。总体来看,这组模型背后的算力成本相当可观。
值得特别指出的是,这三款 Phi-3.5 模型均采用 MIT 开源许可证发布。这一举措意味着开发者可以自由地使用、修改和分发代码,既延续了微软对开源社区的长期投入,也让更多团队能够将前沿的人工智能能力直接嵌入到自己的应用之中。对于广大开发者而言,这无疑是一个重大利好消息。
