先说几个核心判断。苹果在 WWDC24 上正式揭晓了 Apple Intelligence,这一步棋走得相当扎实——它不只是展示了一个概念,而是从底层模型到上层应用,给出了一套完整的 AI 落地解决方案。具体来说,苹果这次推出的基础模型有两个:一个是在设备端运行的约 30 亿参数的语言模型,另一个是通过私有云计算、跑在苹果自家芯片服务器上的云端大模型。

30 亿参数,听起来并不算大,但苹果的调校功力全在里面了。根据官方公布的数据,这个本地模型在多项测试中的得分,甚至超过了 Mistral-7B、Gemma-7B 这类 70 亿参数的开源模型。具体到日常使用场景,这些模型经过精细调校,能够处理文字撰写与润色、通知的优先级排序与摘要,甚至帮用户在与家人朋友的对话中生成有趣的图像——更重要的是,它们能在不同应用之间自动协调,简化跨应用的操作流程。

有意思的是训练部分。苹果选择在自家的 AXLearn 框架上训练这些基础模型——这个框架其实是苹果 2023 年才开源的项目,底层构建在 JAX 和 XLA 之上。这样做的好处很明显:无论是 TPU 还是云端的 GPU,甚至苹果自己的硬件,都能灵活地扩展训练规模。换句话说,苹果在训练基础设施上已经完成了从“能用”到“高效”的切换。
隐私方面,苹果的承诺很直接:训练基础模型时不使用用户的私人数据或交互记录。不仅如此,他们还部署了过滤器,专门剔除互联网上公开的个人身份信息,比如社保号、信用卡号。脏话和低质量内容也被一并过滤掉。更具体一点,这套流程还包括数据提取、去重,以及基于模型的分类器来识别高质量文档。这些细节很关键——在 AI 隐私保护普遍被质疑的今天,苹果的做法明显是要在源头建立起信任。





优化层面,设备端和服务器端模型都采用了 grouped-query-attention 架构。设备端模型的词汇量是 49K,而服务器端模型则提升到 100K,额外支持更多语言和技术标记。真正让人眼前一亮的是实际性能:在 iPhone 15 Pro 上,每个 prompt token 的首 token 延迟只有约 0.6 毫秒,后续生成速率能达到每秒 30 个 token——这个数据说明,苹果在模型推理效率上确实下了大功夫。
评测数据也很有意思。在 IFEval(指令跟踪评估)测试中,苹果的本地模型表现超过了 Phi-3-mini、Mistral-7B、Gemma-7B,甚至不输 DBRX-Instruct、Mixtral-8x22B 和 GPT-3.5-Turbo。而云端版本的表现,基本与 GPT-4-Turbo 持平。必须说,这个成绩放在端侧和云端联合部署的框架里,相当有竞争力。
话说到头,什么时候能用上?苹果的计划是今年夏天在 iOS 18、iPadOS 18 和 macOS Sequoia 的测试版中率先开放,今年秋季以测试版形式向公众推出。不过部分功能、更多语言和平台支持,得等到明年。Apple Intelligence 可以免费使用,但设备有门槛:需要 A17 Pro 芯片或任何 M 系列芯片。也就是说,iPhone 上目前只有 15 Pro 和 15 Pro Max 能用,即将到来的 iPhone 16 系列自然也包括在内。Mac 这边需要 M1 或更高版本,iPad 则是 M1 芯片起步的 Pro 或 Air。
