在2024年WWDC大会上,苹果正式揭晓了其AI战略方案Apple Intelligence,并计划将其深度集成到iOS 18、iPadOS 18和macOS Sequoia中。Apple Intelligence依托生成式模型提升用户体验,其背后依赖两个自主开发的AI模型:一个搭载30亿参数的设备端模型,以及一个更庞大的云端LLM,由专用服务器资源处理更多复杂查询。这个云端服务器基础设施,就是今天要深入介绍的私有云计算节点(PCC)。

一、苹果AI服务器的软硬件组成
1. 硬件:基于自研芯片的定制化服务器
- 苹果将AI服务器命名为私有云计算节点(PCC),这是基于定制化服务器硬件构建的基础设施。
- 这是苹果芯片首次规模化部署于数据中心,完全采用苹果自研芯片(如M系列)打造,实现了从终端到云端的统一架构。
2. 软件:专为LLM推理定制的强化子集系统
- PCC并未搭载任何消费级系统(如macOS或iOS),而是基于iOS和macOS构建了一个强化子集系统,专门用于支撑大语言模型(LLM)的推理任务。
- 由于硬件架构的一致性,苹果在设备端AI与AI服务器之间实现了高度协同,确保模型在不同设备上表现稳定且高效。
3. 训练与推理分离
- PCC仅用于推理(即处理用户请求并生成回答),不承担模型训练任务。
- 在预训练阶段,苹果依然采用云端的TPU(谷歌张量处理单元)和GPU资源。这表明苹果在训练阶段选择了与谷歌合作。
- 原因很简单:谷歌是TensorFlow的开发者,许多基于TensorFlow开发的ML模型在TPU上训练效率极高。但苹果的软件栈并不锁定单一云服务商,未来可扩展运行在其他平台上。
