昨日(7月9日),科技媒体 The Information 披露消息:苹果正与一家名为 PrismML 的初创公司进行洽谈,核心目标十分明确——评估在 iPhone 上直接运行更大规模端侧 AI 模型的可行性。
这家 PrismML 背景深厚,是加州理工学院孵化的衍生企业。其核心优势在于一种原生 1-bit 模型压缩技术,能够将模型体积压缩至全精度版本的约 1/14,内存占用更是直接降低超过 90%。
具体而言,该技术中权重仅采用 {-1, +1} 两个离散值,并配合分组缩放因子来动态调整精度。需要强调的是,这并非传统的量化方案,官方宣称其不存在“高精度逃生通道”,即不依赖保留部分高精度位来弥补精度损失。更关键的是,该技术声称能在保持接近 FP16 模型精度的前提下,将推理速度提升最高达 8 倍,同时能耗降低 75% 至 80%。

值得关注的是,PrismML 已成功将阿里巴巴开源的 Qwen 3.6 模型(27B 参数)进行精简压缩,并在 iPhone 17 Pro 上完整运行。苹果看重的正是这种极致的量化能力——若该技术得以落地,本地 AI 推理性能将迎来质的飞跃。
