近期科技领域传来一则引人关注的消息:苹果正在与AI初创公司PrismML洽谈合作,核心议题是如何在iPhone上实现更大规模AI模型的本地化运行。如果这一合作顺利推进,意味着智能手机未来或可摆脱对云端的依赖,独立运行过去难以想象的“大号”语言模型。这一方向若真正落地,将对端侧AI能力带来超乎预期的深远提升。
PrismML这家公司背景深厚——孵化于加州理工学院,专注于“模型轻量化”领域。其核心技术是一套原生1-bit模型压缩方案。通俗来说,传统大模型难以在手机上运行,主要原因是“过于臃肿”,而PrismML的技术可将模型体积压缩至原来的十四分之一,内存占用降低超过90%。这已不仅仅是“减肥”,而是近乎彻底的“瘦身”。
值得注意的是,PrismML采用的并非传统量化方法——并非将32位精度降至8位或4位,而是直接实现纯二值化:所有权重仅取−1和+1两个值,并辅以分组缩放因子完成运算。简单来说,他们在底层存储和推理逻辑上开辟了一条全新路径。业内虽有不少团队在探索类似方向,但能够实现可商用化且效果不降低的,实属罕见。

摒弃“高精度逃生通道”,精度逼近FP16基准
PrismML团队的技术路线选择颇具深意——他们明确表示彻底放弃了传统量化中的“作弊式”做法。所谓“高精度逃生通道”,本质上是指某些算法为维持整体性能而偷偷保留部分高精度权重,这仍是一种妥协。而PrismML的方案从一开始就声明:全程仅使用1-bit权重,不存在任何后门。关键在于,在如此极端的压缩下,模型精度竟然还能逼近FP16全精度基准。不仅如此,推理效率最高可提升8倍,功耗降低75%至80%。
这些数据在移动端场景下,意味着算力和能耗的瓶颈得到了显著缓解。
27B参数Qwen 3.6 已在iPhone 17 Pro端完成完整部署
最具说服力的当然不是宣传材料——PrismML已经完成了真正意义上的落地验证。他们利用自家1-bit方案,将阿里巴巴开源的那款270亿参数的大模型Qwen 3.6压缩后,直接部署到iPhone 17 Pro上,并成功实现了端到端推理。要知道,这类规模的模型在现有主流移动端方案下几乎无法运行。而经过PrismML处理后,不仅运行稳定,输出质量也高度接近原始模型。
仅凭这一点,就足以让苹果认真考虑将其整合到自身的AI战略中。毕竟对于苹果而言,终端侧AI能力的高低,直接决定了Apple Intelligence生态能否持续保持领先。
当前iPhone搭载的AI模型,在参数量和功能深度上仍受限于内存和电池的硬性约束。而PrismML的技术一旦投入商用,苹果完全有机会在不大幅增加硬件成本的前提下,直接在手机上运行更大规模的模型。这意味着什么?更复杂的多轮对话、更细腻的图像解析、以及智能体级别的任务协同——这些以往只能在云端完成的任务,未来或许真的能在指尖实现。
当旗舰级大模型真正扎根于掌中设备,整个端云AI之间的能力边界,或许就需重新定义了。
