先从一条令人关注的消息说起。科技媒体The Information爆料称,苹果正在与一家名为PrismML的AI初创公司展开洽谈,核心目标非常明确:在iPhone上直接运行更大规模的AI模型。如果这一合作最终落地,意味着端侧AI的能力或许将迎来一次质的飞跃——原本需要依赖云端算力才能支撑的大型语言模型,未来可能只需在你的口袋里就能轻松运转。
PrismML究竟是何方神圣?
这家公司诞生于加州理工学院,掌握着一项硬核技术:原生1-bit模型压缩。听起来可能有些抽象,但它的实际效果相当惊人——能将模型体积压缩至全精度版本的约十四分之一,内存占用直降90%以上。传统的量化方法,说白了就是把高精度数值降低精度,但权重仍需用多个比特来表示。而PrismML的做法更为激进:权重只使用负1和正1两个值,并配合分组缩放因子完成计算。这相当于从底层架构上重新设计了模型的存储与推理方式。

没有“高精度逃生通道”,精度却媲美原版
许多量化方案都会给自己留一条后路——在关键层保留高精度以弥补性能损失。而PrismML宣称,他们的技术完全没有这种“逃生通道”,全程采用1-bit权重,却能保持接近FP16模型的精度水平。更令人惊艳的是,推理速度最高可提升8倍,能耗降低75%到80%。这两组数字叠加在一起,意味着什么?意味着在不牺牲模型质量的前提下,手机端运行大型AI模型所需的算力与电量门槛,被大幅拉低。
27B参数的Qwen 3.6已在iPhone上成功运行
空谈技术当然不够,实战数据才是硬道理。PrismML将阿里巴巴开源的27B参数大模型Qwen 3.6进行了压缩,随后成功在iPhone 17 Pro上完整运行。27B参数规模的模型,按传统方案几乎不可能在手机端流畅运行,但经过他们的1-bit压缩后,不仅跑起来了,推理质量还接近原版。苹果看中的正是这一点——他们希望利用这套压缩技术,让本地AI模型的推理能力再上一个台阶。
对苹果而言,端侧AI能力直接决定了Apple Intelligence生态的竞争力。目前iPhone上的AI模型规模和功能,很大程度上受限于内存与功耗。如果PrismML的技术能够顺利落地,iPhone就能在不增加硬件成本的前提下,运行更大规模的模型,实现更复杂的多轮对话、图像理解,甚至智能体任务编排。当手机端也能跑起旗舰级大模型,端侧AI与云端AI之间的实力天平,恐怕就要重新校准了。
