图片来源：PrismML

苹果公司始终致力于将大型人工智能模型集成到iPhone中，这不仅能降低云端计算成本，还能进一步强化用户隐私保护。然而，一家今年初才从隐身模式中亮相的初创企业近期取得了突破性进展：他们在iPhone上成功运行了迄今为止移动端规模最大的AI模型，实现了移动端大模型的新里程碑。

这家公司名为PrismML。他们宣称已将Qwen 3.6模型压缩至可在iPhone 17 Pro上直接运行，该模型参数规模高达270亿。参数如同大脑中的突触，决定了模型处理复杂数据的能力。相比之下，目前绝大多数手机端AI模型一次激活的参数仅几十亿级别。

当然，目前最大的AI模型参数已突破万亿级别，远非手机所能承载。但PrismML表示，其在iPhone上运行的模型已能胜任复杂对话、推理、完全自主的智能体任务，甚至包括编写代码。该开源模型将于下周开放下载。

这一里程碑此前未被公开报道，但它反映了整个行业的重大趋势：将人工智能从昂贵的数据中心服务器迁移至设备端本地运行。微软、亚马逊、Meta等科技巨头正投入数千亿美元竞相建设数据中心，唯恐落后于AI需求的爆发式增长。

苹果在这场数据中心军备竞赛中几乎处于旁观者姿态，反而极力推动将尽可能多的AI功能在iPhone上本地运行。苹果认为，设备端AI能够更好地兑现其用户隐私与安全的承诺。

PrismML首席执行官Babak Hassibi在一次采访中预测，绝大多数人工智能最终将在设备端处理。“想象一下，也许三年后，你所需的95%的智能功能都可以在本地完成——手机、笔记本、家用电器，真正需要云端处理的可能只有最后5%的高端内容。”他表示，“我认为业界正将这条路视为未来方向。”他补充道，将模型压缩至可在设备上运行，“从根本上改变了AI的经济模式”。

多家顶级AI投资者已认可这家初创公司的愿景。Khosla Ventures——OpenAI的首个风险投资方——在今年早些时候领投了PrismML的1625万美元种子轮融资。Khosla本人表示，PrismML提供了一种“根本性突破”，这正是他感兴趣的原因。“我们在2018年押注OpenAI时，赌的是Transformer模型，但构建AI还有哪些新方法？我们的团队一直在探索新路径。”

PrismML采用了一种数学技巧，将Qwen 3.6模型压缩至原始体积的极小部分。通常，模型缩小会导致性能下降，但该公司声称其技术不会影响模型性能。他们成功将Qwen 3.6的体积从约54GB压缩至不到4GB。

PrismML是一家由加州理工学院孵化的初创公司，Hassibi是该校电气工程学教授，他与联合创始人在学校完成了这项技术的数学研究。学校拥有相关专利，但已独家授权给PrismML。

PrismML计划继续将更大规模的AI模型进行压缩，甚至挑战万亿参数级别——这将进入OpenAI的GPT、Anthropic的Claude等前沿模型的领域。

这种方法尤其可能吸引苹果的注意。在苹果六月的全球开发者大会上，该公司宣布了基于Google Gemini模型的长期延迟的Siri改造。Siri中最先进的部分仍然非常庞大，以至于苹果需要借助运行在Google Cloud中的NVIDIA芯片。作为新Siri发布的一部分，苹果表示部分iPhone的AI功能将在设备上运行。苹果自己的本地模型拥有200亿参数，但采用稀疏架构，一次仅激活10亿到40亿参数。而PrismML的本地模型可实现270亿参数同时激活。

过去，苹果在本地模型方面曾遇到挑战。去年，苹果试图将内部AI模型缩小以适配iPhone，结果发现性能损失严重，据《The Information》报道。苹果目前也在寻求收购能够帮助在设备上运行更多AI的公司。熟悉谈判的人士透露，苹果已就如何使用PrismML的技术举行过会谈。

当然，在设备端实现AI还有其他技术路径。例如初创公司Argmax，专注于将AI部署在设备端处理语音和图像等任务，然后将处理后的信息发送至云端进行更复杂的推理。这种混合方法的一个重要原因是：云端的大模型仍在快速迭代，几乎每周都有更新。支持者认为，完全在设备上运行的AI无法享受到最新、最先进模型的好处，而这些模型都运行在云端。

参考来源：
https://www.theinformation.com/articles/khosla-backed-startup-claims-breakthrough-largest-ever-ai-model-iphone?rc=ji9vez