时间:2026年7月19日。地点:世界人工智能大会(WAIC)论坛现场。高通公司全球副总裁、中国区研发负责人、IEEE Fellow徐晧博士,带来了一场题为《智能体AI时代:计算架构与模型效率的持续创新》的深度演讲。这场演讲摒弃了繁复的修饰,直击核心议题——端侧AI的未来,究竟蕴藏着多大的想象空间?
徐晧博士的观点鲜明而坚定:端侧AI应用的前景远超人们当前的预期。他系统性地阐述了智能体浪潮如何深刻重塑终端计算架构。一个关键数据足以说明问题:从手机的单轮对话,到多轮交互,再到智能体自动调度,设备所需的Token处理量正以十倍量级的规模激增——从一万、十万,直至百万级。这意味着,端云协同处理已不再是可选项,而是必由之路。

围绕这一趋势,高通正着力推进两件大事:其一,面向智能体AI打造新一代终端设备架构,专门应对持续运行的始终在线工作负载、不间断的传感器数据处理,以及系统级协同;其二,与面壁智能等生态伙伴持续深化端侧模型合作。这背后,是对整个计算架构底层逻辑的重新审视与重构。
以下是演讲全文——
很高兴能在此分享高通在端侧AI领域的硬件、软件、算法、系统开发以及生态合作方面的最新进展。
刚才那支视频,带我们快速回顾了手机终端使用方式的演变——从最初简单的交互,到如今支持智能体。实际上,能够运行智能体的终端品类远不止手机,从最小的智能耳机,到千瓦级的数据中心,高通多样化的硬件平台正在为这一整条智能终端光谱提供全面支撑。很早之前,我们就注意到面壁智能在端侧AI领域的布局,双方在多个方面高度契合。
接下来,我们来探讨为什么端侧如此重要。这里有一组简单的统计数据:不同终端的市场规模动辄达几十亿量级。目前大多数人将目光聚焦于数据中心的大规模训练,但端侧AI应用同样蕴藏着巨大的发展潜力。
从手机的使用场景来看,从简单的单轮对话,到多轮对话,再到运用智能体,所需Token量以十倍量级递增——从一万、十万,到百万级。例如,在手机端使用智能体或相关应用时,调用的Token数量非常庞大。现阶段,我们采用的是端云结合方案:端侧小模型负责处理隐私性强、需实时响应的任务,云端则负责深度推理与规划。未来,越来越多的模型处理将在端侧完成,以降低对数据传输和云端Token运算的依赖。
面壁智能的同事也提到,端侧模型在未来一到两年内,可以达到与几十倍算力的云端模型同等的功能水平。而且这一趋势正在加速,越来越多的大模型将迁移到端侧,以小模型的形式呈现。随着硬件算力持续提升,这些模型在端侧也将变得轻松可运行。
那么,从端侧硬件设计的角度来看,最重要的设计难点有哪些?
第一,打造智能体手机,需要出色的任务规划能力。我们通过全新的CPU来承担任务规划与控制。
第二,需要随时随地处理传感器信息。以前的手机,用户给出指令它才执行,不需要24小时判断你在做什么、需要什么。但智能体手机截然不同——它需要主动辅助你、告知你所需信息,并随时感知你的位置。例如,它感知到你身处大会现场,可以帮你自动静音;感知到你进入座舱,会自动调节你偏好的温度与座椅位置。这背后,依靠的是出色的低功耗传感器处理能力。传感器中枢会对大量传感器数据进行高效处理与融合,精确感知环境,为智能体提供决策依据。
第三,NPU提供强大的模型运算能力。我们会进行一系列模型适配与优化,充分利用NPU的高效张量计算能力,支持2B到3B量级模型在手机端侧的流畅运行。
第四,还需要出色的5G或6G连接能力。目前大部分智能体功能在云端运行,因为需要大量算力。但随着越来越多模型在端侧运行,需要端侧、云端与边缘云协同处理,出色的无线连接能力可以将端侧算力与云端算力无缝衔接。
接下来,看看高通如何提供最有效的硬件支持。首先是高通传感器中枢,它为智能体提供更多数据,24小时在线了解你的相关信息,为大语言模型或端侧模型的输入提供情境感知,打造个人知识图谱。另一方面,我们的NPU为端侧提供强劲算力,刚才提到的20亿、30亿参数mini CPM大模型,都能在端侧流畅运行。
这是高通最新旗舰移动平台——第五代骁龙8至尊版。今年,我们还会推出更强大的移动平台,以支持所有端侧运算。我们的座舱芯片同样具备强大算力,可支持更大规模模型,在车上稳定运行百亿以上参数的大模型。
从应用与模型的角度来看,我们已经完成了从最初的感知AI,到现在的生成式AI与智能体AI的迭代。下一阶段,我们将重点推进物理AI,实现从小模型向多功能大模型的转变。在算法方面,我们也进行了一系列模型在端侧的适配,例如模型压缩与量化、长上下文处理与增强,以及端侧模型的持续学习。
最后,是从车到机器人的演进过渡。一方面,需要将二维的规划升级为对三维真实世界的理解;另一方面,是针对更多、更复杂的应用场景进行优化与设计。这是我们从汽车芯片到机器人芯片领域需要开展的一系列开发工作。
高通与面壁智能在手机和车等方面已经开展了诸多深度合作。我们也非常期待,未来能联合面壁智能以及在座的各位合作伙伴,共同推动智能手机与多种智能终端在端侧AI领域的应用与发展。谢谢大家。
