游乐游手机版
首页/业界动态/文章详情

高通徐晧在WAIC端侧AI论坛谈智能体需求推动计算架构创新

时间:2026-07-26 12:56
高通徐晧在WAIC端侧AI论坛指出,智能体需求推动终端计算架构革新,Token处理量从万级增至百万级,端云协同成为必选项。高通正打造面向智能体的设备架构,并与面壁智能深化端侧模型合作,以应对持续运行、传感器处理等挑战。

时间:2026年7月19日。地点:世界人工智能大会(WAIC)论坛现场。高通公司全球副总裁、中国区研发负责人、IEEE Fellow徐晧博士,带来了一场题为《智能体AI时代:计算架构与模型效率的持续创新》的深度演讲。这场演讲摒弃了繁复的修饰,直击核心议题——端侧AI的未来,究竟蕴藏着多大的想象空间?

徐晧博士的观点鲜明而坚定:端侧AI应用的前景远超人们当前的预期。他系统性地阐述了智能体浪潮如何深刻重塑终端计算架构。一个关键数据足以说明问题:从手机的单轮对话,到多轮交互,再到智能体自动调度,设备所需的Token处理量正以十倍量级的规模激增——从一万、十万,直至百万级。这意味着,端云协同处理已不再是可选项,而是必由之路。

高通徐晧亮相WAIC端侧AI论坛:从智能体需求出发,持续推动计算架构创新

围绕这一趋势,高通正着力推进两件大事:其一,面向智能体AI打造新一代终端设备架构,专门应对持续运行的始终在线工作负载、不间断的传感器数据处理,以及系统级协同;其二,与面壁智能等生态伙伴持续深化端侧模型合作。这背后,是对整个计算架构底层逻辑的重新审视与重构。

以下是演讲全文——

很高兴能在此分享高通在端侧AI领域的硬件、软件、算法、系统开发以及生态合作方面的最新进展。

刚才那支视频,带我们快速回顾了手机终端使用方式的演变——从最初简单的交互,到如今支持智能体。实际上,能够运行智能体的终端品类远不止手机,从最小的智能耳机,到千瓦级的数据中心,高通多样化的硬件平台正在为这一整条智能终端光谱提供全面支撑。很早之前,我们就注意到面壁智能在端侧AI领域的布局,双方在多个方面高度契合。

接下来,我们来探讨为什么端侧如此重要。这里有一组简单的统计数据:不同终端的市场规模动辄达几十亿量级。目前大多数人将目光聚焦于数据中心的大规模训练,但端侧AI应用同样蕴藏着巨大的发展潜力。

从手机的使用场景来看,从简单的单轮对话,到多轮对话,再到运用智能体,所需Token量以十倍量级递增——从一万、十万,到百万级。例如,在手机端使用智能体或相关应用时,调用的Token数量非常庞大。现阶段,我们采用的是端云结合方案:端侧小模型负责处理隐私性强、需实时响应的任务,云端则负责深度推理与规划。未来,越来越多的模型处理将在端侧完成,以降低对数据传输和云端Token运算的依赖。

面壁智能的同事也提到,端侧模型在未来一到两年内,可以达到与几十倍算力的云端模型同等的功能水平。而且这一趋势正在加速,越来越多的大模型将迁移到端侧,以小模型的形式呈现。随着硬件算力持续提升,这些模型在端侧也将变得轻松可运行。

那么,从端侧硬件设计的角度来看,最重要的设计难点有哪些?

第一,打造智能体手机,需要出色的任务规划能力。我们通过全新的CPU来承担任务规划与控制。

第二,需要随时随地处理传感器信息。以前的手机,用户给出指令它才执行,不需要24小时判断你在做什么、需要什么。但智能体手机截然不同——它需要主动辅助你、告知你所需信息,并随时感知你的位置。例如,它感知到你身处大会现场,可以帮你自动静音;感知到你进入座舱,会自动调节你偏好的温度与座椅位置。这背后,依靠的是出色的低功耗传感器处理能力。传感器中枢会对大量传感器数据进行高效处理与融合,精确感知环境,为智能体提供决策依据。

第三,NPU提供强大的模型运算能力。我们会进行一系列模型适配与优化,充分利用NPU的高效张量计算能力,支持2B到3B量级模型在手机端侧的流畅运行。

第四,还需要出色的5G或6G连接能力。目前大部分智能体功能在云端运行,因为需要大量算力。但随着越来越多模型在端侧运行,需要端侧、云端与边缘云协同处理,出色的无线连接能力可以将端侧算力与云端算力无缝衔接。

接下来,看看高通如何提供最有效的硬件支持。首先是高通传感器中枢,它为智能体提供更多数据,24小时在线了解你的相关信息,为大语言模型或端侧模型的输入提供情境感知,打造个人知识图谱。另一方面,我们的NPU为端侧提供强劲算力,刚才提到的20亿、30亿参数mini CPM大模型,都能在端侧流畅运行。

这是高通最新旗舰移动平台——第五代骁龙8至尊版。今年,我们还会推出更强大的移动平台,以支持所有端侧运算。我们的座舱芯片同样具备强大算力,可支持更大规模模型,在车上稳定运行百亿以上参数的大模型。

从应用与模型的角度来看,我们已经完成了从最初的感知AI,到现在的生成式AI与智能体AI的迭代。下一阶段,我们将重点推进物理AI,实现从小模型向多功能大模型的转变。在算法方面,我们也进行了一系列模型在端侧的适配,例如模型压缩与量化、长上下文处理与增强,以及端侧模型的持续学习。

最后,是从车到机器人的演进过渡。一方面,需要将二维的规划升级为对三维真实世界的理解;另一方面,是针对更多、更复杂的应用场景进行优化与设计。这是我们从汽车芯片到机器人芯片领域需要开展的一系列开发工作。

高通与面壁智能在手机和车等方面已经开展了诸多深度合作。我们也非常期待,未来能联合面壁智能以及在座的各位合作伙伴,共同推动智能手机与多种智能终端在端侧AI领域的应用与发展。谢谢大家。

来源:https://www.leiphone.com/category/chips/dX9rUFVHGEWJz4yQ.html
上一篇WAIC2026卡奥斯工业本体图谱筑基与大小模型协同让AI更可信 下一篇盒马员工三伏天店外扒盒饭 官方回应优化调整
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
台式机加装固态硬盘怎么选?三星9100 PRO深度解析
业界动态 · 2026-09-01

台式机加装固态硬盘怎么选?三星9100 PRO深度解析

台式机升级存储常受限于系统启动慢、游戏加载卡顿与大文件传输延迟。本文基于三星9100 PRO的PCIe 5 0架构、14800MB s读取、13400MB s写入、2200K 2600K IOPS、1TB~8TB容量、第八代V-NAND与5nm主控、镍涂层散热与DTG技术、散热片版适配及魔术师软件,提供选购判断与安装兼容性要点,帮助读者评估是否值得一步到位升级。

宁德时代2026年中期分红61.8亿元,同比增35%,创历史新高
业界动态 · 2026-09-01

宁德时代2026年中期分红61.8亿元,同比增35%,创历史新高

宁德时代发布2026年中期分红方案,总额达61 8亿元,同比增长35%。本文梳理分红具体安排、历史对比、业绩支撑及分红机制,帮助投资者评估公司现金流实力与股东回报策略。

企业硬盘报废销毁合规指南:如何选择专业机构与处理流程
业界动态 · 2026-08-31

企业硬盘报废销毁合规指南:如何选择专业机构与处理流程

企业硬盘报废面临数据复原与合规风险,需选择具备资质且流程透明的专业机构。本文解析行业乱象,介绍以团体标准为核心的合规销毁流程,涵盖上门收运、消磁粉碎、视频溯源及尾料处置,帮助企业规避泄密责任,确保数据安全闭环。

机密文件销毁找什么机构?认准团标参编与资质合规
业界动态 · 2026-08-31

机密文件销毁找什么机构?认准团标参编与资质合规

机密文件销毁找什么机构?核心在于甄别服务商是否具备正规保密资质及是否参与行业标准制定。本文解析《商业秘密及敏感信息载体销毁通用规范》团标要求,提供筛选销毁机构的实操指南,帮助企业规避数据泄露风险,确保销毁流程合规可溯。

影石Insta360 X6全球首销登顶:8K全景画质与AI创作功能解析
业界动态 · 2026-08-31

影石Insta360 X6全球首销登顶:8K全景画质与AI创作功能解析

影石Insta360 X6全球同步发售即登顶国内外主流平台销量榜首。本文解析其搭载的索尼定制方形大底传感器、4nm AI三芯架构及8K50fps画质,详解3D时光舱、AI导演等独家功能,探讨全景相机从专业工具向大众智能创作设备的演进趋势。