7月18日，云天励飞在2026世界人工智能大会（WAIC）上公布了未来两年多AI推理芯片的路线图。核心举措是：计划推出三款芯片——DeepVerse100P、DeepVerse100D、DeepVerse100L，分别针对AI推理中的Prefill（预填充）、Decode（解码）和Decode FFN（前馈网络）环节的负载特征进行了专用优化。 这三款芯片并非各自独立运作，而是面向万卡级异构集群协同设计与部署。思路清晰：将不同推理阶段解耦，为每种负载配置更适配的芯片与算力资源，从而提升系统整体效率，持续降低Token生成成本。 先谈谈核心判断：大模型推理应用正在分化，不同类型应用对算力的需求差异日益显著。例如，通用AI助手（对话、知识问答）是一种模式，深度推理应用（复杂推理、编程）是另一种，而实时智能体系统（如Agentic Coding、多Agent协同）则属于完全不同的场景。 随着AI应用深入，单次任务的上下文长度、推理链路复杂度以及实时交互要求都在不断提高，对推理系统的吞吐量、延迟和成本提出了更严峻的挑战。对于大规模推理部署而言，峰值算力已难以单独反映系统效率。计算、访存、互联和系统调度等因素，共同决定了Token生成效率与成本。 再看大模型推理不同阶段的计算特征。Prefill阶段需要集中处理输入上下文，对计算能力要求很高；Decode阶段是逐Token生成，对内存带宽和数据访问效率更敏感。随着MoE（混合专家）等模型架构的发展，Decode阶段内部的Attention与FFN在计算、访存等方面也呈现出不同的资源需求。 针对这些变化，云天励飞计划推出三款云端大算力推理芯片，分别对应不同的优化方向。 DeepVerse100P面向百万级上下文Prefill场景。传统混部架构中，长上下文Prefill与Decode共享算力与带宽资源，容易造成资源抢占，影响Decode生成吞吐。专用芯片正是为了解决这一问题。 DeepVerse100D则面向Decode环节打造专用推理引擎，拥有数倍于主流芯片的内存带宽，支持1024卡Scale-up及光互联系统架构。通过按需建立光路直连，并根据任务动态重构光路，减少传统多跳电交换和静态组网中的排队、拥塞及中间转发开销，降低多节点通信阻塞和尾延迟，提高逐Token输出的稳定性。 DeepVerse100L面向Decode阶段计算密集型的FFN环节，采用3D Memory架构，比主流HBM大幅提升内存带宽，并通过低延迟芯片互联和激活数据快速传输，提高计算与通信的并行效率。 这三款芯片并非独立运行，而是协同面向万卡异构集群。 随着AI推理进入规模化部署阶段，芯片优化正从单颗性能提升，走向多芯协同和集群级效率优化。在万卡规模的推理集群中，系统效率并非单卡性能的简单叠加。不同推理负载对计算、内存和通信资源的需求差异很大，当Prefill与Decode、Attention与FFN共享同一套通用算力资源时，容易产生资源竞争。同时，随着集群规模扩大，通信阻塞、资源等待和尾延迟等问题也会进一步影响整体推理效率。 因此，提升Token生成效率，除了优化单颗芯片性能，还需要围绕芯片在集群中的协同，对推理过程中的计算、访存、互联和资源配置进行系统级设计。 基于DeepVerse100P、100D和100L，云天励飞计划推动三款芯片在万卡异构集群中的分离式部署与协同运行。按照Prefill、Decode和Decode FFN的不同负载特征，分别配置相应芯片和资源池，并通过高速互联形成协同运行的异构算力系统。 该方案围绕Token生成全过程进行系统优化。通过对不同推理阶段进行分离，降低不同负载之间的资源干扰，并根据实际需求配置计算、访存和通信资源，从而提升集群资源利用率和整体推理效率。从面向特定推理负载进行芯片优化，到不同芯片之间的协同，再到万卡级集群应用，云天励飞正将AI推理芯片的优化范围从单颗性能延伸至集群级效率。 面向“百亿Token一分钱”的长期目标，云天励飞的构想是：以三款芯片为核心，形成一套服务于大规模Token生成的“推理工厂”，通过芯片、互联、软件和系统的协同优化，提高算力产出效率，持续降低单位Token成本。 硬件异构程度和集群规模不断提升，对软件栈的要求也越来越高。模型能否快速完成适配、算子性能能否充分释放、不同硬件资源能否高效协同，这些直接影响DeepVerse芯片在大规模集群中的实际运行效率。 围绕DeepVerse芯片及其集群应用，云天励飞持续建设IFWA软件栈，覆盖AI模型开发、编程及系统等不同层级，为模型适配、算子优化、编译部署和软硬件协同提供软件支撑。 在兼容性方面，IFWA围绕Transformer主流架构，持续完善PyTorch ATen算子的适配和性能优化，并加强对vLLM、SGLang等主流推理框架的支持。通过兼容主流软件接口、复用成熟开源组件，降低模型向DeepVerse平台迁移和部署的成本。 在模型适配和开发效率方面，IFWA构建了覆盖模型量化、压缩、编译和部署的一站式自动化工具链，并引入AI Agent参与推理芯片适配和性能优化。此前，云天励飞已开源Houmao多Agent异构编程框架，由不同Agent协同完成模型开发、算子开发、性能优化和测试验证等任务，将部分依赖人工经验的芯片软件开发流程转化为自动执行、自动验证和持续优化，缩短新模型和新算子的适配周期。 与此同时，云天励飞还将成熟的Triton算子能力融入FlagOS，通过代码贡献、联合验证和社区复用，推动相关能力在国产AI软件生态中进一步共享，减少不同硬件平台在算子适配上的重复投入。 在云天励飞的规划中，IFWA并非一套封闭的软件体系，而是通过对主流模型、框架和开发工具的兼容，降低开发者的迁移和使用成本，缩短模型在DeepVerse平台上的部署周期，让国产算力更加便捷地进入实际应用。 降低Token生成成本，是一项系统工程。 从芯片架构、IP与EDA，到封装测试、系统互联、软件栈和算力平台，再到模型及应用，产业链不同环节的效率都会影响最终的Token生成成本。实现极致性价比的Token，需要产业链上下游共同参与。 今年5月，云天励飞联合30余家单位，共同签署了“1001计划”倡议。该计划围绕Token生成效率和成本，推动产业链上下游加强协同。通过更紧密的产业合作，让模型和应用需求更早反馈至芯片及系统设计环节，推动成熟软件能力加快复用，同时加速芯片在集群和实际场景中的验证与落地。 随着AI走向规模化应用，算力竞争正进一步转向对系统效率和单位Token成本的持续优化。芯片、软件、系统和应用之间的协同程度，将越来越直接地影响AI算力的实际价值。 以“百亿Token一分钱”为长期目标，云天励飞将持续推进芯片、系统、软件和产业生态协同创新，与更多生态伙伴共同提高Token性价比，推动国产AI算力从“能用”迈向“好用、易用、用得起”，为人工智能规模化应用提供更加高效、普惠的算力基础。