在刚刚落幕的WAIC 2026上，云天励飞重磅发布了AI推理基础设施路线图，正式宣告从单一芯片供应商向系统级AI推理基础设施构建者转型。这一举措标志着国产推理算力的竞争已全面进入拼系统能力的新阶段。

该路线图涵盖三款云端大算力推理芯片——DeepVerse100P、DeepVerse100D、DeepVerse100L，以及基于这三款芯片打造的面向万卡异构集群的分离式AI推理基础设施，还有贯穿全链路的IFWA软件栈。芯片、集群、软件三位一体，共同构成完整的算力体系。

从本届WAIC释放的信号来看，AI产业落地趋势愈发清晰：AI不再仅是聊天对话机器人，能够自主执行多任务的智能体正成为企业标配；端云协同、端侧大模型正大规模落地；而算力竞争的重心已从单点性能比拼转向芯片、集群、软件协同的全栈系统能力较量。

应用端的变化让业界对AI算力的关注高度聚焦到两个关键指标：token生成效率与单位token成本。正是在这一背景下，云天励飞提出“百亿token一分钱”的长期目标，这实际上也是当前整个AI算力产业的普遍共识。

一、三款推理芯片+万卡异构集群，云天励飞勾勒AI推理底座新蓝图

大模型进入规模化落地阶段，行业竞争重心已从单芯片峰值算力转向集群端到端的推理效能。从云天励飞的最新布局中，可以清晰看到这种竞争逻辑的转变，它正在改变国产AI芯片的突围路径。

首先看底层芯片。云天励飞针对未来两年AI推理需求，推出三款云端大算力推理芯片：DeepVerse100P、DeepVerse100D、DeepVerse100L。

这三款芯片的定位极具针对性——它们分别针对大模型推理过程中不同场景进行专项优化。为何如此设计？因为随着百万上下文大模型落地，长文档解析、企业RAG、AI智能体、代码仓库检索等业务日益普及，这些应用放大了大模型推理中Prefill（预填充）与Decode（解码）两个阶段的资源矛盾。在传统混部架构下，两个阶段共享算力和带宽，容易发生资源抢占，相互拖累。

因此，云天励飞的方案是让芯片各司其职：DeepVerse100P专为百万级上下文的Prefill场景设计，针对传统混部架构中长上下文Prefill与Decode共享资源导致的抢占问题进行优化，减少对Decode生成吞吐的影响；DeepVerse100D面向Decode环节，重点提升内存带宽和互联效率，降低多节点通信阻塞和尾延迟；DeepVerse100L面向Decode阶段计算密集型的FFN环节，采用3D Memory架构，内存带宽超越主流HBM，同时通过低延迟芯片互联和快速传输激活数据，提升计算与通信的并行效率。

芯片只是第一步，接下来是推理基础设施。芯片能解决单节点、单硬件层面的性能瓶颈，但放到万卡规模的集群中，还要面对更复杂的系统性工程挑战。集群规模越大，跨节点通信堵塞、异构算力资源相互等待、推理尾延迟持续抬升等问题就越突出。

基于这一判断，云天励飞计划通过上述三款芯片构建面向万卡异构集群的分离式AI推理基础设施。这套基础设施的思路非常清晰：遵循大模型推理不同阶段的负载特性，配置相应芯片和资源池，通过高速互联实现协同运行。优化边界从单颗芯片向外延伸，覆盖计算、访存、互联、集群调度、推理软件栈全系统环节。

芯片和系统之外，软件栈也是关键一环。云天励飞打造的IFWA软件栈覆盖模型开发、编程及系统等不同层级，为模型适配、算子优化、编译部署和软硬件协同提供支持。

从芯片到万卡异构集群，再到软件栈，云天励飞的AI推理基础设施蓝图已全面成型。

二、专为AI推理负载优化，预计整体性能达到国际一流水平

在大模型真实推理场景中，持续稳定的能效输出已成为商业化落地推理算力的核心标尺。

随着各类AI应用规模化落地，不同硬件方案之间的token生成成本差距持续拉大。能否持续压降海量token的生成成本、拉升token吞吐效率，已成为行业核心竞争命题。在今年的GTC大会上，英伟达创始人黄仁勋公开表示，基于极致协同设计，下一代Rubin+LPX方案在每兆瓦的tokens吞吐上相比Blackwell提升了2倍以上，尤其是在高价值低延迟场景，提升高达35倍，从而在全球获得最低的TCO token成本。

反观云天励飞的DeepVerse100整套方案，虽然受限于芯片工艺代差，在免费token生成场景中，每兆瓦的tokens吞吐略低于Blackwell，但在生产力级别的tokens生成场景，尤其是高价值低延迟场景，每兆瓦的吞吐已直追Rubin+LPX。其tokens成本竞争力超越英伟达Blackwell架构，逼近Rubin+LPX。无论是免费闲聊、日常通用对话，还是付费专业内容生产等高负载场景，它与英伟达新一代算力平台Rubin+LPX的性能差距正在持续收窄。

云天励飞在AI推理算力的布局，直指推理赛道的终极考题：面对多元交互负载场景，提供稳定、高效的规模化token生成方案。

如今，推理算力需求暴涨的势头已不可阻挡。AI应用从基础通用问答，逐步延伸到深度逻辑推理、编程、智能体自主执行乃至多智能体协同作业，推理任务承载的上下文窗口长度、单次生成token总量、用户实时交互并发频率同步攀升。

而大模型推理环节的Prefill与Decode两个阶段，资源消耗逻辑截然不同。Prefill阶段是算力密集型负载，需集中处理输入上下文；Decode阶段是访存密集型负载，以逐token方式生成内容。这意味着，单纯堆峰值算力的硬件方案在真实业务中会出现大量算力闲置，资源利用率极低。

因此，一套全新的算力评价标尺正在取代单一的峰值性能指标。如今算力的价值，不再只看峰值性能有多高，而是每一度电、每一块芯片能够产出多少有效token。计算能力、内存带宽、芯片互联、集群调度、软件适配和资源利用率，均会影响这一结果。

云天励飞此次发布的AI推理路线图，核心逻辑就是围绕token生成全过程，对芯片、互联、软件和系统进行协同设计，通过更精细的资源配置，提高推理系统的整体效率。

三、AI算力走向生态之争，云天励飞发起开放产业联盟倡议

顺应AI行业的降本刚需，云天励飞给出了一套长期落地方案，将“百亿token一分钱”作为目标，通过持续压缩单token的运营开销，无限趋近算力成本的最优极限。

但要持续压低token成本，仅靠一家企业单打独斗行不通。只有拉动全产业链协同优化，才能找到兼顾效率与成本的最优解。

随着AI大规模在千行百业落地，模型厂商、芯片企业、AI应用端企业之间的壁垒正在加速消融，模算协同、软硬共生已成为常态。产业上下游玩家在研发过程中，如果模型开发不考量芯片的存储带宽，芯片设计不贴合真实推理负载，技术研发脱离线下业务场景，最终结果就是硬件利用率不足、落地成本居高不下，大量算力资源被无端浪费。

可以这么说，脱离硬件适配的模型是空谈，缺少模型调校的芯片难发挥实力，没有真实场景持续反哺的技术走不通商业闭环。上下游绑定共生，已是必然选择。

面对产业协同的刚需与token降本的长期目标，云天励飞同步发起“1001计划”，联动芯片设计、IP与EDA、封装测试、服务器与互联、软件栈、算力平台、模型、应用及科研机构等全链条主体。其目标是通过这一计划建立长期生态合作机制，推动产业链各方围绕共同技术标准、软件适配、场景验证和产业应用，形成更加紧密的协作。

AI产业的竞争核心，已与整条产业链的协同效率息息相关。在国产AI芯片重要性日益提升的背景下，AI产业上下游的芯片、软件、模型、应用玩家，正在加速协同形成正向循环，最终实现AI算力的普惠，加速AI的规模化落地。

结语：AI算力竞争焦点变了——国产AI算力给出推理降本终极方案

云天励飞的整套AI推理基础设施，目标非常明确：破解算力资源错配、有效算力利用率不足等行业痛点，通过软硬件协同持续优化单位token成本。

推理普惠的竞争日益激烈，当通用算力难以适配碎片化的推理负载，由分层芯片、异构集群、原生软件栈组成的全栈方案，或许正是穿越周期的解题思路。