推理时代，AI算力的竞争焦点正在从单颗芯片的峰值性能，转向Token的生成效率。
“GPU包打天下的时代，确实已经翻篇了。推理时代对算力的需求远比训练复杂，业界一个越来越清晰的共识是：GPNPU，将成为这个时代的黄金标准。”
AI大推理时代已经到来，旧有的衡量尺度正在失效，从模型到芯片，各个环节都在探索新的范式。7月18日，云天励飞董事长兼CEO陈宁在2026世界人工智能大会（WAIC）的一场论坛主题演讲中，分享了自己对芯片发展方向的最新判断。
他的核心逻辑是这样的：2012到2025年是AI训练的黄金年代，那时候模型和芯片都憋着劲“做大做强”，NPU曾与小模型共同起舞，而具备超大规模并行计算单元的GPGPU则最终在大模型潮起之际唱上了主角。但推理和训练是两码事，推理面向的是大量不同的模型、应用和服务等级，核心需求在于能否覆盖多场景，并实现高吞吐、低成本。
面对如此复杂的需求，是否还能找到一种通用的解法？
陈宁给出的答案就是GPNPU——融合NPU、GPGPU以及近存计算和算力积木，在保持高性能、灵活性的基础上挖掘效率、降低时延，并为大规模互联、算力扩展打下基础。
他进一步指出，在推理时代，AI算力的竞争会从单颗芯片性能走向Token生成效率，想要打造极致的Token性价比，除了新的推理芯片，更需要重构AI基础设施。
今年WAIC上，云天励飞也正式公布了面向AI推理芯片与集群的技术路线图，并披露计划未来推出三款云端大算力推理芯片：DeepVerse100P、DeepVerse100D和DeepVerse100L。这三款芯片分别针对不同推理环节进行专用优化，并共同提升系统效率。根据规划，云天励飞将进一步探索面向万卡异构集群的分离式推理芯片与集群方案，并持续完善IFWA软件栈。
资料显示，云天励飞成立于2014年，是国内最早探索AI推理芯片的企业。2023年，公司登陆科创板，成为“AI推理芯片第一股”。
陈宁在WAIC期间介绍称，公司一直坚定聚焦AI推理，坚持芯片算法化的技术主线，早在2024年就率先开始布局第五代GPNPU架构，定位是以GPNPU为核心架构，以Token性价比作为最终评价尺度，推动AI推理芯片、集群与配套软件栈协同优化。
他还表示，公司将持续联合产业链、科研机构及生态伙伴共同发起“1001计划”，以“百亿Token一分钱”为长期目标，推动Token生成效率和成本的协同优化，让AI算力走向规模化、普惠化应用。
推理时代需要什么样的芯片？
就连芯片巨头，也在忙着卸下思维惯性的包袱。
英伟达就是最佳例证。在AI训练时代，Hopper、Blackwell都是在单颗芯片的性能上做文章。但迭代到今年年中刚刚全面启动量产的Vera Rubin时，英伟达在这套架构中“塞”了7颗不同芯片，除了CPU、GPU等，还包括从推理芯片厂商Groq处获取的LPU，而LPU实际上也是NPU的一种，主打超低延迟的推理场景。知名半导体研究机构SemiAnalysis就曾分析称，英伟达在新产品中集成LPU旨在战略互补，补齐推理短板，是具有时代指标性质的关键战略举措。
实际上，另一家GPU巨头AMD也在探索系统集成的路线。可以说，以往重要的是让一颗芯片像一支队伍一样强大，而如今重要的则是如何把不同芯片真的捏合成一支队伍协同发力。
在推理芯片领域，云天励飞也给出了类似的解题思路。
以其最新公布的三款芯片为例，它们分别针对Prefill、Decode和Decode FFN环节进行了专用优化，又最终组成一个推理集群。
具体拆解来看，Prefill和Decode是推理的两大关键环节。前者主要是跑大量文本，对计算能力要求高；后者则是利用这些数据生成Token，内存带宽和数据访问效率更敏感。在MoE模型中，Decode中的“访存密集型”任务Attention容易被带宽卡住，而“计算密集型”任务FFN则对算力更敏感。
资料显示，DeepVerse100P是面向百万级上下文Prefill场景打造的产品，针对Prefill和Decode“抢资源”的“老毛病”进行了优化，主要用在企业级AI Coding、长视频生成等场景。
第二款DeepVerse100D则主要面向Decode环节，重点提升内存带宽和互联效率，降低多节点通信阻塞及尾延迟，主要面向大规模的AI Chat和Agent应用，以及一些更加复杂的AI Coding任务。
第三款DeepVerse100L聚焦FFN环节，用3D Memory架构大幅提升内存带宽，并通过低延迟芯片互联和激活数据快速传输，提高计算与通信的并行效率，计划应用在更加复杂的长周期Agent任务中，也被寄望于支持未来能自主化的Agent。
这三款针对性优化的芯片，最佳用法则是共同组成推理集群、多卡超节点，通过集群服务更多样化、大规模的场景，并打造极致性价比的推理工厂，共同构建面向万卡异构集群的分离式AI推理基础设施。
AI价值落地，Token经济起飞
今年的WAIC上，几乎所有人都在谈论Token，几乎所有关切，都指向AI如何落地兑现经济价值。
但花样翻新的应用尝试和层出不穷的商业探索，往往都会碰上共同的瓶颈：Token的价格太高，让AI在垂直产业的落地难以凸显经济效益。
高价Token的背后，一方面是AI Coding和Agent的火爆，让推理需求迅速膨胀，另一方面则是供给侧算力增长有限，跟不上需求增速。更值得注意的是，这不仅导致了Token价格的震荡，还引发了Token质量的波动，甚至出现了“钱越花越多，买到的Token质量却越来越差”的问题。不少专家认为，Token服务如果继续“野蛮生长”，将极大影响市场环境，让消费者、需求方对Token经济产生负面情绪。
无论从供需还是从质量来看，这个时代都在呼唤新的算力基础设施。
陈宁也将之视为云天励飞做AI推理基础设施的重要意义。此次云天励飞发布的推理芯片与集群规划显示，该方案设施将按照不同推理环节的负载特征，配置相应芯片和资源池，并通过高速互联实现协同运行。其优化范围由单颗芯片扩展至计算、访存、互联、调度和软件等系统环节。
陈宁解释称，这次虽然公布了三款全新芯片，但想向大家传达的不只是芯片品类多了、性能强了，而是想告诉大家，云天励飞致力于围绕Token生成全过程，对芯片、互联、软件和系统进行协同设计，通过更精细的资源配置，提高推理系统的整体效率。他还表示，未来三年，公司将沿着这一路线图打造极致性价比的推理生产力，实现AI普惠，推动AI推理芯片、集群与软件体系持续演进。
这一路线重构也衍生出了“Token经济学”的新解。
陈宁分析称，AI算力的衡量标准已由峰值性能，进一步延伸至Token生成效率和单位Token成本。最终，对于AI落地这个大命题来说，无论是模型厂、应用层还是算力方，真正影响商业化效率的，是在一定时间和成本条件下，能够稳定生成多少有效Token。
“只有Token像水和电一样想当然的存在，不用担心成本，一场工业革命的拐点才会真正到来。”而为了这场人们翘首以盼的革命，云天励飞还提出了一项更加“大胆”的计划：把百亿高质量Token的价格打到一分钱。
一分钱如何搞定百亿Token？
今年5月，云天励飞曾联合联想集团、无问芯穹、生数科技等近30家单位发起“1001计划”联合倡议，彼时就引起过圈内广泛关注。
根据陈宁的解释，所谓“1001”有三层含义。第一层是现实情况，目前在最佳的AI落地实例中，每百万Token要一元钱的成本；第二层，就是云天励飞这份路线图近期想实现的，两年内让百万Token成本降到一分钱；第三层则是长期目标，计划在2030年实现“百亿Token一分钱”。
陈宁还着重强调，相关目标的重点不在便宜的价格，而在极致的性价比。“便宜并不代表有用，如果为了降本牺牲模型效果、生成速度、响应延迟或者服务稳定性，这样的低成本就没有实际价值。”
他关注的是，在成本持续下降的同时，如何让每一个Token能够承载更强的智能、更高的效率和更大的实际价值。
“云天励飞真正希望推动的，是Token性价比持续提升，让高质量的AI能力最终能够被更多企业和普通用户用得起、用得好。”陈宁表示。
但无论在哪个行业，想要画出百万倍的成本下降曲线都十分不易，更何况如今的Token价格还起伏不定，不时飙涨。
陈宁也坦诚，大幅降低Token成本无法靠一家公司或一个环节来完成，需要芯片、互联、软件、模型、应用及产业链各环节的共同参与。
换句话说，降本要在生态里做。
在陈宁看来，国产AI目前单点突破能力已经较强，但在生态建设层面还面临重复适配、上下游反馈链路长、缺少足够多的真实规模化验证这三大关键卡点。而想要建好生态，最关键的就是从过去的“逐个适配”走向“共同演进”。“只有做到这一点，国产AI生态才不仅是可用，而能持续快速迭代。”陈宁称。
值得注意的是，云天励飞也表示，接下来将围绕DeepVerse系列芯片和AI集群方案，持续建设IFWA软件生态，并通过“1001计划”汇聚产业链上下游力量，建立长期生态合作机制。
陈宁称，IFWA和“1001计划”实际上解决的是同一个问题的不同层面。前者希望在软件层降低模型和应用使用国产算力的门槛；后者则希望进一步连接芯片、系统、软件、算力平台、模型、应用以及高校科研机构，让各个环节形成更加紧密的协同。
我们的时代正处在名为AI的转折时刻中，人们已习惯了将之视为新一轮的工业革命。而从蒸汽革命到电力革命再到信息革命，其演进大体都经历过“个性化需求-专业化分工-规模化应用”的路径。如今，AI产业自身也处在全新的转折点上，推理时代的一大特点就是个性化需求的涌现；而从芯片到模型，从Agent到应用，我们也看到了越来越多专业化分工模式浮出水面；最终，通过AI算力基础设施的重构，通过生态协同的合力，性价比更高的Token会让AI的规模化落地应用成为现实。
在人们争相谈论AI落地的这一年，不少AI从业者已经大踏步地向那个未来迈开步子，但他们也同时在思考着“AI与人”“AI普惠”的课题。
“AI最终不应该只是让强人变得更强，而应该让更多普通人拥有过去无法拥有的能力。”陈宁称，在他看来，只有每个普通个体都能随时拥有一支属于自己的“AI团队”，获得过去只有大型机构才能拥有的知识和能力，才是这轮AI革命最有意义的结果。
