当前人工智能基础设施正面临一个核心挑战:如何以更低的推理成本支撑更大规模的模型应用。在2026年世界人工智能大会上,无问芯穹联合创始人兼CEO夏立雪给出了一个明确判断——AI Infra必须“以极致效率服务更大规模应用场景”。
数据足以说明问题:截至7月,其平台单日Token调用量相比去年12月已增长40倍。这背后依托一系列技术创新,无问芯穹通过架构优化等手段,将推理成本压缩了10倍。但更值得关注的是,夏立雪认为这远未触及天花板。随着跨集群异构PD分离架构的规模化落地,推理成本仍有10倍的下降空间——这意味着整体推理成本有望再降一个数量级。
这释放了什么信号?从行业维度看,推理成本的持续下降将直接加速大模型应用的广泛普及。当成本从“高不可攀”降至“用得起”,AI的实际落地场景将迎来爆发式增长。而跨集群异构PD分离架构,正是实现这一目标的关键技术路径之一。它有效解决了不同集群、不同芯片之间的协同难题,让算力资源得到更高效、更充分的利用。
当然,技术落地从来不是一蹴而就的事。在规模化部署过程中,稳定性、兼容性以及运维复杂度都是需要逐一攻克的关卡。但方向已经明确,剩下的只是时间问题。
