在高性能计算与人工智能走向深度融合的产业浪潮中，构建“超智一体”的基础设施，早已不是一道选择题，而是关乎产业升级的核心命题。最近，一个名为“灵晟”的国产超算系统，凭借其超智融合的体系架构创新，登顶全球超算TOP500榜单，并与清程极智合作，打造出一套纯CPU的MoE模型分布式推理方案。它真正打破了HPC与AI之间的算力墙——既能在科学计算领域稳坐头把交椅，又能在AI大模型推理中展现令人印象深刻的性能。可以说，“灵晟”正在重新定义什么才是“好用、易用”的超智融合算力平台。
那么，为什么要把AI大模型跑在超算上？产业需求给出了两个核心驱动力：一是方法融合，当科学计算的物理模型与数据驱动的AI深度结合，往往会催生出碘伏性的科研成果；二是效能提升，超算平台通过错峰运行AI任务，能够最大化地利用算力资源。从这个角度看，“灵晟”最亮眼的地方，恰恰在于其架构层面的原生超智融合。
在算力侧，它没有走传统路径——单纯堆砌专用加速卡，而是在自研的LX2 CPU中集成了矩阵加速单元，并支持多精度计算，实现了HPC算力与AI算力在芯片上的深度融合。更关键的是，CPU集成了片上高带宽内存，能提供TB级带宽，相比传统CPU实现了十倍以上的跃升，为大模型推理中的大批量并发处理提供了充足的带宽保障。
在网络侧，自研的“灵启”网络支持微秒级低时延传输，具备可扩展至200万端口、10万节点的超大规模组网能力。这种极低时延、极高扩展性的互联特性，有效消除了分布式推理中的通信瓶颈，让大规模并行计算不再受限于网络。
当然，硬件创新只是第一步。LX2 CPU与GPU、NPU架构存在本质差异，要把大模型从“专卡”平滑迁移到“通卡”，软件层面的挑战同样不容小觑。
HPC与AI虽然属于不同的计算范式，但在核心优化思路上其实是相通的——都依赖算子优化、计算与访存重叠、流水线并行及多级并行等手段，来充分释放硬件性能。结合“灵晟”平台的硬件特性与自研软件，清程极智从多个技术维度对大模型推理进行了深度加速。
首先是面向LX2 CPU的算子开发与优化。针对“灵晟”自研软硬件，团队完成了算子重构：基于LX2 CPU的矩阵运算指令集，结合OpenMP与自研编译器实现计算算子；基于自研通信库构建通信算子。借助自研的统一并行加速库——它具备计算图语义扩展、共享内存通信加速、多线程调度优化及硬件特性抽象等核心能力——团队实施了精细化的指令序列控制，应用计算掩藏访存、异步流水线调度等优化策略。对于无依赖关系的多个算子，团队切分线程池，分布线程并行度，让少数线程负责并行度低的算子，多数线程负责并行度高的算子。例如，Shared expert与EP通信同时进行，实测显示，MoE推理时延从1440μs大幅降低至980μs，效果立竿见影。
其次是面向“灵晟”集群的多层次并行推理优化。LX2 CPU采用NUMA架构并集成片上内存，结合“灵启”网络的强劲互联能力，与DeepSeek的大规模专家并行（EP）架构天然契合，极佳的集群扩展性由此而来。基于此，团队实施了多维度的并行策略优化：灵活配置张量并行（TP）、流水线并行（PP）、专家并行（EP）及数据并行（DP），构建了多层次混合并行推理方案。在DeepSeek部署上，团队采用EP256的大规模专家并行配置，专家权重的全量分散部署，节点内TP16，节点间DP16，并针对Attention模块设计了定制化混合并行策略，充分释放了LX2平台的算力密度与通信能力。
此外，MTP（Multi-Token Prediction）技术的引入也值得一提。在上述优化基础上，团队引入了DeepSeek MTP加速技术，一次推理能够产生多个token，再并行验证每个token是否正确，显著提升了单请求的输出速率。团队还深入探究了不同并发规模下MTP加速比与预测深度的相关性，持续调优以实现最佳推理效果。
基于“灵晟”多样性算力架构的创新与清程极智的AI推理加速技术，DeepSeek模型的高效部署得以实现，率先完成了纯CPU MoE模型分布式推理。16节点即可流畅运行DeepSeek-V3/R1-671B模型，在batch_size=2048时，输出吞吐量与80张主流GPU集群相当。
针对规模化部署DeepSeek的场景，“灵晟”研发团队正在基于SGLang推理引擎进行深度优化。最新测试数据显示，在64节点规模下处理长文本摘要任务时，TPOT（每输出token时延）在55ms以内，单CPU Decode吞吐达586.8 TPS；节点规模从64节点扩容至8192节点时，并行效率超过74%，这充分印证了“灵晟”系统极强的可扩展性。
这意味着，“灵晟”不仅能同时支撑HPC与AI工作负载，更兼具卓越的性能表现与极高的经济性。这不仅从技术底层重塑了超智融合范式，更以此为支点，为各行业复杂场景提供精准、高效的计算支撑，全面释放超智算力潜能，加速科研与产业数智化升级。
