
2025年11月21日,华为正式推出了Flex:ai AI容器软件。这款产品在算力利用方面实现了关键技术突破,采用先进的算力切分技术,能够将单张GPU或NPU算力卡精细划分为多个虚拟单元,最小划分粒度可达10%,真正做到对硬件资源的精细化管控。
借助这一技术,单张算力卡可同时支持多个AI任务并行运行,大幅提升设备的并发能力与资源使用效率。此外,Flex:ai还具备跨节点算力整合能力,能够将集群中各计算节点的碎片化空闲XPU算力进行高效汇聚,构建统一的"共享算力池",从而实现对算力资源的全局调度与按需分配。
该解决方案基于一套深度协同的软硬件一体化架构,覆盖从芯片底层到调度系统的完整技术栈。通过创新的软件优化手段,系统充分释放硬件潜能,将GPU与NPU的平均利用率从传统的30%-40%提升至70%,切实体现了以软件驱动硬件效能提升的设计理念。
在硬件适配层面,Flex:ai深度集成华为自研的昇腾AI处理器,通过软硬件联合调优,显著优化了整体性能与能效表现。尤其在大规模模型训练场景中,该软件可在不依赖特定硬件的前提下,统一调度包括英伟达GPU、昇腾NPU在内的多种异构算力资源,有效缓解当前大模型训练过程中普遍存在的算力利用率低、资源调度复杂等瓶颈问题。
该软件在发布的同时将面向社区开源,托管于魔擎平台,旨在推动技术开放共享,助力AI基础设施生态的持续发展。
