华为最近发布了一款名为Flex:AI的算力资源调度软件,这项产品凭借其突破性的算力切分技术,在行业内获得了广泛关注。该技术能够将单张GPU或NPU算力卡智能拆分为多个虚拟单元,最小切分粒度可精细至10%,使得单张算力卡能够并行处理多个AI工作负载,大幅提升硬件资源的利用率。
Flex:AI的核心优势不仅在于单卡算力的精细化调度,更体现在其强大的集群算力整合能力。通过聚合集群内各计算节点的空闲XPU算力,该软件构建了一个统一的"共享算力池",真正实现了算力资源的全局调度与灵活分配。这种设计让企业能够根据实际需求动态调整算力分配,有效避免资源闲置和浪费。
在技术实现层面,Flex:AI采用了一套深度融合软硬件的系统工程方案,覆盖从底层芯片到顶层调度的全链条优化。通过创新的软件技术,该产品成功将GPU/NPU的典型利用率从30%-40%提升至70%,充分践行了"以软件赋能硬件"的理念。这一突破不仅降低了硬件投入成本,更显著提升了整体计算效率。
在硬件协同方面,Flex:AI与华为自研的昇腾AI处理器进行了深度适配。通过软硬件协同优化设计,该软件实现了最佳的性能功耗比,为AI训练和推理任务提供了更高效的解决方案。尤其在大模型训练场景中,Flex:AI展现出强大的异构算力管理能力,能够统一调度英伟达GPU和昇腾NPU等多种算力资源,有效解决了当前大模型训练面临的算力效率瓶颈。
为推动技术共享与生态发展,华为计划在发布后将Flex:AI同步开源至魔方社区。这一举措将为开发者提供更多创新可能,促进AI技术的普及与应用。通过开源协作,Flex:AI有望吸引更多企业和开发者参与其中,共同推动AI算力管理技术的持续进步。
