华为近日正式发布了名为Flex:AI的创新容器化软件,这项技术通过精细化调度算力资源,为人工智能应用提供了更高效灵活的部署模式。它的核心突破在于实现了对单张GPU/NPU卡的虚拟化切分,能够将物理计算单元划分为多个独立的虚拟资源,切分精度可达10%级别。这样的架构设计让单张计算卡可以同时承载多个AI任务,显著提升了硬件资源的使用效率。
在集群管理层,Flex:AI开发了动态算力聚合机制,可以自动识别并整合分布式节点中的闲置XPU资源。通过构建跨节点的共享算力池,系统能够根据实际需求灵活调配计算资源,有效解决传统模式下算力碎片化导致的资源浪费问题。这种弹性架构特别适合应对AI训练与推理场景中负载波动较大的情况,能够快速响应不同类型任务的算力需求变化。
在技术实现层面,研发团队突破了传统虚拟化技术的性能损耗瓶颈,通过优化内存管理与通信协议,确保虚拟算力单元在保持独立性的同时,仍能接近物理硬件的原始性能。测试数据显示,在多任务并行场景下,系统整体吞吐量较传统方案提升3倍以上,任务切换延迟控制在毫秒级别。
为促进技术生态建设,华为决定将Flex:AI的核心代码开源至魔方开发者社区。此举旨在吸引全球开发者参与技术迭代,共同完善AI基础设施的标准化建设。开源版本已包含完整的API接口文档与开发工具链,支持与主流深度学习框架无缝对接,开发者可基于现有代码快速构建定制化解决方案。
