11月9日消息,长期以来,NVIDIA凭借其强大的CUDA生态系统,在AI领域占据着主导地位。而竞争对手如AMD的ROCm平台相对不够成熟,这一局面如今正迎来新的破局者——微软。
据一位微软资深员工透露,公司已开发出一款“工具包”,能够将基于NVIDIA CUDA的模型转换或转译为ROCm兼容代码,使其可以在AMD的GPU上流畅运行。
此举旨在突破CUDA构筑的“生态壁垒”,为微软日益增长的AI推理工作负载寻找更具成本效益的替代方案。
微软此次行动的核心驱动力在于,他们观察到AI推理的工作需求正在大幅攀升。与价格高昂的NVIDIA GPU相比,AMD的AI芯片在推理场景中展现出更优的性价比。
通过软件层面的转换,微软可以充分利用AMD的硬件优势来降低运营成本。
据推测,该工具包可能采用了类似ZLUDA的运行时兼容层技术,能够在无需修改源代码的情况下,将CUDA API调用实时翻译为ROCm指令。
不过由于ROCm平台仍处于发展阶段,部分CUDA代码缺乏完整的对应映射,可能导致性能损失。在大规模数据中心环境中,这仍是一个需要克服的挑战。

