“生成式AI时代已经到来，这也是人工智能领域的‘iPhone时刻’。”北京时间8月8日晚间，英伟达创始人黄仁勋在计算机图形学顶级会议SIGGRAPH上正式发布了GH200 Grace Hopper超级芯片及AI Workbench等新品，并透露首批GH200预计将于2024年第二季度实现出货。在全球算力资源竞争日趋激烈的背景下，英伟达已抢占先机，而其并行计算编程平台CUDA很可能成为最具决定性的“幕后推动力”。凭借丰富而强大的计算库，CUDA赢得了算法工程师的广泛认可，甚至被誉为“巩固英伟达硬件市场主导地位的护城河”。因此，其他算力芯片企业正面临一个两难抉择：究竟是兼容CUDA，还是另起炉灶？

01. 兼容CUDA源于“好用”

为何CUDA成为算力芯片厂商难以绕开的选择？最直接的原因在于，它已与算法客户深度绑定。大量算法工程师习惯了CUDA提供的工具库和编程语言，迁移到其他平台时总会感到不适。

正因如此，许多算力芯片厂商选择了兼容CUDA的路线——让硬件能够被CUDA直接调用，从而降低用户更换平台的不适感。就像换手机有“一键迁移”功能，如果兼容CUDA，更换芯片硬件也能像换手机一样简单。芯片客户原先使用CUDA软件和英伟达显卡，迁移到兼容CUDA的硬件后，原有代码无需任何修改即可直接运行。这样一来，客户尝试新芯片的意愿自然会大幅提升。

算法工程师对CUDA的使用习惯绝非一朝一夕养成。英伟达GPU和CUDA进入市场较早，积累了明显的先发优势。从大模型的发展历程来看，许多模型最初基于开源机器学习库PyTorch训练，最早也使用英伟达GPU，算法工程师自然会大量调用CUDA库代码。从机器学习兴起到大模型盛行，十几年来，工程师们不可避免地会用到CUDA库支持的算子。如果使用CUDA驱动硬件，大模型编写完成后，编程语言直接就能运行，实现无缝对接。

不仅是大模型企业，整个计算芯片行业的硬件基础基本都由英伟达产品搭建。一次训练中，统一硬件品牌能更好地保证训练稳定性。英伟达产品入局早，许多工程师从学生时代就开始使用CUDA，毕业后工作中依然使用英伟达的软硬件工具。这种使用惯性非常强大。

对于其他算力芯片而言，这意味着：如果不兼容CUDA，市场推广将极为困难。有算力芯片企业坦言，要想打开市场，短期内必须兼容CUDA生态。否则，代码需要微调、模型需要收敛，工作量相当大。如果整个软硬件能支持CUDA，客户就无需二次开发或修改算法，这是降低客户使用成本最直接的方式。

兼容CUDA也是在帮助客户节省时间。对于大模型企业来说，时间就是生命。模型推演快一天、比竞争对手早一天上线，都至关重要。如果硬件迁移需要工程师花费大量时间适应软件工具，客户接受新产品的意愿会大打折扣。

“站在用户的角度思考问题”——这是企业选择兼容CUDA的出发点。客户开发大模型，效率是第一要务，许多软件工程都是拿现成代码再加以调优。如今大火的大模型也是如此：厂商先拿到小模型和机器学习的代码，在此基础上累加调优，最终实现规模化。要让客户觉得“好用”，首先得解决“能用”的问题——把客户积累了十几二十年的软件基础跑起来，实现“从0到1”的突破。只有这一点解决了，才能谈“从1到100”，帮助客户通过编程支持新功能。

从企业战略层面看，英伟达的生态已经形成成熟的市场、标准和护城河。基于这一现实，在既有标准上切入，对算力芯片企业来说是一条更便捷高效的路径。

02. 兼容CUDA也是一把“双刃剑”

不过，也有业内专家提醒，许多宣称“兼容”CUDA的产品，实际上并非真正兼容，而是通过架构相似性让产品能够较为容易地运行CUDA代码。CUDA并非开源代码，而是个“黑盒子”，100%兼容在技术上无法实现，同时也存在安全和知识产权风险。“兼容”CUDA就像一把双刃剑：一方面能降低获客成本，另一方面也可能限制产品的创新潜力。

许多算力芯片企业选择在软件栈上另辟蹊径，主要原因在于担心“兼容”CUDA会成为自家产品的“天花板”。目前“兼容”CUDA的方式，主要是让编程模型与CUDA保持一致，但底层硬件架构很难与英伟达GPU完全相同。因此，兼容CUDA很可能只是短期行为，长期来看不利于芯片架构创新和性能提升。而自研软件栈，相当于将创新的“天花板”掌握在自己手中。

从全球范围看，许多国外算力芯片企业，例如Graphcore、SambaNova、Tenstorrent，都没有一家兼容CUDA。归根结底，是因为各家希望探索出更适合AI计算的道路。英伟达的GPU早期只做图形渲染，只是借助CUDA在通用计算领域（包括AI）中得以应用，才逐渐成为AI算力芯片的领跑者。但从计算架构和性价比来看，它并非最适合AI计算的产品。换句话说，如果英伟达已经是最优选择，可能就不会有这么多AI芯片公司存在了。

算力芯片的后来者，需要从前人的发展中吸取经验，但依然要摸索自己的道路。CUDA的出现，最初是为了让GPU满足除视觉处理以外的通用计算需求。它之所以具有竞争力，核心在于实现了从硬件层到软件层的全流程打通，并基于百万级客户体量进行了性能优化。芯片设计和软件开发是极度需要创新能力的事情。如果只想着模仿CUDA的老路，尽量复刻英伟达的产品，实际上并没有朝着把AI芯片做得更好的方向前进。兼容CUDA在某种程度上也是在壮大英伟达的生态，加深对CUDA的依赖。

相反，如果不兼容CUDA，走自主创新道路，产品和企业的发展路径会更宽。有些企业选择了自研编程模型，提供从硬件平台到开发者工具包、计算库和框架的一整套方案。对于这条路径可能面临的获客困难，有算力芯片企业表示：如果客户下定决心从英伟达生态迁移，平台间的困难并没有想象中那么大，客户依然能获得丰厚的商业价值回报。

03. 底层逻辑是构建开发者生态

软硬件协同完善的生态是客户选择CUDA的根本原因，也是英伟达领先于其他算力芯片企业的核心竞争力。在是否兼容CUDA的问题上，各家观点不同，但在建设企业生态这件事上，受访的算力芯片企业给出了一致回答：要建设自己的生态体系。

至于什么是生态、如何搭建，业界观点存在差异。有的企业选择从指令集开始，到计算库和编译器，自研构建软硬件结合的生态。自研软件栈首先是打基础，对标CUDA及以下的抽象层次，充分发挥自己芯片的特色，开发出一套用户可用、易用的编程模型。积硅步以至千里，最终帮助客户从英伟达平滑迁移到自家芯片，同时在使用中感受到新特性带来的更优体验。

所谓“生态”，底层逻辑是开发者生态。AI芯片技术属性强，核心价值在于帮助开发者加速算法开发与业务部署。生态建设成功与否，取决于产品能否给客户带来价值——学生学了知识能找到工作，企业用了能实现业务目标，市场上有相应的人才储备。生态里的每个角色都能获益，才是健康生长的关键。

因此，有厂商建议：国内厂商协同定义自研编程模型，联合拓展开发者，集聚力量让更多高校和商业伙伴使用。大模型的出现，为生态搭建从单打独斗走向产业联合提供了契机。如果没有大模型，各家都会选择适合自己的通用方式，缺少把供应链上下游集合起来解决问题的利益驱动。简单说，三五张卡一台服务器能解决的问题，一家企业单点调优就够了。但大模型需要大算力和大互联，动辄调动上万张卡、上千台服务器，还要考虑供电等问题，最终关系到生产基础甚至国计民生，所需的资源不是一家企业能搞定的，更需要产业链协作，也更有机会调动更多资源。

大模型也为算力芯片市场突破提供了机会。它让人工智能的技术路线出现收敛趋势。以前对应一个需求，解决方案非常繁杂，每家都提自己的方案。而大模型的发展，让算法技术路线逐渐统一于Transformer模型，为算力芯片日后要瞄准的技术方向树起了“靶子”。在这种情况下，如果算力芯片企业能争取到大型算力供应商（例如互联网巨头）作为合作伙伴，在此基础上结合其他行业特点进行微调，产出适合多行业的解决方案，就有很大机会赢得更广阔的市场前景，从而打破英伟达的商业壁垒。

关于产业链协作实现破局，受访企业表示：可以联通可控供应链，了解自己独特的技术，评估竞争力所在，结合技术特色解决人工智能发展中的问题。要做好自己的产业生态，当前最缺的是大量工程师的调优工作。英伟达GPU加速库中包含数学库、并行算法库、图像视频库、通信库、深度学习库等，共上百个加速库，每个计算库都积累了开源代码。这是英伟达几万工程师耕耘20年、通过解决客户问题积累的成果。

对于算力芯片企业来说，做好自己的软件生态，当前并没有太多科研难题，许多问题通过开源代码就能找到答案。真正存在的是工程问题，需要静下心来一点一点做，依靠众多工程师的力量，集中力量办大事。算力芯片从0到1的突破已经实现，剩下的就交给时间和积累。