这周接连冒出几件事,单独拎出来都不算惊天动雷,但放到一起看——动静不小,风向确实在转。

先看发生了什么
6月底到7月初,四家公司的自研AI芯片几乎同步进入出货阶段:
- OpenAI的推理专用芯片开始小批量供货,优先喂给自己的API服务
- Amazon Trainium 3 正式量产,官方称训练效率比上一代提升40%
- SambaNova的SN40L芯片开始向企业和研究机构交付
- Etched的Transformer专用ASIC芯片进入送样测试
加上此前的Google TPU v6和Meta MTIA v2——六家巨头在不到一年半的时间里,全都亮出了自己的芯片牌面。
这事为什么重要
过去五年,AI训练和推理几乎只有一个选项:买NVIDIA的GPU。H100、A100、B200——不管你用AWS、Azure还是自己搭机房,底层跑的永远是NVIDIA的货。
这并不是因为NVIDIA的技术有多不可替代,而是它的生态——CUDA——锁死了所有人。CUDA不是一块芯片,是一整套软件栈。全世界的AI研究员、工程师都在上面写代码、调模型。换芯片意味着重写软件,这个迁移成本高到几乎没人愿意碰。
但现在,局面开始松动了。
先从推理端裂开一道口子。推理对CUDA的依赖比训练低得多——很多场景只需要跑前向传播,根本用不上复杂的分布式训练框架。这让专用推理芯片有了在边缘侧率先突围的机会。
其次,框架层也在悄悄脱钩。PyTorch 2.x对CUDA的绑定正在减弱,OpenAI的Triton编译器支持多后端,Google的JAX从一开始就是芯片无关的设计。底层框架一旦不再死绑CUDA,上层应用的自由度就打开了。
最关键的一点:用户其实不在乎底层是什么芯片。你用ChatGPT的时候,根本不知道它跑在什么硬件上。只要API调用正常、延迟够低、价格合理,服务商想怎么切芯片都行——用户无感知。
会有什么变化
最直接的冲击:推理成本还会继续往下砸。
NVIDIA的定价里长期包含了垄断溢价。当OpenAI和Amazon手里都有自己的芯片,它们就不再需要在公开市场上跟所有人抢GPU,成本降下来,直接传导到API价格。上周Anthropic的Sonnet 5已经比上一代便宜了40%,这个趋势只会越走越快。
其次,算力不再是独一家说了算的游戏。以前想做大模型,必须先搞定GPU供应——而钥匙攥在NVIDIA手里。现在多了五个备选项。虽然短期内NVIDIA仍然是主力,但“必须买NVIDIA”正在慢慢变成“可以选NVIDIA”。
一句话总结:GPU的垄断时代,在2026年7月正式进入倒计时。不是说今年就会结束,但裂痕已经大到不能再假装没看见了。
