游乐游手机版
首页/AI热点日报/热点详情

大模型训练三成电费用在非算力环节

类型:热点整理2026-06-17
AI数据中心约30%的电费消耗在算力间的通信上,而非算力本身。为应对功耗瓶颈,CPO技术将光模块集成进芯片封装,可降低30%~50%的单位带宽功耗,但面临热管理和时钟同步挑战。时钟精度成为系统稳定性的关键,AI竞争已转向互联与时间系统的协同。

很多人以为,AI数据中心最烧钱的是GPU H100,一颗功耗高达700瓦,几万颗并行运转,电费数字看上去确实令人咋舌。但如果你了解过真实超大规模数据中心的能耗结构,会发现一个更反常识的结论:

训练一个大模型,30%的电费其实没花在算力上

大约30%的IT电力消耗,并没有用在算力计算上,而是消耗在“算力之间的互联通信”中。你以为电费用在了“计算模型”,实际上有三分之一用在“让模型互相交换数据”上。

一、AI真正的瓶颈,早已不再是算力

过去大家比拼的是:GPU更快、算力更强、集群更大。但如今AI训练进入全新阶段:从万卡集群迈向十万卡级别,关键问题已经改变。不再纠结“能不能算”,而是:这些GPU之间,能否及时完成数据传输。

在大模型训练过程中,通信量的增长速度甚至超过了算力提升速度。于是出现了一个现实困境:GPU性能还在攀升,而网络与光互联却率先扛不住了。交换机、路由器、光模块,开始成为新一代的“电耗大户”。

二、光模块逼近极限,CPO顺势登台

传统数据中心的结构链路是:GPU → PCIe → 交换机 → 光模块 → 光纤。瓶颈恰恰出在“光模块”这一环节。

因为高速信号需要在PCB上传输一段距离:频率越高 → 信号损耗越大;功耗越高 → 发热越严重;速率越快 → 稳定性越差。结果就是:不是算力不够用,而是电信号传不动,于是CPO(共封装光学)应运而生。

它的思路非常直接:把光模块的“外壳去掉”,直接集成到芯片封装内部。让电信号仅走几毫米,随即转化为光信号向外传输。

从工程角度来说,CPO不是简单升级光模块,而是把“外接显卡”直接焊接进主板芯片里。在理想状态下,单位带宽功耗可以降低30%~50%。对数据中心而言,这已不再是优化问题,而是关乎生存——因为电费正在成为扩张的核心掣肘。

三、CPO真正的难题,不在光学,而在“热量”与“时序”

很多人以为CPO的难点在于光器件,其实并非如此。真正的挑战有两个方面:

1)散热难题:传统光模块是“可插拔式”的,坏了直接更换即可。但CPO是“焊死在封装内”的:光引擎、ASIC芯片、封装基板全部挤在一起发热。带来的后果是:一旦出现温度漂移,就可能影响整个链路的稳定性。

2)时序同步:这一点常被忽略。传统系统中,光模块拥有独立时钟,交换芯片也拥有独立时钟,各自“分头运行”。但CPO之后,所有组件处于同一封装内,共用同一个时间基准,问题瞬间变得复杂。

因为任何微小的抖动(jitter)、相位噪声或时钟漂移,都会直接对光信号输出产生干扰。过去“不同步还可以调整”,如今“不同步就会直接出错”。这也是为什么业界开始意识到:传统单端晶振在CPO架构下已经难以满足需求。

四、时钟器件从“辅助配件”,升级为系统基石

进入800G光模块时代后,时钟要求已经明显更加严苛:必须支持差分输出(LVDS / HCSL / LVPECL),抖动要控制在皮秒级别,温漂需限制在±10ppm甚至更严格,并且全温区不能出现漂移。

而到了CPO阶段,问题进一步升级:光引擎数量成倍增加,时钟节点随之翻倍,封装空间却反而更小。于是现实矛盾出现:系统越先进,留给时钟的空间越少,但性能要求却越高。

在这种架构下,像晶科鑫SJK这类晶振厂商的角色变得非常关键:它不再仅仅是“提供频率”,而是决定了系统能否在该频率下稳定运行。

五、一个常被忽视的事实:AI系统本质上是一个“时间系统”

回顾整个技术链路:GPU负责算力,光互联负责传输,CPO负责缩短路径,而晶振与时钟负责一件更底层的事——让所有计算发生在同一个时间坐标系内。

许多AI系统故障,归根结底不是算力不足,也不是带宽不够,而是:同步出现漂移,时钟产生抖动,时间误差不断累积。

六、真正的瓶颈,不在于“更快”,而在于“是否同频”

AI算力仍在持续增长,但增长逻辑已经改变。从追求“单点更强”,转向构建“系统更密”。而系统一旦变得更密集,有一个问题就会被急剧放大:所有组件必须在同一个时间基准下协同工作。

CPO解决的是“距离问题”,光互联解决的是“带宽问题”,而真正底层的问题始终是:时间是否保持一致。

所以,再回头看那句容易被忽略的数据:电费里30%没花在算力,而是花在了通信上。它背后真正的含义是:AI竞争早已不只是算力的比拼,更是一场“互联能力 + 时间系统”的综合较量。

来源:https://www.eefocus.com/article/2034165.html

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。