AI基础设施的每一层,眼下都在承压。但这压力背后,既有实打实的机遇,也藏着不少可能被误判的方向。
SemiAnalysis创始人Dylan Patel在最近的播客中,系统梳理了当前AI基础设施栈的核心动态与投资逻辑。他的判断触达了几个关键点:模型经济学到底成不成立、内存正处在一个超级周期里、CPU的价值在被重新定价、共封装光学(CPO)的落地时间线不得不后移,以及数据中心的能源供给正在创造结构性的新机会。

先说说市场最关心的问题:AI投资的回报到底怎么样?Dylan给出了一个很硬的数据——Anthropic在今年第二季度已经实现了自由现金流转正,年化经常性收入突破了500亿美元,毛利率超过70%。在企业端,新一代AI模型带来的生产力提升,已经明显超过了算力成本的增加。结果就是,企业宁愿削减其他软件开支,也要给AI预算留出足够的空间。
从模型本身的演进看,向推理范式的迁移正在重新塑造硬件市场的需求结构。
具体到硬件层面,Dylan的判断很清晰:存储(内存)将迎来长达数年的结构性短缺,还有2到3倍的上行空间;CPU虽然受益于智能体和强化学习的推动,但市场对它的定价已经偏高了,它对AI服务器的价值贡献,从绝对金额看远远比不上GPU。
至于备受市场期待的共封装光学(CPO),Dylan认为大规模落地要到2028年底至2029年,这意味着铜缆连接器的红利期会被意外拉长。而电力供给端,电网输配电的瓶颈正在迫使数据中心转向“表后电源”(自建电源),这为工业能源和电力转换供应链带来了全新的投资机会。

Anthropic率先造血,AI需求叙事开始落地
面对外界对AI企业ROI的普遍质疑,Dylan Patel用具体的数字做了回应。
“Anthropic在第二季度已经实现了自由现金流为正。4月盈利,5月盈利,6月看起来也不会有问题。”他透露,Anthropic的年化经常性营收已经超过500亿美元,毛利率超过70%。同时,随着Codex采用率的提升,OpenAI的营收也在快速增长。
SemiAnalysis自己的支出轨迹也可以印证这一点。去年11月,这家90人团队的公司年化AI支出还不到10万美元;到了今年1月底,因为全面铺开Claude Code,这个数字飙到了400万美元年化;现在更是达到了1100万美元,峰值周折算年化一度触及1400万美元。“员工的人力成本加上AI成本,AI这部分已经超过了三分之一,年底前很可能达到一半。”
他还指出了一个有意思的现象:更新、更强的模型,在实际使用中并不一定更贵。旧模型可能需要10万个token、10次交互才能完成的任务,新模型可能只需要2.5万个token、1次交互。“每次模型从4.6 Opus升级到4.7 Opus,我们的支出会先下降一周,然后又飙上去——因为大家发现,以前做不了的事现在能做了。”
这恰恰是Anthropic在与OpenAI的竞争中占据优势的核心原因之一:token效率更高,用户的综合成本更低。

内存:结构性短缺,而非普通周期
在所有硬件品类中,Dylan Patel对内存的判断最为坚定。
“这可不是普通的供需波动,是会持续多年的结构性短缺。”他指出,内存产能每年只能增长20%到30%,而AI侧的需求正在成倍增长,两者之间的缺口只会越来越大。
驱动这一判断的核心逻辑,来自推理模型对KV缓存的冲击。传统对话式推理的上下文长度以数千个token计,KV缓存消耗有限;但以o1为代表的推理模型出现后,上下文长度爆炸性增长,KV缓存随之急剧膨胀,内存成了最直接的受益者。SemiAnalysis在2024年12月就专门发布过报告,重点指出了这一趋势。
供给侧的刚性约束,会迫使下游市场重新分配有限的内存资源。他预测,价格弹性低的消费电子将率先感受到压力——中低端手机厂商的出货量已经下降了40%,iPhone和MacBook明年价格很可能会上涨。“内存会持续涨价,消费电子会被压缩到一个新的水平,直到AI拿到它需要的内存,才算真正够用。”
他补充说,即便周期下行终归会到来,“从波谷到波谷,长期增长是毋庸置疑的。”

CPU:补缺行情有限,别过度外推
CPU是今年AI基础设施叙事中突然冒出来的新主角,但Dylan Patel对此持有明确的警示立场。
CPU需求复苏的逻辑本身是清晰的:强化学习需要大量CPU来运行环境验证(比如代码单元测试、模拟操作等);智能体推理要求模型频繁调用工具、与现实世界交互,这些操作高度依赖CPU算力。
与此同时,过去几年大规模出货AI芯片,配套的CPU严重不足,目前正处在集中补缺阶段,ARM、英特尔、AMD都已从中受益,英伟达的Vera CPU也给出了200亿美元的营收指引。
“但有一个重要的提醒:这里面有大量的补缺效应。”他表示,一旦历史欠账补完,后续就只剩下增量需求了,需求会回归正常。从绝对金额看,一块Blackwell单价约5万美元,而CPU大约5000美元,即便CPU增配的比例更高,其美元价值也远远低于AI加速芯片。
“内存和AI加速芯片才是大头。CPU是被低估后的重估,现在它的价格已经更加合理了,但它不会无限期地以超过AI芯片的速度增长。”

光互连:长期看好,短中期慎对CPO
网络与光学互连是另一个市场情绪高涨的领域,但Dylan Patel对CPO的落地节奏持审慎态度。
“CPO真正大规模量产,我的判断是2028年底到2029年。”他指出,目前制造良率、芯片设计和供应链成熟度都还没达到大规模部署的标准,而英伟达的Rubin及其后续架构Feynman仍将使用全铜方案。CPO在GPU侧,还需要等待数代芯片的迭代。
他透露,SemiAnalysis上周刚向机构订阅客户发布了一份报告,中期内反而更看好铜缆和非CPO的光学方案,对CPO持谨慎态度。部分下游芯片的设计变更(比如Rubin Ultra的Kyber已去掉800V设计)进一步推迟了CPO落地时间。安费诺等铜缆连接器公司将因此比预期获益更多。
“CPO长期一定会发生,铜缆长期也会被取代,但时间线被推迟了。短中期内,铜缆仍然有很大的机会。”

电力:自建电源将成主流,创新路径多元
数据中心的电力供给,正在成为AI增长最硬的物理约束。
按Dylan Patel的预测,新增数据中心用电量今年是20吉瓦,明年30吉瓦,后年50吉瓦,增长近乎爆炸性。
他把能源问题拆成了三个维度:输电、发电与转换。输电是最难突破的环节,涉及监管政策、地方电力公司的垄断结构以及成本分摊机制,短期内几乎不可能改变。发电与转换则机会广泛。
他预测,未来几年内,新增数据中心用电的一半将来自“表后电源”,也就是企业自建电源,而不是依赖公共电网。
目前主流的方案是联合循环燃气机组,来自GE Vernova、三菱、西门子等厂商;同时,往复式发动机、工业燃气轮机乃至改装自船用、火车、卡车发动机的非传统方案也开始出现。“听起来可能有点粗粝,但它能跑,而且已经有人在用了。”
更长期来看,他判断大约两年内,太阳能加储能的综合成本将低于燃气发电;更远的未来,则可能走向太空数据中心——将计算芯片部署到轨道上,太阳能电池板无需穿透大气层,能量密度远高于地面,而且不需要储能。
在转换侧,同样充满投资机会。从IGBT、碳化硅到氮化镓MOSFET,再到固态变压器、UPS和超级电容,整条电压转换链路都在快速演进。
值得一提的是,SemiAnalysis目前规模最大的研究部门,已经不是半导体了,而是他们内部称为“DEI”的团队——数据中心、能源与工业,专门追踪全球每一座数据中心与发电厂的部署动态。
