首页 游戏 软件 资讯 排行榜 专题
首页
AI
斯坦福研究:0.1张GPU人均算力困境,引爆LeCun担忧

斯坦福研究:0.1张GPU人均算力困境,引爆LeCun担忧

热心网友
12
转载
2025-12-11


新智元报道

编辑:好困 桃子

【新智元导读】在工业界动辄十万卡的暴力美学面前,学术界正沦为算力的「贫民窟」。当高校人均不足0.1张卡时,AI科研的主导权之争或许已经没有了悬念。

学术界的GPU荒,比想象中还要严重百倍!

NeurIPS 2025期间,两位YC大佬组了个饭局,邀请14位美国顶尖高校实验室的教授。

没想到,席间很多人都在吐槽:学术界算力资源简直「惨不忍睹」!


出于好奇,Francois Chaubard就去扒了一下数据,得到的结果离谱到家.....


以下是美国顶尖大学实验室的情况——

· 普林斯顿:人均0.8张GPU

· 斯坦福:人均0.14张GPU(超算集群Marlowe仅有248张H100可用)

· 哈佛、UW、CMU:均在0.2-0.4张GPU之间

· 加州理工、MIT、UC伯克利:连0.1张GPU也达不到

如今,想要做点像样的AI研究,人均至少得有1张GPU。实话说,真正要做起来,起码8张才够用。


没有对比,就没有伤害。

此时此刻,全球顶尖大厂的前沿实验室动辄就是十万张GPU起步。

就拿微软的Fairwater Atlanta数据中心来说,它目前的算力每个月能跑23次GPT-4规模的训练。

换句话说,当年训练初代GPT-4花了90到100天,同样的时间放在这里,大概能把这个过程跑上70次。

有了这种巨型数据中心,实验室就能大幅提升前期实验和最终模型训练的规模与频次。


到2026年底,马斯克的Colossus 2很可能会把这些数字翻上一番都不止。

而到了2027年底,微软的Fairwater Wisconsin预计单月就能完成超过225次GPT-4规模的训练任务。


马斯克xAI正在百万张GPU串联的超级巨兽「Colossus 2」训练Grok 5

学术GPU太缺了

2024年李飞飞在一场炉边谈话中坦言,「斯坦福NLP实验室仅有64张GPU」。

学术界在AI计算资源方面,正面临断崖式下跌。

与此同时,Nature一篇调查提出了「AI算力差距」,揭示了同样令人扎心的现实:

想要训练AI模型,学术界科学家能用的计算资源,跟工业界完全不是一个量级。


如上开篇一些数据,恰恰从侧面印证了,高校GPU根本不足以开展大规模的AI实验。

这种现象,不管在美国,还是国内,基本大差不差。

在Reddit上一篇热帖中,一位博士生自曝没有H100,算力成为了项目展开的主要瓶颈。


不仅如此,在Uvation调研中,GPU在高校课程和教学中也越来越重要,正在重塑学生学习计算机科学、工程学的方式。

如下表所示,斯坦福、MIT、牛津大学需要使用GPU相关的课程。


学术界GPU荒可不是小事,它的影响会像多米诺骨牌一样扩散开来。

杜克大学陈怡然教授曾提到一点,因为工业界和学术界计算、数据资源差距拉大,AI科研人员不再把高校教职当做目标。

这也就意味着,顶尖人才未来会加速流向工业界,全因GPU不够。


另一方面,学术界因GPU有限难以验证big idea,正逐渐失去了定义前沿的能力。

2025年斯坦福AI指数报告中,一张图清晰地呈现了这一趋势。

谷歌、Meta、微软、OpenAI等科技巨头产出有影响力的AI模型数量远超学术界。


AI大牛Sebastian Raschka表示,资源少只是问题之一。

另一个问题是,这些资源通常只能通过 SLURM(或类似的调度系统)访问,根本没有交互模式。

除非你已经完全清楚要跑什么实验以及要跑多久,否则这一套流程走下来简直折磨人。 这种条件下做研究真是太难了。


此外,学校里的那些GPU不是随时能用的。

网友Lucas Roberts表示,自己上个月曾跟德州的一位教授聊过,他说学校的 GPU 一次最多只能跑24小时,时间一到就得保存进度(checkpoint),然后重新排队跑下一个任务。

后来他好不容易给实验室搞到经费买了几张卡,这才实现了跑任务「不断连」。

据他所知,这种24小时强制中断的规定在其他高校也挺普遍的。


然而,LeCun当场反驳这一观点,透露NYU是全美所有学术机构中,拥有最大规模的GPU集群。

具体数字——500张H200,比普林斯顿还要大。


有的高校,自建AI工厂

不过,也有一些高校条件会好一些。

微软研究院前高级研究员,威廉与玛丽学院助理教授Jindong Wang表示,实验里每位学生配备6张GPU,还有云集群可用。


Vector研究所研究总监,多伦多大学统计与计算机系教授Dan Roy表示,他们会给每位学生都配备1张GPU。


更豪气的学校,比如得克萨斯大学奥斯汀分校,直接为自家的AI基础设施购买了超过4000张Blackwell GPU。

加上原有的设备,UT Austin总共将拥有超过5000张英伟达GPU。

而且,据称还是由他们自己的发电站来提供加持。


这些英伟达GB200系统和Vera CPU服务器,将加入全美最大的学术超算「Horizon」,为UT Austin提供学术界最强悍的AI算力。

这种级别的算力意味着,UT Austin完全有能力从零构建开源的大语言模型。


无独有偶,加州州立理工大学也在启动一个由英伟达DGX加持的「AI工厂」——

它配备了4套NVIDIA DGX B200系统,并整合了高性能存储、网络设施以及NVIDIA的全套AI软件栈。


有了这套系统,那些以前在标准硬件上需要数月才能完成的研究任务,例如分析数十万个视频文件,现在只需几天即可完成。


反观国内,GPU在高校的分布情况也不均衡。

知乎上一个话题下,硕博生纷纷讨论做实验用的显卡。


北京某高校计算机硕士称,已申请到研究院公用服务器。


还有更可怜的,某985学生自曝全组只有一张3080,还得自费租GPU。


参考资料:

https://x.com/FrancoisChauba1/status/1997095264923078856?s=20

https://news.utexas.edu/2025/11/17/ut-eclipses-5000-gpus-to-increase-dominance-in-open-source-ai-strengthen-nations-computing-power/

https://x.com/EpochAIResearch/status/1997040687561449710

https://epoch.ai/data-insights/gpt-4s-trainable

秒追ASI

⭐点赞、转发、在看一键三连⭐

点亮星标,锁定新智元极速推送!

来源:https://www.163.com/dy/article/KG9K5G450511ABV6.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

CVPR 2026北京论文分享会报名开启 线下深度交流前沿视觉技术
AI
CVPR 2026北京论文分享会报名开启 线下深度交流前沿视觉技术

2026年的AI圈,时钟仿佛被拨快了。技术迭代的浪潮一波未平,一波又起。 尤其是进入四月以来,整个行业像是踩下了油门。Meta携Muse Spark高调回归,ChatGPT Images 2 0的生成效果在社交媒体上持续刷屏,而GPT-5 5的发布,再次将技术天花板向上推升了一个量级。视线转回国内,

热心网友
05.17
优化科技期刊评价体系提升自主创新能力
科技数码
优化科技期刊评价体系提升自主创新能力

当前,我国科技论文产出总量已稳居全球前列,但一个关键短板依然突出:本土高水平科技期刊的发展步伐,尚未与国家整体科研实力同步提升。数据显示,2024年中国学者发表的国际论文中,超过95%的成果首选境外期刊发表。这构成了一个循环挑战:大量优秀研究成果外流,使得国内期刊难以获得优质稿源来提升学术声誉;与此

热心网友
05.17
7月25日外媒科学网站摘要:科学家警告,人类正无意间向宇宙泄露“地球坐标”
科技数码
7月25日外媒科学网站摘要:科学家警告,人类正无意间向宇宙泄露“地球坐标”

《自然》:一桩悬案了结? “砷基生命”论文终遭撤稿,但争议远未结束 科学界一桩持续了15年的公案,最近有了新进展。顶级期刊《科学》(Science)正式撤回了那篇曾引发轰动的争议性论文——该研究当年声称,在美国加州莫诺湖发现的一种细菌,能够用有毒的砷元素替代生命必需的磷来构建DNA,这直接挑战了我们

热心网友
04.17
中国科协:2026年NeurIPS会议资助调整与学者参会指引
科技数码
中国科协:2026年NeurIPS会议资助调整与学者参会指引

中国科学技术协会2026年3月31日发布告示:中国科协曾于2026年3月27日就2026年NeurIPS会议发表声明,本意是尽力维护我国关涉学者正当利益,其措施原则是清晰、适当的,没有发生变化。现就

热心网友
03.31
康奈尔大学将离开全球最大论文预印本平台arXiv
科技数码
康奈尔大学将离开全球最大论文预印本平台arXiv

Cornell University 图源:wikipedia撰文|张天如果有一天,全球科研人员突然无法访问arXiv,许多领域的研究节奏可能会被打乱。每天清晨刷新论文列表,已经成为部分数学家、物理

热心网友
03.31

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

全链网解析:欧洲多国领导人面临支持率挑战
web3.0
全链网解析:欧洲多国领导人面临支持率挑战

英国工党领袖斯塔默面临公众信任挑战,支持率低迷。类似困境在欧洲多国领导人中普遍存在,德国总理默茨与法国总统马克龙的支持率同样远低于不支持率,反映出欧洲政界广泛的信任危机。

热心网友
05.18
芝麻开门Gate.io官网入口网址及安全交易平台使用指南
web3.0
芝麻开门Gate.io官网入口网址及安全交易平台使用指南

芝麻开门:安全便捷的数字资产交易平台 在数字货币的世界里,选择一个可靠、便捷的交易入口是第一步。芝麻开门作为一款服务于全球用户的知名交易平台,以其多重安全防护、对主流币种的广泛支持以及现货、杠杆等丰富功能,成为了许多交易者的选择。今天,我们就来详细梳理一下如何通过官方渠道,安全地获取并使用芝麻开门平

热心网友
05.18
通胀担忧加剧全球债市抛售 长期美债收益率创近三年新高
web3.0
通胀担忧加剧全球债市抛售 长期美债收益率创近三年新高

全球债市因通胀担忧遭剧烈抛售,长期美债收益率升至近三年高位。30年期美债收益率一度突破5%,10年期与2年期收益率同步攀升。日本30年期国债收益率单日飙升20基点创新高。油价上涨加剧通胀忧虑,策略师建议关注美债收益率在5 25%-5 5%区间的后续动向。

热心网友
05.18
欧易交易所官方入口网址一键直达 安全登录OKX交易平台
web3.0
欧易交易所官方入口网址一键直达 安全登录OKX交易平台

欧易(OKX):您的官方数字资产交易入口 在加密货币的世界里,选择一个可靠、功能全面的交易平台是第一步。欧易(OKX)作为全球领先的数字资产服务商,早已成为数百万用户的首选。它不仅提供比特币、以太坊等主流币种的现货交易,更将业务延伸至衍生品、DeFi以及NFT市场,构建了一个完整的加密生态。其背后,

热心网友
05.18
Gate.io官方安卓交易APP v7.19.1最新版下载与使用指南
web3.0
Gate.io官方安卓交易APP v7.19.1最新版下载与使用指南

gate io交易APP官方版 v7 19 1 安卓版下载与安装全指南 对于数字资产交易者来说,一个可靠、顺手的交易工具至关重要。Gate io交易APP,正是这样一款专业的平台,它为全球用户提供比特币、以太坊乃至上千种加密货币的实时行情与交易服务。其最新的安卓v7 19 1版本,在用户体验和系统稳

热心网友
05.18