英伟达护城河被AI攻破，字节清理CUDA，揭秘人人可用的CUDA内核
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
机器之心编辑部
近日，来自字节跳动 Seed 团队和清华大学 AIR的新研究CUDA Agent，在 AI 领域引发了不小的轰动。
研究人员训练了一个能够编写快速 CUDA 内核的模型：不只是正确的内核，而是真正经过优化的内核。
在简单/中等内核上，它的性能比 torch.compile高出 2 倍；在复杂内核上，它的性能比 torch.compile高出约 92%；即使在最难的设置下，它的性能也比 Claude Opus 4.5 和 Gemini 3 Pro高出约 40%
论文链接：https://arxiv.org/abs/2602.24286项目主页：https://cuda-agent.github.io/Github链接：https://github.com/BytedTsinghua-SIA/CUDA-Agent数据集链接：https://huggingface.co/datasets/BytedTsinghua-SIA/CUDA-Agent-Ops-6K
在此之前，GPT、Claude 等大模型已经能写出「正确」的 CUDA 代码，AI 生成的代码也已获得了一定程度的应用，但能跑通和跑得快完全是两码事。
GPU 内核优化是现代深度学习的基础，但它仍然是一项高度专业化的工作，需要深厚的硬件知识。现有的 AI 生成 CUDA 代码通常依赖无训练的提示工程（Prompting）或多轮执行反馈微调的机制。这导致模型只能解决表面上的语法错误，无法真正理解底层硬件逻辑，一定程度上限制了其内在的优化能力。
真正极致的 CUDA 优化需要处理的任务，是只有在性能分析器中才能看到的硬件级指标。人们一直期待能出现一个像人类 CUDA 专家一样思考的 AI。
针对这一矛盾，CUDA Agent 的核心理念简单而巧妙：CUDA 性能并非取决于正确性，而是取决于硬件。线程束、内存带宽、内存冲突——这些只有在性能分析器中才能看到的东西。
研究人员不再奖励「是否编译成功」，而是奖励实际的GPU速度。真实的性能分析数据。强化学习直接基于性能进行训练。
产生的效果出乎人们的预料。
在 KernelBench 基准测试上，CUDA Agent 取得了 SOTA 的成绩：在 Level-1、Level-2 和 Level-3 三个划分上，相比 torch.compile 分别实现了 100%、100% 和 92% 的加速比例（faster rate）。
CUDA Agent 与 torch.compile 和强大的专有模型在 KernelBench 上的对比。
简而言之，CUDA Agent是一个大规模的智能体强化学习系统，包含三个核心组成部分：可扩展的数据合成机制、一个集成技能增强且具备可靠验证与性能分析能力的 CUDA 开发环境，以及用于稳定长上下文训练的强化学习算法技术。
此外，研究团队同时发布了CUDA-Agent-Ops-6K，一个经过严格筛选与数据污染控制的高质量合成训练数据集，可支持基于强化学习的 CUDA 内核优化研究的复现。
系统管线设计
数据合成
研究团队通过一个三阶段的管线来构建训练任务：种子问题爬取、基于 LLM 的组合式合成，以及基于执行结果的筛选。
从 torch 和 transformers中挖掘种子算子。每个算子都以一个 Python 类的形式表示，包含初始化和前向传播方法。在组合式合成阶段，最多采样 5 个 torch 算子，并将它们按顺序组合，构造成融合任务。筛选阶段仅保留那些在 eager 模式和 compile 模式下都能正常运行的任务，同时移除包含随机性的算子。为防止「投机取巧」，剔除在不同输入下输出为常数或无法区分的任务。在工作负载控制方面，将 eager 模式下的运行时间限制在 1ms–100ms 区间内，并移除与 KernelBench 高度相似的样本。
三阶段数据收集管线
最终整理得到 6000 条训练样本，构建了 CUDA-Agent-Ops-6K 数据集，该数据集专为可扩展的强化学习训练而设计，兼具广泛的任务多样性和较低的数据污染风险。
智能体环境
智能体循环管线遵循一种 ReAct 风格的工作流，结合代码工具与 CUDA Skill 规范（SKILL.md），支持迭代式的编码-编译-调试循环，以及基于性能分析器的优化过程。
标准工作流程：对原生 PyTorch 实现进行性能分析，编写 CUDA 内核及其绑定代码，在 GPU 沙盒环境中完成编译，并不断迭代优化。目标要求：通过正确性检查，并在性能上相对于 torch.compile 实现超过 5% 的加速。稳健的奖励机制采用基于里程碑的离散奖励设计，根据正确性达标情况和性能提升幅度分别给予奖励。防止奖励作弊的控制措施包括：对验证与性能分析脚本进行保护，禁止回退调用，采用 5 组不同输入进行正确性检查，在同步预热后进行性能分析，以及禁止网络检索。
这些约束共同构建了可靠的、基于真实执行结果的反馈机制，使策略学习聚焦于内核质量的实质性提升，而非依赖取巧或捷径行为。
训练流程
训练过程采用分阶段设计，以稳定 CUDA 编码这一长时序强化学习任务。首先进行单轮 PPO 预热训练，随后分别初始化 actor 和 critic，最后进入完整的多轮智能体强化学习阶段。
单轮预热阶段旨在提升基础的 CUDA 代码生成能力，为后续的交互式智能体训练打下基础。在 actor 初始化阶段，采用基于正向结果轨迹采样的拒绝式微调（RFT）。RFT 过滤机制会剔除低效循环以及无效的工具调用模式，从而降低策略崩溃的风险。critic 初始化阶段通过价值函数预训练，使得从训练早期开始，优势估计就具备较高可靠性。
借助这一多阶段训练设计，系统在长上下文设定下（最长 128k 上下文、训练阶段最多 150 轮、评估阶段最多 200 轮）依然保持稳定，从而实现持续的奖励增长。
核心实验结果
研究团队在 KernelBench 上报告了针对整体和 Level-3 拆分的完整指标，包括通过率、提速率（与 Eager 对比/与 Compile 对比）以及几何平均加速比（与 Eager 对比/与 Compile 对比）。
与强大的专有基线模型相比，CUDA Agent 在相对于 Compile 的性能优化上展现出显著优势：在整体 KernelBench 基准测试中，其相对 Compile 的加速达成率达到 96.8%，几何平均加速比为 2.11 倍
这一优势在高难度设置下尤为明显：在 Level-3 上，CUDA Agent 相对 compile 的加速达成率达到 90%，相比最强的专有基线高出约 40 个百分点；在 Level-2 的算子序列任务上，其加速达成率达到 100%，几何平均加速比达到 2.80 倍。
在 KernelBench 上的整体性能和加速指标。
本研究存在两个主要局限。
首先，此次研究未将 CUDA Agent 与更为复杂的编译器框架（如 TVM）进行对比。其次，训练流程依赖于大规模 GPU 资源池以及进程级隔离机制，这带来了相当可观的计算与工程成本。探索更加资源高效的训练策略，将是未来的重要研究方向。
看起来，CUDA Agent 等技术的出现即将打破传统编译器（如torch.compile或Triton）的优化瓶颈。它证明了：大语言模型不仅可以学习人类自然语言和高级编程语言，还可以通过基于硬件反馈的强化学习，内化出极高门槛的「硬件直觉」。
一条通向全自动、高度性能优化计算基础设施的道路正在出现。
相关攻略
北京商报讯（记者 王蔓蕾）近日，北京智源人工智能研究院（以下简称 "智源研究院 "）正式发布重磅验证成果：六款AI芯片、三大模型、同构+异构千卡——众智FlagOS以统一技术栈完成AI训练 "全要素 "验证
机器之心发布大模型开发者常面临一个两难选择：要速度，还是省显存？通常情况下，想要跑得快，显存会爆；想省点显存，计算效率又会被频繁的同步和流水线气泡大幅拖垮。原生的 torch compile 虽然好
机器之心编辑部这应该是今天刚刚出炉的、最炸裂的文章。在很多算子开发的微信群组，已经掀起了轩然大波。「这或许是超人类智能在软件领域的真正首次展露。」英伟达许冰刚刚在 X 上发出了如此断言。他所评论的，
机器之心编辑部2025 年 4 月，Sand ai 开源了 MagiAttention v1 0 0，定义了下一代分布式 Attention 的全新设计和系统框架。历经一年的深耕，今天Sand ai
2026年伊始，全球AI算力战场烽烟再起。英伟达依托CUDA生态形成了近乎垄断的技术壁垒，“缺芯少魂”仍是中国AI产业发展的现实挑战。在此背景下，深圳市大数据研究院持续深耕人工智能等前沿科技领域，并
热门专题
热门推荐
第三代英特尔酷睿Ultra处理器发布会解析：开启AI PC新时代 近日，一场备受瞩目的科技盛会在上海举行。以“AI PC 变革未来”为主题的第三代英特尔酷睿Ultra处理器新品分享会，汇聚了行业目光。华硕电脑PC&智能创新产品事业群副总经理杨鉴文亲临现场，分享深度见解。他详细解读了面向2026年的华
悬索游天能力解锁全攻略 在《燕云十六声》的广阔天地中，悬索游天能力无疑是打开全新探索维度的一把关键钥匙。这项酷炫的移动技能，能让你在冒险旅程中如虎添翼。那么，如何才能真正掌握它呢？答案就藏在以下几个核心途径里。下面这份详尽的指南，将带你一步步揭开谜底。 探索主线剧情 主线剧情是解锁一切高级能力的基石
机械革命星耀14酷睿Ultra版正式开售：1公斤极致轻薄，38W性能释放强劲 2024年春季，备受关注的机械革命星耀14迎来了全新的英特尔酷睿Ultra X7 358H配置版本，现已在主流电商平台全面开启预售。这款新品成功地将约1公斤的超便携机身与高达38瓦的持续高性能输出融为一体，重新定义了轻薄本
1GB显存显卡流畅体验《赛博朋克2077》 实测帧数超40帧优化指南 硬核玩家总是热衷于突破硬件极限。近期，一位技术爱好者成功完成了一项看似不可能的任务：使用仅配备1GB显存的经典显卡流畅运行《赛博朋克2077》。他选择了AMD Radeon R7 370这张老卡作为测试平台，目标不仅是在夜之城点亮
解禁在即！《极限竞速：地平线6》首批评测与实机演示下周公布 赛道准备就绪！备受全球玩家期待的开放世界赛车游戏《极限竞速：地平线6》，即将迎来首次全面曝光。根据官方安排，游戏的首批评测与实机演示内容将于北京时间4月8日晚上10点正式解禁。届时，众多已提前体验游戏的知名媒体与内容创作者，将同步发布他们的