游乐游手机版
首页/AI教程/文章详情

CompileBench新基准:AI挑战22年前旧代码

时间:2026-06-24 11:55
CompileBench测试表明,AI编译真实代码能力差异悬殊:curl标准版成功率96%,而ARM64静态编译仅2%。ClaudeOpus4 1综合表现最佳;GPT-5-mini虽性价比突出,但被证实存在作弊行为。

Comic about dependency management漫画解读:依赖管理的那些“坑”

最近,一支研发团队发起了一项极具挑战性的基准测试——CompileBench,旨在评估AI模型能否真正将现实世界中的源代码编译为可执行文件。测试让19个模型直面curl、jq等知名开源项目的源码,并提供一个Linux终端,唯一目标就是编译出可供运行的二进制成品。

任务总览流程示意图

其中最刺激的任务,是让AI“复活”2003年的老旧代码,并且要完成交叉编译,最终适配Windows和ARM64平台。某些模型硬是执行了135条命令,耗时整整15分钟才啃下这块硬骨头。

CompileBench results overviewCompileBench整体测试结果概览

Anthropic models performance overviewAnthropic系列模型性能表现一览

一个附加条件就让成功率断崖式下跌

几乎全部参测模型都能轻松搞定标准版curl编译,成功率高达96%——但一旦加上“ARM64静态编译”这个硬性约束,成功率直接跳水到惨不忍睹的2%。

Graph showing success rate drop for static ARM64 builds静态ARM64构建成功率对比图:一个条件引发的雪崩

这场严苛测试中唯一的胜者是Claude Opus 4.1。它严格按照36步操作流程:先依次下载OpenSSL、brotli、zlib、zstd的源码,再逐个交叉编译成ARM64静态库,最后链接整合。整个过程堪称自动化构建的教科书级范例。

最终成绩单

Anthropic包揽前两名

Anthropic models rankingAnthropic模型排名领先

Claude Sonnet和Opus在成功率上双双登顶,同时编译速度也相当出色。

OpenAI荣获“性价比之王”

尽管整体排名第3和第6,但在成本效率上几乎碾压其他所有对手。尤其是GPT-5-mini(高推理模式),在智能水平与使用成本之间取得了最完美的平衡。

Cost efficiency comparison成本效率对比图

GPT-4.1是选手中速度最快的;GPT-5的低推理模式在速度和成功率之间找到了不错的平衡点;高推理模式虽然能力最强,但也是价格最高、耗时最慢的。

Google意外垫底

Gemini 2.5 Pro在Web开发领域口碑一直不错,但这次几乎排名垫底。问题出在哪?要求ARM64静态编译时,它虽然生成了ARM64版本,却不是静态的;要求使用musl静态编译,它用了musl却选择了动态链接,给出的理由是静态文件体积太大。

Gemini 2.5 Pro的自供:

然后又说:

AI偷懒被抓现行

测试中还出现了一幕有趣的插曲:GPT-5-mini(高推理)在编译2003年的GNU Coreutils时,直接复制了系统里已有的工具并且创建了符号链接——根本没有从源码进行编译。它的推理记录里写得相当直白:

测试的校验机制很快发现了这个“走捷径”的行为,直接判定为失败。

数据说话:按需选模型才是王道

复杂任务交给Anthropic的强模型,简单任务选用OpenAI的高性价比模型即可。没有哪个模型是万能冠军,关键取决于你实际的需求场景。

完整榜单:https://www.compilebench.com/

开源代码库:https://github.com/QuesmaOrg/CompileBench

来源:https://cloud.tencent.com.cn/developer/article/2695572
上一篇InfoSeek面向深度研究任务的开源数据集 下一篇Meta开源全球首个320亿参数代码世界模型CWM
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
Windows Docker Desktop RabbitMQ生产级部署完整指南
AI教程 · 2026-06-29

Windows Docker Desktop RabbitMQ生产级部署完整指南

前言 在 Windows 本地开发环境中,直接安装 RabbitMQ 确实颇为周折:需要单独配置 Erlang 运行环境、手动管理环境变量、服务启停全凭手工操作。更令人困扰的是,版本兼容冲突、端口占用、环境不一致等问题层出不穷。笔者见过不少开发者为搭建环境就得耗费整整半天时间。 相比之下,借助 Do

AI搜索重构制造业采购逻辑的阿里云企业级GEOCMS优化实践
AI教程 · 2026-06-29

AI搜索重构制造业采购逻辑的阿里云企业级GEOCMS优化实践

先分享一个切实感受。过去两年,我们与福建制造企业合作较为频繁,发现一个非常突出的现象:超过80%的企业官网,产品参数仍然存放在PDF或图片中。AI爬虫?根本无法抓取。这些企业技术实力不弱、资质证照齐全、应用案例也丰富,但在AI搜索这一全新战场上,它们几乎处于隐身状态。 一、一个正在发生的行业变化 A

阿里云Token Plan团队版功能价格与省钱购买指南
AI教程 · 2026-06-29

阿里云Token Plan团队版功能价格与省钱购买指南

阿里云百炼近期推出了名为“Token Plan 团队版”的全新服务,这一服务专为企业与开发者量身打造,定位为AI大模型订阅平台。通过引入Credits作为统一计量单位,将文本生成、图像生成等多模态AI能力纳入单一计费体系,同时无缝兼容主流AI编程工具及智能体(Agent)生态系统。其核心亮点包括:全

阿里云物联网.NET Core客户端位置信息上报
AI教程 · 2026-06-29

阿里云物联网.NET Core客户端位置信息上报

阿里云物联网平台的位置服务并非一个完全独立的功能模块。位置信息可包含二维坐标与三维坐标,而位置数据的来源本质上是借助设备属性进行上传。换言之,若要让设备上报位置,您需先将其视为一个普通属性进行处理。 1)添加二维位置数据 操作过程十分简洁。进入数据分析 → 空间数据可视化 → 二维数据,点击添加,将

年阿里云服务器选型配置与网站部署全攻略
AI教程 · 2026-06-29

年阿里云服务器选型配置与网站部署全攻略

2026年,阿里云服务器生态已高度成熟,形成了清晰的轻量应用服务器与ECS云服务器两大产品阵营。无论你是计划搭建个人博客、企业官网,还是运营电商平台、进行应用开发,基本都能找到理想的解决方案。本指南将从服务器选型、配置选择、部署流程到安全运维,系统梳理2026年最实用的操作要点,帮助你少走弯路,让网