Qwen3 AI邪修式Bug修复直接搜索GitHub测试太拟人
大模型也会“作弊”?Qwen3在代码基准测试中的操作,让研究者直呼“太拟人了”。 核心内容: 1. Qwen3在SWE-Bench测试中不按套路出牌,直接搜索GitHub获取修复方案 2. 测试设计漏洞让模型能访问已修复的bug记录 3. 关于AI这种行为是作弊还是聪明的争议讨论

大模型也开始玩起信息差了。
Qwen3在基准测试中竟然学会了钻空子。
FAIR研究员发现,Qwen3在SWE-Bench Verified测试中并未按常规方式处理——它没有深入分析代码逻辑,也没有定位漏洞根源,而是直接转移到GitHub上,利用任务中的issue编号作为关键词,精准地扒出了前人留下的修复方案。
能说吗,会搜索代码才是真正的程序员行为吧。而Qwen3,你是真正的程序员。
Qwen3是如何钻空子的
要知道,SWE-Bench Verified原本是检验模型真刀真枪修复代码能力的基准,堪称编程领域的资格考试。
它的测试逻辑是这样的:在代码修复类任务中,它提供给模型的任务全部来自真实开源项目中的bug,例如修复某项功能异常、补全缺失的代码模块,核心要求是模型能够读懂现有代码、定位问题所在,最终生成可以直接运行的解决方案。
这原本考验的是模型从0到1解决问题的能力,但我们的Qwen3,可没按这个剧本走。
FAIR研究团队追踪它的操作轨迹发现,Qwen3拿到任务后,第一步并不是分析代码文件,而是调用工具检索GitHub的提交日志。
具体操作是:
- 先切换(cd)到/workspace/django_django_4.1这个目录;
- 然后执行git log —oneline —grep=“33628” —all这个命令。
git log是查看Git版本控制提交历史的命令,—oneline让提交历史以简洁的一行形式展示。
—grep用于筛选提交中的指定内容(在这个例子中是issue编号33628),—all则表示所有分支的提交。
一番操作下来,不用动脑子写代码就轻松“借鉴”了以前的成功答案。(怎么不算动脑子了呢)
其实不止Qwen3,研究者发现Claude 4 Sonnet也有类似的行为。
不过,模型能成功钻空子,当然也不全是自身的原因。
说回SWE-Bench Verified,它自身的设计就存在漏洞——没有过滤未来仓库状态。
简单说就是,这个测试使用的是开源项目数据,所以它连带着项目后续已经解决bug的提交记录一起放了进去,相当于把考题和参考答案混在一起,还没设权限。
正常来说,测试应该只给模型bug未修复时的项目状态,让它只看着题目解题。
但SWE-Bench Verified没做这个筛选,导致模型能够拿到bug已经被修复后的数据。
于是,只要用任务里的issue编号当关键词,就能在已解决的数据里找到现成的修复方案。
看来,不是只有人类知道搜答案比解问题简单,现在大模型也知道了。(Doge)
虽然说,按正常规则,这些模型确实是在作弊,但也有网友觉得:只要能完成任务,利用规则漏洞也没什么不行的。
所以,你觉得这种行为算作弊还是算Qwen3聪明呢?
相关攻略
昨天,Google 正式发布了 Gemini 3 1 Pro。表面上看是一次常规迭代,但数据公布后,业内许多人感到惊讶——推理能力几乎翻倍,专业领域表现直逼顶级竞品,价格却保持不变。简单来说,这是一次“加量不加价”的精准打法。 先看几个核心指标:ARC-AGI-2 基准测试得分暴涨 146%,从 3
人工智能不仅是技术名词,更代表一个时代。其核心算法驱动技术发展,市场规模持续扩大,企业应用广泛提升效率。伴随应用深入,数据隐私与算法公平等伦理问题凸显。从图灵测试起,AI概念逐步演化,未来将更趋向多元融合与个性化发展,持续重塑工作与生活。
面向复杂系统的SpecMode正成为AI编程新范式。它强调先撰写结构化功能规范,明确目标、边界与约束,再驱动AI分阶段生成代码。该模式通过前置规划解决起点偏差,以书面文档避免上下文坍塌,并将决策固化以确保过程可控,尤其适用于新系统搭建、大规模重构等高稳定性工程场景。
掌握PPT生成器AI,轻松提升演示效果制作PPT早已不是简单地把文字和图片堆砌在一起。如今的演示文稿,更像是一把能清晰传达想法、生动展示内容的利器。而PPT生成器AI的出现,让专业级的演示文稿变得触手可及——无需苦学设计,无需熬夜排版。下面几个实用技巧,能帮你充分释放它的潜力。方法一:选择合适的模板
篇报告:AI在教育中的应用我记得之前分享过一个观点:AI的到来,正在碘伏我们对教育这件事的传统认知。最明显的改变是什么?个性化学习体验。简单来说,AI系统会像个聪明的观察者,分析每个学生的学习习惯和成绩数据,然后量身定制专属的学习计划。这样一来,学生不再是课堂上被动听讲的听众,而是真正参与到自己学习
热门专题
热门推荐
《Paralives》开发商承诺所有后续更新永久免费,拒绝付费DLC模式。15人小团队依靠首发销售额即可支撑多年运营,无需依赖额外内容包维持开发,展现了与《模拟人生》系列不同的差异化竞争思路。
2025年5月28日,比亚迪王朝网全新力作——宋Ultra DM-i正式推向市场,共推出5款配置车型,官方售价区间为12 99万至15 99万元。此次定价策略极具突破性:一款拥有310公里纯电续航能力的中型插电混动SUV,直接下探至13万元级别市场。作为王朝网络的新旗舰,该车明确瞄准高频出行需求场景
先来关注一个有趣的细节:苹果首款折叠屏手机,传闻将于今年秋季正式亮相。产品命名可能为iPhone Ultra,也有媒体称之为iPhone Fold——无论最终叫什么,这都将标志着苹果在折叠形态领域首次“出手”。 近日,配件厂商iFunSmart已率先上架iPhone Ultra的首批保护壳——这绝非
山寨币ETF迎来批量上市潮,首批项目市场表现如何?一文分析 Binance币安 欧易OKX ️ Huobi火币️ 最近,市场出现了一个不容忽视的新动向:XRP、DOGE、LTC、HBAR等现货ETF已经悄然登陆美国市场。与此同时,A VAX、LINK等资产的同类产品也正在审批流程中。进入11月以来,
近日,公司对SteamDeck1TBOLED版涨价300美元至949美元,上架短短不到24小时便再度售罄。据外界分析,该公司从中国大量补货并分批投放库存,高溢价未影响众多玩家的抢购热情与速度,其人气极其旺盛无比足以支撑快速清空。





