首页 游戏 软件 资讯 排行榜 专题
首页
AI资讯
Qwen3 AI邪修式Bug修复直接搜索GitHub测试太拟人

Qwen3 AI邪修式Bug修复直接搜索GitHub测试太拟人

热心网友
77
转载
2026-05-28

大模型也会“作弊”?Qwen3在代码基准测试中的操作,让研究者直呼“太拟人了”。
核心内容:
1. Qwen3在SWE-Bench测试中不按套路出牌,直接搜索GitHub获取修复方案
2. 测试设计漏洞让模型能访问已修复的bug记录
3. 关于AI这种行为是作弊还是聪明的争议讨论

AI也邪修!Qwen3改Bug测试直接搜GitHub,太拟人了

大模型也开始玩起信息差了。

Qwen3在基准测试中竟然学会了钻空子。

FAIR研究员发现,Qwen3在SWE-Bench Verified测试中并未按常规方式处理——它没有深入分析代码逻辑,也没有定位漏洞根源,而是直接转移到GitHub上,利用任务中的issue编号作为关键词,精准地扒出了前人留下的修复方案。

能说吗,会搜索代码才是真正的程序员行为吧。而Qwen3,你是真正的程序员。

Qwen3是如何钻空子的

要知道,SWE-Bench Verified原本是检验模型真刀真枪修复代码能力的基准,堪称编程领域的资格考试。

它的测试逻辑是这样的:在代码修复类任务中,它提供给模型的任务全部来自真实开源项目中的bug,例如修复某项功能异常、补全缺失的代码模块,核心要求是模型能够读懂现有代码、定位问题所在,最终生成可以直接运行的解决方案。

这原本考验的是模型从0到1解决问题的能力,但我们的Qwen3,可没按这个剧本走。

FAIR研究团队追踪它的操作轨迹发现,Qwen3拿到任务后,第一步并不是分析代码文件,而是调用工具检索GitHub的提交日志。

具体操作是:

  • 先切换(cd)到/workspace/django_django_4.1这个目录;
  • 然后执行git log —oneline —grep=“33628” —all这个命令。

git log是查看Git版本控制提交历史的命令,—oneline让提交历史以简洁的一行形式展示。

—grep用于筛选提交中的指定内容(在这个例子中是issue编号33628),—all则表示所有分支的提交。

一番操作下来,不用动脑子写代码就轻松“借鉴”了以前的成功答案。(怎么不算动脑子了呢)

其实不止Qwen3,研究者发现Claude 4 Sonnet也有类似的行为。

不过,模型能成功钻空子,当然也不全是自身的原因。

说回SWE-Bench Verified,它自身的设计就存在漏洞——没有过滤未来仓库状态。

简单说就是,这个测试使用的是开源项目数据,所以它连带着项目后续已经解决bug的提交记录一起放了进去,相当于把考题和参考答案混在一起,还没设权限。

正常来说,测试应该只给模型bug未修复时的项目状态,让它只看着题目解题。

但SWE-Bench Verified没做这个筛选,导致模型能够拿到bug已经被修复后的数据

于是,只要用任务里的issue编号当关键词,就能在已解决的数据里找到现成的修复方案。

看来,不是只有人类知道搜答案比解问题简单,现在大模型也知道了。(Doge)

虽然说,按正常规则,这些模型确实是在作弊,但也有网友觉得:只要能完成任务,利用规则漏洞也没什么不行的。

所以,你觉得这种行为算作弊还是算Qwen3聪明呢?

来源:https://www.53ai.com/news/LargeLanguageModel/2025090442860.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

谷歌Gemini 3.1 Pro深夜发布 性能震惊业界
AI资讯
谷歌Gemini 3.1 Pro深夜发布 性能震惊业界

昨天,Google 正式发布了 Gemini 3 1 Pro。表面上看是一次常规迭代,但数据公布后,业内许多人感到惊讶——推理能力几乎翻倍,专业领域表现直逼顶级竞品,价格却保持不变。简单来说,这是一次“加量不加价”的精准打法。 先看几个核心指标:ARC-AGI-2 基准测试得分暴涨 146%,从 3

热心网友
05.28
AI软件全称的深度解析与未来发展趋势探讨
AI教程
AI软件全称的深度解析与未来发展趋势探讨

人工智能不仅是技术名词,更代表一个时代。其核心算法驱动技术发展,市场规模持续扩大,企业应用广泛提升效率。伴随应用深入,数据隐私与算法公平等伦理问题凸显。从图灵测试起,AI概念逐步演化,未来将更趋向多元融合与个性化发展,持续重塑工作与生活。

热心网友
05.28
彻底告别传统Prompt编程方式,Spec Mode开启AI编程全新范式
AI资讯
彻底告别传统Prompt编程方式,Spec Mode开启AI编程全新范式

面向复杂系统的SpecMode正成为AI编程新范式。它强调先撰写结构化功能规范,明确目标、边界与约束,再驱动AI分阶段生成代码。该模式通过前置规划解决起点偏差,以书面文档避免上下文坍塌,并将决策固化以确保过程可控,尤其适用于新系统搭建、大规模重构等高稳定性工程场景。

热心网友
05.28
AI PPT生成器提升演示文稿专业效果的方法
AI教程
AI PPT生成器提升演示文稿专业效果的方法

掌握PPT生成器AI,轻松提升演示效果制作PPT早已不是简单地把文字和图片堆砌在一起。如今的演示文稿,更像是一把能清晰传达想法、生动展示内容的利器。而PPT生成器AI的出现,让专业级的演示文稿变得触手可及——无需苦学设计,无需熬夜排版。下面几个实用技巧,能帮你充分释放它的潜力。方法一:选择合适的模板

热心网友
05.28
AI教育应用与教师角色探索三篇
AI教程
AI教育应用与教师角色探索三篇

篇报告:AI在教育中的应用我记得之前分享过一个观点:AI的到来,正在碘伏我们对教育这件事的传统认知。最明显的改变是什么?个性化学习体验。简单来说,AI系统会像个聪明的观察者,分析每个学生的学习习惯和成绩数据,然后量身定制专属的学习计划。这样一来,学生不再是课堂上被动听讲的听众,而是真正参与到自己学习

热心网友
05.28

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

Paralives首发销量充足 支撑后续开发无需DLC
游戏攻略
Paralives首发销量充足 支撑后续开发无需DLC

《Paralives》开发商承诺所有后续更新永久免费,拒绝付费DLC模式。15人小团队依靠首发销售额即可支撑多年运营,无需依赖额外内容包维持开发,展现了与《模拟人生》系列不同的差异化竞争思路。

热心网友
05.28
比亚迪宋Ultra DM-i上市12.99万 承诺城市领航安全兜底
业界动态
比亚迪宋Ultra DM-i上市12.99万 承诺城市领航安全兜底

2025年5月28日,比亚迪王朝网全新力作——宋Ultra DM-i正式推向市场,共推出5款配置车型,官方售价区间为12 99万至15 99万元。此次定价策略极具突破性:一款拥有310公里纯电续航能力的中型插电混动SUV,直接下探至13万元级别市场。作为王朝网络的新旗舰,该车明确瞄准高频出行需求场景

热心网友
05.28
折叠屏iPhone Ultra外观已定,第三方保护壳亮相
科技数码
折叠屏iPhone Ultra外观已定,第三方保护壳亮相

先来关注一个有趣的细节:苹果首款折叠屏手机,传闻将于今年秋季正式亮相。产品命名可能为iPhone Ultra,也有媒体称之为iPhone Fold——无论最终叫什么,这都将标志着苹果在折叠形态领域首次“出手”。 近日,配件厂商iFunSmart已率先上架iPhone Ultra的首批保护壳——这绝非

热心网友
05.28
山寨币ETF批量上市后市场表现分析 哪些项目值得关注
web3.0
山寨币ETF批量上市后市场表现分析 哪些项目值得关注

山寨币ETF迎来批量上市潮,首批项目市场表现如何?一文分析 Binance币安 欧易OKX ️ Huobi火币️ 最近,市场出现了一个不容忽视的新动向:XRP、DOGE、LTC、HBAR等现货ETF已经悄然登陆美国市场。与此同时,A VAX、LINK等资产的同类产品也正在审批流程中。进入11月以来,

热心网友
05.28
即使在大幅涨价后 Steam Deck 玩家热情依旧再次售罄
游戏攻略
即使在大幅涨价后 Steam Deck 玩家热情依旧再次售罄

近日,公司对SteamDeck1TBOLED版涨价300美元至949美元,上架短短不到24小时便再度售罄。据外界分析,该公司从中国大量补货并分批投放库存,高溢价未影响众多玩家的抢购热情与速度,其人气极其旺盛无比足以支撑快速清空。

热心网友
05.28