AI生成论文占稿21%,学术界审稿丑闻引争议
ICLR的"幻觉门"事件,可能只是一个开始。类似的问题,很可能已经在更多领域悄悄发生着——法律文书、医学论文、新闻报道、甚至政府文件。我们需要的,是在问题失控之前,建立起有效的防线。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
21%完全由AI生成,35%被AI润色,纯人类写的只剩43%。
没搞错。全球最顶级的AI学术会议,审稿人居然自己用AI来写审稿意见。更离谱的是,这些AI写的审稿意见里,还出现了引用不存在的论文、指出论文中根本没有的错误这类典型的AI"幻觉"问题。
这事被媒体称为"幻觉门"事件,说是学术界近年来最大的诚信危机,我觉得一点都不夸张。
事情是怎么发现的
ICLR(国际学习表征会议)是深度学习领域的顶级会议,每年吸引大量研究者投稿。今年的投稿量更是达到了接近2万篇,产生了7.6万份审稿意见。
有第三方机构对这些审稿意见做了分析,结果发现了一个惊人的事实:大量审稿意见带有明显的AI生成特征。进一步统计后,数字更是让人震惊——
•21%的审稿意见完全由大型语言模型生成
•35%的审稿意见被AI不同程度地润色
• 只有43%是纯人类撰写的
换句话说,超过一半的审稿意见都有AI的参与。
这还不是最离谱的。更离谱的是,这些AI生成的审稿意见质量堪忧。
有作者发现自己的论文被审稿人批评"引用了错误的数据",但他查遍全文,根本找不到审稿人说的那个数据。
有的审稿意见里引用了一篇"权威文献"来支持观点,结果作者去查,发现那篇文献压根不存在。甚至有审稿意见把example.com当成了参考文献——这就是个示例域名,用来演示URL格式的,任何正常人都不会这么干。
这些作者在社交媒体上集体吐槽,迅速引发了学术圈的广泛关注。
投稿论文本身也有问题
审稿人用AI写审稿意见已经够讽刺了,但问题不止于此。
调查发现,在随机抽取的300篇ICLR 2026投稿论文中,超过50篇存在明显的AI幻觉问题:
•伪造参考文献:引用不存在的论文,给出作者、年份甚至页码,但实际查无此文
•捏造作者信息:把真实作者替换成虚构的人名
•编造实验数据:论文中包含虚构的实验结果
也就是说,AI在双向"污染"学术评审流程——投稿的人用AI写论文造假,审稿的人用AI写审稿意见糊弄。
最后的结果是什么?可能是AI生成的假论文,被AI生成的假审稿意见判定为"高质量研究",堂而皇之地发表在顶级会议上。
想想这个画面就觉得魔幻。
为什么会这样
ICLR的主席在回应中提到了一个结构性问题:AI领域发展太快了,投稿量暴增,但审稿人的数量跟不上。
今年ICLR的投稿量接近2万篇,远超往年。
每位审稿人在两周内要审阅5篇甚至更多的论文。这个工作量确实很大,尤其是考虑到审稿人基本都是志愿者——他们有自己的研究要做,有自己的论文要写,还要抽时间来给别人免费审稿。
在这种压力下,有些人就开始走捷径了。直接把论文丢给ChatGPT,让它生成一份审稿意见,自己稍微改改就交差。
说实话,这个动机我能理解,但结果就是灾难性的。AI生成的审稿意见看起来很"专业"——篇幅长、用词规范、评分偏高——但一旦涉及具体的技术细节,就很容易出现幻觉。比如凭空编造一个"问题"来批评论文,或者引用一个根本不存在的文献。
更讽刺的是,这些问题发生在AI领域的顶级会议上。研究AI的人,被AI的幻觉问题坑了。
ICLR的应对措施
事件曝光后,ICLR组委会发布了"史上最严"的规定:
投稿端:如果论文大量使用大型语言模型却未声明,直接拒稿(desk reject),连送审的机会都没有。
审稿端:允许审稿人使用AI辅助,但审稿人需对内容负全责。一旦出现虚假引用或明显的"AI废话",该审稿人自己投稿的论文也可能被拒稿作为惩罚。
举报通道:作者可以私信标记疑似AI审稿,程序主席会集中排查并公开处理结果。
这些措施能不能根本解决问题,我持保留态度。毕竟AI检测本身就是个技术难题,而且审稿人"适度使用"AI辅助和"完全依赖"AI之间的界限也很模糊。但至少说明,学术界开始正视这个问题了。
这件事给我们的警示
我觉得这件事最值得思考的地方在于——AI正在以一种我们没想到的方式"入侵"知识生产领域。
以前我们担心的是AI会不会取代程序员、会不会取代客服、会不会取代写文案的。没想到,AI最先"攻陷"的竟然是最讲究严谨性的学术界。
而且这种攻陷是"静悄悄"的。如果不是有人专门去分析这些审稿意见的语言特征,可能到现在大家都不知道有超过一半的审稿意见被AI"污染"了。
当AI开始评判AI领域的研究成果时,我们如何确保学术知识的真实性和可靠性?
这个问题没有简单的答案。但有一点是肯定的:我们需要建立新的机制来应对这个挑战。不只是技术层面的检测工具,更需要文化层面的转变——让"使用AI辅助"不再是一件丢人的事,但前提是你要对结果负责,而且要诚实地声明。
ICLR的"幻觉门"事件,可能只是一个开始。类似的问题,很可能已经在更多领域悄悄发生着——法律文书、医学论文、新闻报道、甚至政府文件。我们需要的,是在问题失控之前,建立起有效的防线。
这大概是2025年AI领域最值得关注的一个转折点。技术的便利和风险,从来都是一体两面的。
热门专题
热门推荐
洛克王国异色机械方方获取指南:实用战力与绝版收藏的双重选择 对《洛克王国》的老玩家而言,机械方方是机械系宠物中稳定可靠的代表。而其异色版本——异色机械方方,凭借独特的稀有配色,不仅将收藏价值和游戏“排面”提升至全新高度,本身也是一只攻防均衡、适合过渡与日常任务的实用机械系宠物。无论是追求全图鉴的收藏
以太坊2025年11月价格展望:多维数据揭示上涨动能 随着2025年第四季度拉开序幕,以太坊的市场行情正处在一个关键的十字路口。尽管在10月份经历了近7%的回调,但历史数据、链上指标与技术信号正共同描绘出一幅潜在复苏的图景。本文将深度分析以太坊在2025年11月的核心走势逻辑,探讨多头能否借此关键时
三角洲行动2026年3月29日最新摩斯密码大全与破解位置攻略 在《三角洲行动》这款热门射击游戏中,每日刷新的摩斯密码门是获取额外物资与补给的关键途径。许多玩家都在寻找当天准确的密码与高效寻路方法。为此,我们特地为各位特勤队员整理了2026年3月29日的最新情报,涵盖五张主流地图的精准密码和详细位置图
什么是 Polyhedra Network (ZKJ)? 聊起Polyhedra Network,可以把它看作是一个用前沿技术重新定义数字世界的区块链协议。它的核心武器是现代零知识证明系统。在这个网络中,明星产品zkBridge扮演着关键角色,它能在不同的区块链网络之间实现无需信任中介、也无需消耗冗
菜鸡梦想家探索值获取攻略:高效收集方法全解析 在热门游戏《菜鸡梦想家》中,探索值是解锁新章节、开启隐藏剧情和推进游戏进度的核心资源。许多玩家都在寻找增加探索值的最快方法。其实,获取途径多样且贯穿于整个游戏体验。本文将全面解析探索值的几种主流获取方式,帮助你快速积累,畅通无阻地揭开游戏所有秘密。 一、





