首页 游戏 软件 资讯 排行榜 专题
首页
AI
AI生成论文占稿21%,学术界审稿丑闻引争议

AI生成论文占稿21%,学术界审稿丑闻引争议

热心网友
29
转载
2025-12-10

ICLR的"幻觉门"事件,可能只是一个开始。类似的问题,很可能已经在更多领域悄悄发生着——法律文书、医学论文、新闻报道、甚至政府文件。我们需要的,是在问题失控之前,建立起有效的防线。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

21%完全由AI生成,35%被AI润色,纯人类写的只剩43%。

没搞错。全球最顶级的AI学术会议,审稿人居然自己用AI来写审稿意见。更离谱的是,这些AI写的审稿意见里,还出现了引用不存在的论文、指出论文中根本没有的错误这类典型的AI"幻觉"问题。

这事被媒体称为"幻觉门"事件,说是学术界近年来最大的诚信危机,我觉得一点都不夸张。

事情是怎么发现的

ICLR(国际学习表征会议)是深度学习领域的顶级会议,每年吸引大量研究者投稿。今年的投稿量更是达到了接近2万篇,产生了7.6万份审稿意见。

有第三方机构对这些审稿意见做了分析,结果发现了一个惊人的事实:大量审稿意见带有明显的AI生成特征。进一步统计后,数字更是让人震惊——

•21%的审稿意见完全由大型语言模型生成

•35%的审稿意见被AI不同程度地润色

• 只有43%是纯人类撰写的

换句话说,超过一半的审稿意见都有AI的参与。

这还不是最离谱的。更离谱的是,这些AI生成的审稿意见质量堪忧。

有作者发现自己的论文被审稿人批评"引用了错误的数据",但他查遍全文,根本找不到审稿人说的那个数据。

有的审稿意见里引用了一篇"权威文献"来支持观点,结果作者去查,发现那篇文献压根不存在。甚至有审稿意见把example.com当成了参考文献——这就是个示例域名,用来演示URL格式的,任何正常人都不会这么干。

这些作者在社交媒体上集体吐槽,迅速引发了学术圈的广泛关注。

投稿论文本身也有问题

审稿人用AI写审稿意见已经够讽刺了,但问题不止于此。

调查发现,在随机抽取的300篇ICLR 2026投稿论文中,超过50篇存在明显的AI幻觉问题:

•伪造参考文献:引用不存在的论文,给出作者、年份甚至页码,但实际查无此文

•捏造作者信息:把真实作者替换成虚构的人名

•编造实验数据:论文中包含虚构的实验结果

也就是说,AI在双向"污染"学术评审流程——投稿的人用AI写论文造假,审稿的人用AI写审稿意见糊弄。

最后的结果是什么?可能是AI生成的假论文,被AI生成的假审稿意见判定为"高质量研究",堂而皇之地发表在顶级会议上。

想想这个画面就觉得魔幻。

为什么会这样

ICLR的主席在回应中提到了一个结构性问题:AI领域发展太快了,投稿量暴增,但审稿人的数量跟不上。

今年ICLR的投稿量接近2万篇,远超往年。

每位审稿人在两周内要审阅5篇甚至更多的论文。这个工作量确实很大,尤其是考虑到审稿人基本都是志愿者——他们有自己的研究要做,有自己的论文要写,还要抽时间来给别人免费审稿。

在这种压力下,有些人就开始走捷径了。直接把论文丢给ChatGPT,让它生成一份审稿意见,自己稍微改改就交差。

说实话,这个动机我能理解,但结果就是灾难性的。AI生成的审稿意见看起来很"专业"——篇幅长、用词规范、评分偏高——但一旦涉及具体的技术细节,就很容易出现幻觉。比如凭空编造一个"问题"来批评论文,或者引用一个根本不存在的文献。

更讽刺的是,这些问题发生在AI领域的顶级会议上。研究AI的人,被AI的幻觉问题坑了。

ICLR的应对措施

事件曝光后,ICLR组委会发布了"史上最严"的规定:

投稿端:如果论文大量使用大型语言模型却未声明,直接拒稿(desk reject),连送审的机会都没有。

审稿端:允许审稿人使用AI辅助,但审稿人需对内容负全责。一旦出现虚假引用或明显的"AI废话",该审稿人自己投稿的论文也可能被拒稿作为惩罚。

举报通道:作者可以私信标记疑似AI审稿,程序主席会集中排查并公开处理结果。

这些措施能不能根本解决问题,我持保留态度。毕竟AI检测本身就是个技术难题,而且审稿人"适度使用"AI辅助和"完全依赖"AI之间的界限也很模糊。但至少说明,学术界开始正视这个问题了。

这件事给我们的警示

我觉得这件事最值得思考的地方在于——AI正在以一种我们没想到的方式"入侵"知识生产领域。

以前我们担心的是AI会不会取代程序员、会不会取代客服、会不会取代写文案的。没想到,AI最先"攻陷"的竟然是最讲究严谨性的学术界。

而且这种攻陷是"静悄悄"的。如果不是有人专门去分析这些审稿意见的语言特征,可能到现在大家都不知道有超过一半的审稿意见被AI"污染"了。

当AI开始评判AI领域的研究成果时,我们如何确保学术知识的真实性和可靠性?

这个问题没有简单的答案。但有一点是肯定的:我们需要建立新的机制来应对这个挑战。不只是技术层面的检测工具,更需要文化层面的转变——让"使用AI辅助"不再是一件丢人的事,但前提是你要对结果负责,而且要诚实地声明。

ICLR的"幻觉门"事件,可能只是一个开始。类似的问题,很可能已经在更多领域悄悄发生着——法律文书、医学论文、新闻报道、甚至政府文件。我们需要的,是在问题失控之前,建立起有效的防线。

这大概是2025年AI领域最值得关注的一个转折点。技术的便利和风险,从来都是一体两面的。

来源:https://www.51cto.com/article/831570.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

最新APP

火柴人传奇
火柴人传奇
动作冒险 04-01
街球艺术
街球艺术
体育竞技 04-01
飞行员模拟
飞行员模拟
休闲益智 04-01
史莱姆农场
史莱姆农场
休闲益智 04-01
绝区零
绝区零
角色扮演 04-01

热门推荐

洛克王国世界异色机械方方获取攻略
游戏攻略
洛克王国世界异色机械方方获取攻略

洛克王国异色机械方方获取指南:实用战力与绝版收藏的双重选择 对《洛克王国》的老玩家而言,机械方方是机械系宠物中稳定可靠的代表。而其异色版本——异色机械方方,凭借独特的稀有配色,不仅将收藏价值和游戏“排面”提升至全新高度,本身也是一只攻防均衡、适合过渡与日常任务的实用机械系宠物。无论是追求全图鉴的收藏

热心网友
04.03
以太坊 (ETH) 币2025年11月价格预测 :多头能否重新获得动能?一文分析
web3.0
以太坊 (ETH) 币2025年11月价格预测 :多头能否重新获得动能?一文分析

以太坊2025年11月价格展望:多维数据揭示上涨动能 随着2025年第四季度拉开序幕,以太坊的市场行情正处在一个关键的十字路口。尽管在10月份经历了近7%的回调,但历史数据、链上指标与技术信号正共同描绘出一幅潜在复苏的图景。本文将深度分析以太坊在2025年11月的核心走势逻辑,探讨多头能否借此关键时

热心网友
04.03
三角洲行动2026年3月29日今日摩斯密码分享
游戏攻略
三角洲行动2026年3月29日今日摩斯密码分享

三角洲行动2026年3月29日最新摩斯密码大全与破解位置攻略 在《三角洲行动》这款热门射击游戏中,每日刷新的摩斯密码门是获取额外物资与补给的关键途径。许多玩家都在寻找当天准确的密码与高效寻路方法。为此,我们特地为各位特勤队员整理了2026年3月29日的最新情报,涵盖五张主流地图的精准密码和详细位置图

热心网友
04.03
Polyhedra Network (ZKJ币)2025年-2030年价格预测:能到1美元吗?
web3.0
Polyhedra Network (ZKJ币)2025年-2030年价格预测:能到1美元吗?

什么是 Polyhedra Network (ZKJ)? 聊起Polyhedra Network,可以把它看作是一个用前沿技术重新定义数字世界的区块链协议。它的核心武器是现代零知识证明系统。在这个网络中,明星产品zkBridge扮演着关键角色,它能在不同的区块链网络之间实现无需信任中介、也无需消耗冗

热心网友
04.03
菜鸡梦想家探索值如何获取-菜鸡梦想家怎么得到探索
游戏资讯
菜鸡梦想家探索值如何获取-菜鸡梦想家怎么得到探索

菜鸡梦想家探索值获取攻略:高效收集方法全解析 在热门游戏《菜鸡梦想家》中,探索值是解锁新章节、开启隐藏剧情和推进游戏进度的核心资源。许多玩家都在寻找增加探索值的最快方法。其实,获取途径多样且贯穿于整个游戏体验。本文将全面解析探索值的几种主流获取方式,帮助你快速积累,畅通无阻地揭开游戏所有秘密。 一、

热心网友
04.03