先抛出一个略显残酷的事实:借助AI撰写学术论文,远非表面看上去那般可靠。近期,有研究团队展开统计,发现在短短三年间,被收录于学术期刊的2810篇文章里,竟有4046条参考文献纯属虚构——说白了,这些内容完全是人工智能“编造”出来的。而背后最核心的隐患,依然是AI的“幻觉”问题尚未得到解决。

具体来看,据《参考消息》6月2日发布的报道,这项发现出自美国《福布斯》杂志。研究团队针对生物医学领域发表的大量期刊文章进行了筛查,结果发现这些含有虚假、根本不存在的参考文献的文章,时间跨度覆盖2021年至2024年。换言之,这一问题并非偶然事件,而是一个逐渐累积的系统性风险。
更值得留意的是,那些被“捏造”出来的参考文献,其实并非AI蓄意欺骗,而是其在生成文本时“脑补”出的内容——模型自身也无法判断这些文献的真伪。在学术界,参考文献的真实性与可追溯性是研究工作的基本前提,而AI这种“幻觉式编造”行为,很可能直接动摇这一根基。
从宏观层面看,这一问题释放出清晰信号:当前的大语言模型,在需要精准引用与事实核查的学术写作场景中,远未达到可依赖的水平。研究团队指出,这2800多篇仅是目前已发现的案例,实际数量可能远超这个范围。说到底,AI更适合扮演辅助工具的角色,而非“代笔人”。学术论文的严谨性,终究需要人类作者亲自把关。
