AI垃圾内容泛滥成灾 科学家警示学术研究遭严重破坏
科学论文的价值，根植于读者对其信息的信任。但最近一项由康奈尔大学和加州大学洛杉矶分校联合进行的研究，却揭示了一个令人不安的趋势：在四大主流学术数据库收录的论文中，竟然发现了超过14.6万条由AI生成的虚假引用。这个数字，无疑给学术界敲响了一记警钟。
大语言模型的核心缺陷
问题出在哪里？根源在于当前主流大语言模型（如Gemini、ChatGPT）的一个核心缺陷：它们擅长生成“听起来合理”的内容，却无法保证真实性。这种生成错误或捏造信息的现象，业内称之为“幻觉”。想象一下，如果一位研究者图省事，让聊天机器人帮忙起草参考文献列表而不加核实，那么模型完全可能凭空杜撰出一串根本不存在的论文标题和作者。
科学论文或许离公众生活有些距离，但其背后的研究成果，却实实在在地塑造着我们的世界——从互联网的架构到手机里的锂电池，诸多划时代的发明都始于一篇严谨的论文。然而，一旦科学家开始在论文中引用这些AI“幻觉”产生的虚假内容，公众对学术研究质量的信任基石，便会出现裂痕。
粗制滥造的学术研究
为了量化这个问题，研究团队做了一次大规模筛查。他们分析了250万篇科学论文中的1.11亿条参考文献，重点追踪那些无法与任何已发表文献匹配的引用标题。当然，部分不匹配可能只是简单的拼写错误，但分析结果明确显示，有大量“查无此文”的引用，其特征高度符合AI幻觉的产物。
需要说明的是，在聊天机器人流行之前，学术界也并非净土，早有少数不诚信的研究者会伪造引用。为了剥离这一因素，团队特意对比了2023年（大语言模型普及分水岭）前后的数据。结论非常清晰：自大语言模型被广泛采用后，这些“不存在”的参考文献数量出现了急剧上升。
更值得警惕的是，这些错误引用并非集中在某几篇“问题论文”中，而是广泛分散于大量文献。这暗示着一个普遍现象：许多研究人员在使用AI辅助生成参考文献时，可能完全省略了核实这一步。
警示信号
对于这一趋势，威奇托州立大学管理学教授乌莎·哈利将其视为一个严重的危险信号。她指出，虚假或AI生成的引用正在侵蚀学术记录的可信度，而这恰恰是同行评审和知识积累的根基。令人忧虑的是，这种不信任感正在学术界内部，特别是年轻学者群体中滋生蔓延。
本次研究中发现虚假引用的四个数据库——arXiv、bioRxiv、SSRN和PubMed Central——并非普通平台，它们都是至关重要的“科学预印本库”。在论文正式登上期刊之前，研究者通常会先将手稿上传至此，以快速传播成果，让全球科学界即时获取。颇具意味的是，这项关于AI幻觉引用的研究论文本身，目前也正托管在arXiv上。
面对愈演愈烈的问题，平台方已经开始行动。arXiv于近期宣布，将封禁那些提交含有AI幻觉引用，或任何未经严格核查的AI内容的作者账号。其科学总监斯坦因·西于尔兹松的解释一针见血：大量低质或错误的AI生成内容，正在稀释科学知识库。它们不仅是无意义的噪音，掩盖了真正有价值的研究，更可能将后来的研究者引入歧途。
Q&A
Q1：研究人员是如何发现科学论文中存在AI生成的虚假引用的？
研究团队设计了一套基于大规模数据比对的方法。他们分析了来自250万篇论文的1.11亿条参考文献，通过识别那些无法与任何已发表文献匹配的引用标题来锁定可疑对象。为了证明这与AI的关联，他们进一步对比了2023年大语言模型普及前后的数据，发现不匹配引用的数量在此之后出现了显著的急剧上升，这强烈指向了AI工具被滥用是主要原因。
Q2：大语言模型为什么会生成虚假的参考文献？
这源于大语言模型一种被称为“幻觉”的固有缺陷。它们的训练目标是生成流畅、合理的文本，而非保证事实百分百准确。因此，当被要求生成参考文献时，模型可能会基于其学习到的语言模式，“合成”出看似规范、实则完全虚构的论文条目。如果使用者不进行人工核查，这些虚假信息便会流入学术写作。
Q3：arXiv平台针对AI虚假引用问题采取了哪些措施？
arXiv平台已采取了明确的遏制措施。他们近期宣布，将对提交稿件中含有AI幻觉引用，或包含任何未经严格核查的AI生成内容的作者实施账号封禁。平台方认为，此举是为了维护科学知识库的纯净，防止低质、错误的AI内容成为干扰科研的“噪音”和误导学者的错误路标。
相关攻略
利用闲置通信光缆中的“暗光纤”，分布式声学传感技术可将光纤转化为密集的地震传感器网络，通过分析激光背向散射信号高精度监测地下振动，成本低于传统地震仪。该技术已在伊斯坦布尔、雅典等地用于绘制浅层地质结构、评估地震风险，并拓展至火山监测、海啸预警等领域，有望显著提升。
首届基础科学奖章在2026年国际基础科学大会上颁发，九位全球顶尖科学家在数学、物理与工程领域获奖，其中包含四位女性科学家。大会采用全球化评审，由多国学者严格遴选。同期公布的前沿科学奖有118篇论文获奖，作者来自多国，展现了中国研究的国际影响力。大会还宣布设立面向50岁以下中国。
荣耀AI首席科学家黄非指出，AI正从工具向操作系统跃迁。未来操作系统将以“意图”为核心，专注于理解用户需求、调度智能体、管理记忆及处理多模态交互。荣耀正实践此理念，其AI原生通用智能体操作系统AgenticOS有望年内随MagicOS11亮相。行业多家厂商预计也将跟进类似演进路径。
科技让生活更美好，这句口号在上海正不断化为现实。最新消息显示，2026年上海科技节将于5月23日至31日盛大举行，为市民带来一场前沿科技的全民盛宴。 今年是上海科技节举办的第35周年。本届活动以“科技让生活更美好”为核心主题，全面升级为一场覆盖全市的科技嘉年华。据悉，活动将精心策划七大主题板块，联动
近日，第四届中银香港科技创新奖（人工智能及机器人领域）获奖名单正式公布，商汤科技联合创始人、首席科学家林达华教授荣获殊荣。该奖项旨在表彰其在人工智能前沿科研、核心技术自主创新及产业落地转化方面作出的杰出贡献。 此次获奖，是对林达华教授及其团队长期深耕计算机视觉与多模态人工智能两大核心领域的权威认可。
热门专题
热门推荐
《极乐迪斯科》以浓烈的后工业时代氛围为背景，玩家扮演失忆警探哈里尔·杜博阿，在瑞瓦肖城调查谋杀案并寻找记忆。关键角色包括理性搭档金·曷城、作为目击者的顽童兄妹，以及后期可接触的“提图斯7人组”义警。与众多NPC深入互动能获取线索、推进剧情，逐步拼凑案件全貌，深入理解游戏世界。
《崩坏：星穹铁道》于2026年5月24日发布最新兑换码CSPDVPCU9RVL。玩家需登录游戏，通过左上角手机菜单进入功能界面，选择兑换码选项并输入代码即可领取奖励。奖励将通过游戏邮件发放，该码具有时效性且限用一次，建议尽快兑换。
探险者笔记主要通过探索地图、击败特定生物、完成任务活动以及交易兑换获取。探索时需留意各处环境细节；击败精英生物后可能从其掉落物中获得；完成任务或参与活动可直接作为奖励；此外还可通过玩家交易或系统兑换取得。收集过程融合了游戏核心体验，能逐步揭示世界背景故事。
捕捉市场拐点：深度解析BTC顶底分型识别与应用策略 在瞬息万变的加密货币市场中，精准识别趋势的潜在转折点是交易者梦寐以求的能力。面对BTC等资产的剧烈波动，是否存在一种直观且经典的技术工具，能够帮助我们有效判断阶段性顶部与底部？答案是肯定的。顶底分型，作为技术分析领域的基石形态之一，正是为揭示市场可
南向资金流向呈现显著分化。经纬天地暴跌后获12 41亿港元逆势买入；中芯国际连续5日获净买入，累计超42 7亿港元，中国海洋石油亦获持续加仓。资金抛售盈富基金、阿里巴巴及腾讯控股等。持续流入半导体与能源股，反映对产业趋势及基本面的长期看好；减持部分科技巨头则体现阶段性获利了结。