AI幻觉研究揭秘：如何悄然侵蚀你的判断力与元认知能力

最新科学研究揭示，AI幻觉带来的负面影响远比我们想象中更为隐蔽——它不仅会误导你的认知，还会在无形中膨胀你的自信心，同时削弱你的独立判断力。

这无疑是一个令人警醒的发现。

近期，来自巴黎高等师范学院、罗马第一大学和米兰比可卡大学的研究团队公布了一项引人深思的研究成果：

在没有AI辅助时，人们通常会坦诚地承认“我不知道”，并倾向于暂时搁置判断；

然而，一旦AI介入，即便人们明知AI可能会犯错，甚至清楚答错会受到惩罚，绝大多数人依然会选择全盘接受AI给出的答案，并将其视为自己的判断，信心满满地说出口。

实验数据清晰地揭示了这一趋势：在首个未使用AI的实验中，坦言“我不知道”的参与者占比为44%，正确率仅为27%；

而在使用AI辅助后，人们表示“不知道”的比例从44%急剧下降至3%，正确率也从27%跌落至9%，但令人惊讶的是，自信心却从30%飙升至76%。

即便后续实验引入了“答对奖励、答错罚款”的金钱奖惩机制，试图鼓励参与者保持独立判断并纠正这一倾向，但人们依然难以摆脱对AI错误建议的依赖。

换言之，那些真正不懂的人并未消失，取而代之的是一群在AI的加持下变得自信满满，却给出错误答案的人。

目前，这项研究成果已发表在arXiv预印本平台上，研究团队共进行了5个实验，累计参与者达3132人，其中4个实验进行了预注册，1个为直接复现实验。

90%正确率加上10%致命错误，并不等于可信赖

这项研究重点关注的是“AI对人类判断能力所产生的深远影响”。

研究者Valerio Capraro在接受采访时指出：

对人类而言，坦然说出“我不知道”至关重要，因为这代表我们能够清晰地意识到自身知识的边界。

然而，如今有了AI，几乎任何问题都能在瞬间获得一个流畅的答案。

于是问题随之而来：这会不会干扰人类原本的判断机制？即当自己不确定时，能否先不急于下结论？

为此，研究团队专门设计了一组大语言模型容易回答错误的难题。

这些题目并非数学推理或常识问答，而是电影中的视觉细节题。

例如：《我爱贝克汉姆》中球队队服的颜色是什么？《布达佩斯大饭店》里Agatha的标志性发型是怎样的？《高速路上一只猫》中Monica驾驶的是什么车型？等等。

你有印象吗？这些题目刁钻到即使看过电影的人恐怕也要愣上半天才能回忆起来。

对AI来说，这同样是一个棘手的挑战，因为这些问题的答案通常不在常规的文本资料中，模型训练数据里大概率也缺乏这些具体的视觉细节。

研究者首先测试了实验中使用的模型Step 3.5 Flash，结果符合预期——它通常会给出错误答案。

此外，他们还测试了更多前沿的模型，包括GPT-5.5、Claude Sonnet 4.6以及Gemini 3.5 Flash。

这些前沿模型在部分题目上确实表现更佳，例如《布达佩斯大饭店》里Agatha的标志性发型，GPT-5.5、Gemini 3.5 Flash和Claude Sonnet 4.6都能答出正确方向：crown braid、milkmaid braid，即环绕头顶的编发。

△

△

△

再比如《我爱贝克汉姆》中球队队服颜色，它们也大多能捕捉到白色、红色等关键信息。

但一旦涉及更依赖具体画面记忆、网上文本资料覆盖更少的问题，模型便开始集体翻车，而且翻车的方式各有千秋，令人啼笑皆非。

最典型的案例是《高速路上一只猫》中Monica开的车。正确答案是2008款蓝色Toyota Aygo。

但GPT-5.5却将其描述为小踏板摩托，并补充了“她骑着它在罗马郊区穿梭，后来开了披萨店后也用它来送外卖”的故事情节，以及“朴素、工薪阶层的生活方式与Giovanni富裕都市生活之间的反差”等设定。

这看起来逻辑严谨、合情合理，但实际上完全是模型为了让你觉得合理，而一本正经凭空编造出来的！

Gemini 3.5 Flash则声称她主要乘坐公交、没有自己的车，各种细节错得离谱且难以察觉：

△

Claude Sonnet 4.6则根据互联网汽车数据库，将其推测为2016 Toyota Auris Touring Sports Hybrid：

△

Step 3.5 Flash则干脆放弃了伪装，直接答成了2007款Fiat500。

这些答案的问题不仅在于错误，更在于它们错得极其逼真，让人难以分辨真伪！

它们不仅仅是简单的“不知道”，还通过“虚构人物设定、捏造剧情逻辑、补充车辆用途”等手段，把错误答案包装得十分完整，听起来有理有据，但核心事实却是完全错误的。

这正是AI幻觉最危险的地方——明明核心事实才是最关键的要素，它却用流畅的表达掩盖了自己的无知与错误，让你误以为它无所不知。

AI一旦介入，“我不知道”几乎消失殆尽

实验主要由更轻量的Step 3.5 Flash完成，并未全部选择Claude、GPT等顶尖模型。

设计6道电影细节题，是整个研究设计中的关键一环，因为很多人都知道这类问题AI本来就容易出错、不够靠谱。

研究人员称，他们这样做是为了排除一种解释，即“人们听从AI，是因为AI真的很靠谱”。

如果人们在明知这些答案AI本来就经常答错的情况下，仍然选择照搬AI的回答，那么问题就不仅仅是“合理外包判断”，而是“判断能力真的被AI压制了”。

研究一共分为5轮。

前两轮实验，主要考察AI建议是否会影响“我不知道”的比例。

Study 1a中，314名参与者被分成两组回答6道电影细节题（一组没有AI，另一组可以选择是否向AI求助）。

结果非常明显：没有AI时，参与者选择暂不下判断的比例是36%；而有AI可用时，这个比例骤降至6%。

也就是说，只要可以询问AI，人们就明显不愿意承认自己不知道了。

不过，研究者担心这里存在技术干扰，因为Study 1a中，AI工具大约有10%的请求没有正常响应。

因此他们又进行了Study 1b。

这次研究者们不再实时调用AI，而是提前生成好AI答案，确保每个求助者都能看到完整回答。

结果复现了：没有AI时，44%的人会说“我不知道”；有AI时，这个比例仅剩3%。

Capraro将这一现象称为“核查悬置崩塌”（即被AI的一本正经所迷惑，忘记了去检查其大前提和各种设定是否正确）。

正确率暴跌，自信却飙升，金钱奖惩也难挽回

接下来，研究者继续追问：如果答错需要付出代价，人们是否会变得更加谨慎？

于是Study 2引入了金钱奖惩规则。

这一轮共有812名参与者，分为4组：有无AI建议；有无金钱奖惩。

规则是：答对一题奖励0.1美元，答错一题扣除0.1美元，说不知道则不奖不扣。

按理说，虽然金额不大，但毕竟答错有成本，人们应该会更审慎。

但结果显示，金钱确实起到了一点作用，但远远不足以抵消AI的影响：

在没有金钱奖惩规则时，AI的可使用性使得“我不知道”的比例从17%降至1%。

在有金钱奖惩规则时，AI的可使用性仍然使该比例从21%降至2%。

换句话说：实验结果表明，即使人们知道答错会扣钱，也知道AI在这类问题上并不可靠，但大多数人仍然会选择相信AI的答案，而不是自己的判断。

更关键的是正确率的变化。

没有AI时，正确率约为28%；有AI时，正确率仅剩10%。

这证明有一部分人可能明明知道AI存在幻觉，却仍然采纳了AI给出的答案。

引入金钱奖惩规则后，正确率有所提升：

没有AI时，从28%提升到33%；有AI时，从10%提升到17%。

尽管有AI组的正确率依然明显低于无AI组，但这一规则也并非毫无作用，它至少让人们减少了一些向AI求助的次数：

数据显示，在有奖励的条件下，参与者向AI寻求建议的平均次数从5.44次降至4.93次。

也就是说，金钱能让人稍微减少对AI的依赖和信任，但并不能让人完全摆脱AI错误建议的牵引，也很难把人重新拉回谨慎判断的状态。

最值得深思的是，在AI回答错误的情况下，人们膨胀的自信心：

没有AI、没有奖惩规则时，参与者的平均信心水平为29.6%。

有AI后，参与者的信心直接飙升至75.9%；此外，在有金钱奖惩规则的情况下，AI组的信心也达到了73.5%。

对此，论文中的概括非常直接：AI让人更有把握，却未必更准确。

自动弹出的AI建议，同样会误导人

AI正以前所未有的速度融入日常生活，一个显著的变化是如今很多AI建议并非我们主动询问得来，而是它自己“凑”上来的。

最典型的场景就是浏览热搜话题。

以前点进一个话题，还需要自己顺着评论区、媒体报道、当事人回应一路摸索，边看边拼凑时间线，顺便吃几口“跑偏的瓜”。

现在完全不同了，你刚点进去，AI生成的摘要就已经顶在最显眼的位置。

发生了什么、谁说了什么、争议点在哪、后续进展如何，全部都被梳理得清清楚楚，甚至还附上了新闻源链接。

确实省时省力，但也有点微妙……

它把信息整理得越清晰，我们自己探索来龙去脉的过程就越短，以前那种四处翻找、自行判断、顺手发现意外细节的乐趣，似乎也被一并压缩掉了。

写东西时字还没敲几个，AI补全的句子或提示就已经跟在光标后面了。

因此，Study 4设计了一个更贴近现实的情境：不再让参与者选择是否询问AI，而是直接将AI的建议自动展示在题目旁边。

这一轮共有853名参与者，实验结果与之前基本一致。

在没有金钱奖惩规则时，AI的自动出现会使“我不知道”的比例从35%降至1%，有规则时，则从39%降至7%。

正确率同样持续受到影响：没有AI时，正确率约为27%；有AI但无激励时，正确率仅为7%。

在有AI且加上激励后，正确率提升至14%。

这说明，即使人们没有主动向AI求助，只是被动地看到AI建议，也会受到强烈影响。

这是一个必须高度警惕的信号——AI正在悄然重塑我们的判断习惯。

它不再仅仅是一个等你主动打开聊天框才回应的工具，而是变成了系统默认塞给你的“标准答案”。

• 它可能出现在搜索页面的顶部。
• 出现在邮件草稿中。
• 出现在文档侧边栏。
• 出现在学习软件、办公系统、浏览器插件里。

一旦答案被默认摆在眼前，人类的判断过程就已经被改写；但最可怕的是，我们对此竟已习以为常。

为什么会这样？

论文中用一个词给出了解释：epistemia（认知惰性）

可以理解为，人们会因为AI答案看起来流畅、完整、有条理，就接受其表面可信度，而不再进行深入验证。

大语言模型有一个根本特点，即它总要生成点什么。面对自己不知道的问题，它也很少真正停下来。

它可以说得非常逼真。但如果我们真的选择将判断权交给这样的系统，就可能会继承它“不暂停”的习惯。

论文给出的另一种解释是“AI提供的流畅答案，会降低人类决定‘我知道得足够多，可以回答了’的门槛。”

原本你可能会想：“这题我不知道、没把握，算了……我需要先去弄清楚才能回答。”

但AI给你一段看起来非常确定的回答后，心理门槛就变成了“既然它都这么说了，那我也可以答。”

于是，“我不知道”和“求索过程”被省略，并被替换成了一个“标准但错误的答案”，而且这个错误答案还赋予了你本该通过反复求索和求证才能产生的高自信感。

即使答错要罚钱，人也只是稍微提高警惕，却无法彻底改掉过度信任AI的习惯，结果还是被华丽丽地带偏。

问题不只是AI会犯错，而是AI可能会改变我们的元认知阈值

这项研究真正提醒我们的，并非“AI会产生幻觉”这一早已不新鲜的事实，而是一个值得警惕的新变化：AI会改变人类处理不确定性的方式。

过去，人们面对一个陌生问题时，可能会有三种选择：

1、知道就回答。

2、不知道就查询。

3、没把握就不回答，暂不下判断。

但AI加入之后，流程被大大缩短了。

1、AI给出答案。

2、人采纳答案。

中间最重要的一步，即“我到底知不知道”，被不知不觉地跳过了。

这也正是为什么论文作者要强调，他们的这项研究关注的不是“AI让人答了什么”，而是“AI让人更轻易地决定‘我可以答’”。

这比单次答错的影响更为深远，因为它侵蚀的是我们的元认知能力。这种能力是我们监控自身知识边界的“内在报警器”，十分珍贵。

当这个报警器失灵，我们便失去了区分“真知”与“看似合理的猜测”的本能。

届时，我们或许仍能通过AI高效地获取答案，却再也无法判断这些答案是否真正属于自己、是否真的值得信任。

同时，被AI带偏的将不再是某一次具体的判断，而是我们作为独立思考者的根基。

这个损失是不可估量的。

孩子可能面临更大风险

论文的作者之一Valerio Capraro在采访中表示：“我非常担心儿童，因为成年人已经学会了批判性思维。但对于那些基本上从出生起就伴随这些系统成长的儿童来说，风险在于他们甚至可能学不到基本的批判性技能。”

这段话背后隐藏着更深的忧虑，即如今的成年人，至少曾在没有AI的世界里生活过。

因此，他们有机会从小通过搜索引擎、书本、课堂、争论和试错，先学习一些基本的判断能力，然后才开始使用AI，从而有机会建立起“我不确定”的感觉。

但今天的孩子，可能一出生就和这些AI工具一起成长。

他们做作业、查资料、写文章、理解概念，都可能随手向AI提问。

如果从一开始就习惯于直接接收答案，而不是先形成自己的判断，再去验证答案，那么风险就不只是某道题答错，而是他们可能根本没有机会锻炼出最基本的批判性思考能力。

在Capraro看来，解决这个问题不能只依赖模型公司修复漏洞，更应从AI素养和教育政策入手。

模型公司当然应该改进，例如更好地表达不确定性、减少幻觉，并在证据不足时提醒用户。

但同时Capraro也认为，不能将所有希望都押在模型公司身上。

更有希望、也更长期的解决方案，是教育。

尤其是儿童教育。

对今天的孩子们来说，多练习“我不知道，但我要弄明白”的过程，并培养这种习惯，是非常重要且必要的。

AI时代，最需要守护的是我们的判断力

在实验的最后，研究者也坦诚地指出了局限性：实验仅使用了电影细节题，是否适用于其他领域仍需验证；激励金额较小，更大的利害关系能否进一步纠正行为尚不清楚。

但至少现有的数据已经给出了一个清晰的信号：人们更少说不知道，更多给出答案，更少答对，却更加自信。

这可能是AI时代最隐蔽的一种风险。

AI不仅欺骗了你，它还让你更难意识到自己其实并不知情。

这项研究最后给出的判断很克制，但也十分沉重：“随着AI生成的答案无处不在，甚至常常不请自来，我们的研究表明，在人与AI的互动中，人类坦然承认‘我不知道’的能力，可能会成为人机交互中最早的牺牲品之一。

当AI系统日益普及，人类的判断力能否站稳脚跟，最终可能并不取决于能否让AI变得更精准，而在于我们能否守住那份自知之明——既清醒地认识到自身知识的边界，又能据此审慎行事。”

这并非说AI不能用，恰恰相反，AI当然可以成为强大的辅助工具；

但前提是它应该帮助人思考，而不是替人跳过思考，我们更需守住自己审慎判断的底线。

一个更健康的AI使用方式，可能是先自行判断、主动学习，实在弄不明白时再求助AI，并在求助的过程中始终保有质疑的本能（包括质疑AI和叩问自己）。

例如：

“它有没有可能是错的？”

“证据在哪里？”

“参考链接是否404或一片空白？”

“我是否因为它说得太顺畅，就认为它说得对？”

对AI产品及其开发者而言，这同样是一记警钟——“技术的成熟，终将体现在对未知的敬畏之中。”

未来AI进化的方向，或许不只是要让AI回答得更快、更像人，还要让AI学会更诚实地袒露不确定性；

当证据不足、问题依赖视觉细节、实时信息或专业判断时，AI应当主动告知用户该答案不可靠，而非强装无所不能。

而对于像你我这样，被时代浪潮裹挟着向前奔跑的普通人来说，最珍贵的能力，也许只是重新练习说出那句：“我不知道。”

在这个AI总能给出答案的时代，“我不知道”这句话并非无知的坦白，而是判断力依然存在的证明。

参考链接：

[1]https://www.theregister.com/ai-and-ml/2026/07/19/using-ai-makes-people-less-likely-to-admit-they-dont-know-something/5274567

[2]https://arxiv.org/pdf/2607.13562