游乐游手机版
首页/AI热点日报/热点详情

研究揭示AI自信错觉:用户常误判其比人类更自信

类型:热点整理2026-08-15
滑铁卢大学与伦敦大学学院的研究人员在《通讯·心理学》期刊上发表了一项研究,揭示了人们对人工智能自信程度的认知偏差。研究发现,即使AI与人类给出相同答案,人们也普遍认为AI更自信。这种判断主要基于外部线索,如作答速度,而非实际表现,从而形成了“自信错觉”。研究人员警告,这种错觉可能导致用户过度信任并不

随着人工智能技术在日常生活中的应用越来越普及,用户对 AI 建议和判断的依赖也在持续上升。然而,最新研究揭示了一个值得关注的现象:即使人工智能与人类给出完全相同的答案,很多人仍会下意识认为人工智能在回答时显得更加自信。

研究揭示人工智能自信错觉:用户常误判AI比人类更自信

这项由滑铁卢大学和伦敦大学学院研究人员联合开展的研究,已发表于《通讯·心理学》期刊。研究的核心目标,是分析人们如何判断人类与人工智能在进行预测和得出结论时所表现出的自信程度。论文第一作者克拉拉·科隆巴托指出,这种认知偏差可能带来现实风险,因为用户可能会过度信任实际上并不稳定或并不可靠的人工智能系统。

自信判断依赖外部线索

为了进一步了解人们如何判断“自信”,研究团队设计了一项实验,让参与者观察人类或人工智能做出决策的过程,再对双方在每一次选择中的自信水平进行评估。结果显示,回答速度越快、决策过程看起来越顺畅,人们就越容易认为其自信程度越高。科隆巴托解释称,人们往往会不自觉地依赖这些外部线索,来推测对方是否足够笃定。

“自信错觉”源于固有偏见

研究还揭示了一个重要发现:即便缺乏真实依据,人们依然倾向于主观认为准确率更高、能力更强的一方会更有自信。科隆巴托强调,这一现象在人工智能领域尤其值得警惕。由于不少人默认 AI 在某些任务上优于人类,因此也更容易进一步推断它“更有把握”,这正是所谓的“人工智能自信错觉”。她指出,用户在判断人工智能自信程度时,很多时候依赖的并不是 AI 的真实表现,而是自己原有的认知偏见。

与人类不同,目前大多数人工智能系统通常只输出答案,却不会主动说明自己对答案有多大把握。正是这种“自信度信息”的缺失,使用户不得不自行补足认知空白。科隆巴托警告,如果人工智能不能明确表达自身把握程度,用户就会按照主观印象进行判断,这可能带来明显风险:即使人工智能本身并不确定,甚至存在较高出错概率,用户仍可能过度相信其提供的建议和结论

未来研究方向:如何清晰传递AI自信度

这项研究结论也为人工智能模型研发和人机交互设计提供了重要启发。科隆巴托表示,在人与人交流中,自信本身就是一种重要的社交信号;而大多数人工智能缺乏类人的语音表达和实体形态,也就缺少了通过语气、表情或动作传递自信程度的方式。因此,如何在人机交互场景中,以高效、直观且可信的方式传递 AI 自信度,将成为未来人工智能研究的重要方向。

目前,研究团队正在筹备下一轮研究,重点探索如何帮助用户更准确地判断人工智能的自信程度,以及如何让人工智能更清晰地向用户传达自己对预测结果的把握水平。这项研究再次强调,在人工智能产品设计中,通过更直白的表达方式和更多元的外在呈现形式,向用户明确传递系统自信程度的重要性。

来源:IT之家

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。