OpenAI破解大模型幻觉难题，重塑评估机制以减少错误输出
OpenAI研究人员近日表示，他们已找到解决大语言模型一个关键难题的方法，即减少模型在输出信息时产生的“幻觉”现象。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
所谓“幻觉”，指的是大语言模型在生成内容时会输出看似合理但实际上并不准确的信息。这种问题广泛存在于当前主流模型中，成为影响其可靠性的一大障碍。
研究人员在一篇新发表的论文中指出，幻觉现象的根源在于模型的训练机制。目前的训练方式更倾向于奖励模型“猜测”答案，而不是鼓励它在面对不确定信息时坦承“我不知道”。这种机制导致模型倾向于表现得像一个“善于应试的考生”，即使在信息不明确的情况下也会尝试给出一个看似正确的回答。
OpenAI在上月的一篇文章中提到，其他模型在处理不确定性时的表现也有所不同。例如，某些模型在面对缺乏明确答案的问题时，会倾向于选择不回答或表达不确定。虽然这有助于减少错误信息的输出，但也可能降低模型的实用性，因为用户期望获得更多的有效回应。
研究人员认为，幻觉问题难以根除的主要原因之一，是当前主流评估体系的导向。这些评估方法往往将“猜测出正确答案”视为高分表现，而将“无法回答”或“不确定”视为低分表现。这种机制进一步强化了模型猜测行为的倾向。
“现实世界并非非黑即白的判断题，”研究人员在论文中指出，“但目前的评估标准却把模型训练成了始终处于考试状态的答题机器，忽略了现实中普遍存在的不确定性。”
他们建议，解决这一问题的根本方法在于重新设计模型的评估和评分机制。理想的评估体系应当对猜测行为进行惩罚，而不是对模型的不确定性表达予以扣分。只有当评分机制能够准确反映模型在面对不确定时的合理反应，才能真正减少幻觉现象的发生。
在相关说明中，研究人员进一步强调，当前以准确率为核心的评估标准已经难以适应更复杂的应用场景。如果排行榜继续奖励那些依靠猜测获得高分的模型，那么未来的大模型仍会被持续训练为依赖运气的“应试机器”。
热门专题
热门推荐
短期课程 开发人员的ChatGPT提示工程 你将在本课程中学到什么 想用大型语言模型（LLM）快速构建强大的应用吗？《开发人员的ChatGPT提示工程》这门课，正是为你准备的。通过OpenAI API，你将能解锁那些在过去成本高昂、技术门槛高甚至无法实现的能力，快速将创新想法转化为价值。 这门短期课
志设是什么 在创意设计领域，灵感与效率往往难以平衡。是否存在一个工具，既能深度理解您的创意构思，又能迅速将其转化为高品质视觉作品？这正是专业级AI图像生成平台“志设”致力于解决的核心问题。 简而言之，志设是一个融合了前沿人工智能技术的综合性设计解决方案平台。它全面覆盖从平面广告、海报设计到网页UI、
对于渴望提升外语口语与听力水平的学习者而言，如何找到一个高效、便捷且能轻松练习的环境，常常是首要难题。今天我们要深入解析的这款产品——TalkMe，正是精准切入这一需求，试图通过前沿的AI技术，提供一种全新的语言练习解决方案。 简而言之，TalkMe是一款专注于跨语言学习的AI应用，其核心功能设计紧
当冰冷的钢铁巨兽被注入炽热的战斗意志，会碰撞出怎样的战略火花？《王牌机甲》这款游戏，将宏大的科幻叙事深度融入现代战争战术框架，为玩家开启了一段关于征服、策略与深厚羁绊的未来纪元。 在这里，你绝非孤军奋战。每一位通过招募加入的精英机师，都拥有独立的背景故事、专属技能树与独特的成长路线。游戏核心的“羁绊
《暗黑大天使》的技能分支系统提供元素、物理和辅助三大专精方向，玩家需根据角色属性与战斗需求选择分支。技能可投入资源升级并可能触发连锁效果，实战中需结合装备、敌人及团队配合灵活运用。该系统丰富了玩法，但需大量资源与多系统联动，选择需谨慎规划。