OpenAI 研究人员宣称已破解模型“幻觉”难题:现有评估方式在鼓励 AI“瞎蒙”
9 月 6 日消息,据《商业内幕》今日报道,OpenAI 研究人员宣称已经破解大语言模型性能最大的障碍之一 —— 幻觉问题。

注:所谓幻觉,是指大语言模型把不准确的信息当作事实输出,几乎所有主流模型都深受其困扰。
OpenAI 在周四发布的一篇论文中指出,幻觉的根源在于训练方式更偏向奖励“猜测”,而不是承认不确定性。换句话说,模型被训练成“装作知道”,而不是坦率地说“我不确定”。
不过,不同模型的表现差别明显。OpenAI 在上个月的博文中提到,Claude 在面对不确定时往往更谨慎,常常避免给出错误回答。但 OpenAI 也提醒,Claude 拒答率偏高,可能削弱了使用价值。
研究人员在论文中写道:“幻觉之所以难以消除,是因为现有的评估标准奖励猜测。模型被优化成‘考试型选手’,在不确定时猜一猜反而能提高分数。”
结果是,大语言模型几乎一直处于“考试模式”,把世界看成非黑即白的是非题。但现实远比考试复杂,不确定性往往多于确定性,绝对的准确并不常见。
研究人员指出:“人类会在现实生活的挫折中学会表达不确定性的价值,而大语言模型的评估主要依赖考试,这些考试却惩罚了不确定的回答。”
其认为,解决方法在于重新设计评估标准。“问题的根源是评估指标没有对齐,必须调整主要的评分方式,避免在模型不确定时因拒答而被扣分。”
OpenAI 在介绍论文的博文中进一步解释说:“目前广泛使用的基于准确率的评估需要更新,打分方式应当抑制‘乱猜’行为。如果排行榜继续奖励侥幸的回答,模型就会不断被训练成靠猜测过关。”
相关攻略
今天,消费电子产业链传来一则重磅消息。知名分析师郭明錤发布最新产业调查指出,OpenAI正在推进一款AI agent手机的整机研发。根据爆料,这款手机的处理器将联合联发科与高通进行定制开发,而整机的系统协同设计与制造,则由中国供应链巨头立讯精密独家负责。据悉,整机项目预计在2028年实现量产落地。
先看几个关键数据:Stripe内部的AI智能体每周能产出超过1000个代码PR;Ramp公司一半的PR由部署在Modal平台上的智能体独立完成;而Tomoro AI在同等能力下,代码量减少了六倍。这些不是概念演示,而是OpenAI在其Agents SDK更新中披露的真实生产案例。 时间来到2026年
就在昨天,ChatGPT官方发布了一张颇具太空感的预热图片。 画面里,一个发光的ChatGPT输入框正从月球的地平线上缓缓升起。细看之下,不少朋友应该已经发现了变化:聊天框里的提示语,已经从我们熟悉的“Ask ChatGPT”悄悄变成了“Message ChatGPT”。 紧接着,OpenAI的首席
一则来自供应链的消息,让AI硬件领域的未来图景变得更加清晰。天风国际证券分析师郭明錤在4月27日发布的报告中透露,OpenAI正在积极推进智能手机芯片项目,计划与高通、联发科联合开发专用处理器,并选定立讯精密作为独家系统联合设计与制造伙伴。整个项目的目标,是瞄准2028年实现量产。 OpenAI为何
科技行业的竞争格局正在经历深刻重塑,一场新的风暴似乎已悄然酝酿。近日,前苹果公司CEO约翰·斯卡利在接受福克斯商业频道专访时,提出了一个极具洞察力的观点:OpenAI已成为苹果多年来面临的最严峻竞争威胁。这一判断可能标志着,苹果在科技领域长期保持的主导地位,正站在一个历史性的转折点上。 斯卡利对此给
热门专题
热门推荐
英国工党领袖斯塔默面临公众信任挑战,支持率低迷。类似困境在欧洲多国领导人中普遍存在,德国总理默茨与法国总统马克龙的支持率同样远低于不支持率,反映出欧洲政界广泛的信任危机。
芝麻开门:安全便捷的数字资产交易平台 在数字货币的世界里,选择一个可靠、便捷的交易入口是第一步。芝麻开门作为一款服务于全球用户的知名交易平台,以其多重安全防护、对主流币种的广泛支持以及现货、杠杆等丰富功能,成为了许多交易者的选择。今天,我们就来详细梳理一下如何通过官方渠道,安全地获取并使用芝麻开门平
全球债市因通胀担忧遭剧烈抛售,长期美债收益率升至近三年高位。30年期美债收益率一度突破5%,10年期与2年期收益率同步攀升。日本30年期国债收益率单日飙升20基点创新高。油价上涨加剧通胀忧虑,策略师建议关注美债收益率在5 25%-5 5%区间的后续动向。
欧易(OKX):您的官方数字资产交易入口 在加密货币的世界里,选择一个可靠、功能全面的交易平台是第一步。欧易(OKX)作为全球领先的数字资产服务商,早已成为数百万用户的首选。它不仅提供比特币、以太坊等主流币种的现货交易,更将业务延伸至衍生品、DeFi以及NFT市场,构建了一个完整的加密生态。其背后,
gate io交易APP官方版 v7 19 1 安卓版下载与安装全指南 对于数字资产交易者来说,一个可靠、顺手的交易工具至关重要。Gate io交易APP,正是这样一款专业的平台,它为全球用户提供比特币、以太坊乃至上千种加密货币的实时行情与交易服务。其最新的安卓v7 19 1版本,在用户体验和系统稳





