首页 游戏 软件 资讯 排行榜 专题
首页
科技数码
OpenAI 研究人员宣称已破解模型“幻觉”难题:现有评估方式在鼓励 AI“瞎蒙”

OpenAI 研究人员宣称已破解模型“幻觉”难题:现有评估方式在鼓励 AI“瞎蒙”

热心网友
93
转载
2025-09-07

9 月 6 日消息,据《商业内幕》今日报道,OpenAI 研究人员宣称已经破解大语言模型性能最大的障碍之一 —— 幻觉问题。

OpenAI 研究人员宣称已破解模型“幻觉”难题:现有评估方式在鼓励 AI“瞎蒙”

注:所谓幻觉,是指大语言模型把不准确的信息当作事实输出,几乎所有主流模型都深受其困扰。

OpenAI 在周四发布的一篇论文中指出,幻觉的根源在于训练方式更偏向奖励“猜测”,而不是承认不确定性。换句话说,模型被训练成“装作知道”,而不是坦率地说“我不确定”。

不过,不同模型的表现差别明显。OpenAI 在上个月的博文中提到,Claude 在面对不确定时往往更谨慎,常常避免给出错误回答。但 OpenAI 也提醒,Claude 拒答率偏高,可能削弱了使用价值。

研究人员在论文中写道:“幻觉之所以难以消除,是因为现有的评估标准奖励猜测。模型被优化成‘考试型选手’,在不确定时猜一猜反而能提高分数。”

结果是,大语言模型几乎一直处于“考试模式”,把世界看成非黑即白的是非题。但现实远比考试复杂,不确定性往往多于确定性,绝对的准确并不常见。

研究人员指出:“人类会在现实生活的挫折中学会表达不确定性的价值,而大语言模型的评估主要依赖考试,这些考试却惩罚了不确定的回答。”

其认为,解决方法在于重新设计评估标准。“问题的根源是评估指标没有对齐,必须调整主要的评分方式,避免在模型不确定时因拒答而被扣分。”

OpenAI 在介绍论文的博文中进一步解释说:“目前广泛使用的基于准确率的评估需要更新,打分方式应当抑制‘乱猜’行为。如果排行榜继续奖励侥幸的回答,模型就会不断被训练成靠猜测过关。”

来源:https://www.ithome.com/0/880/916.htm
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

OpenAI将推出豆包手机预计两年内上市
AI
OpenAI将推出豆包手机预计两年内上市

今天,消费电子产业链传来一则重磅消息。知名分析师郭明錤发布最新产业调查指出,OpenAI正在推进一款AI agent手机的整机研发。根据爆料,这款手机的处理器将联合联发科与高通进行定制开发,而整机的系统协同设计与制造,则由中国供应链巨头立讯精密独家负责。据悉,整机项目预计在2028年实现量产落地。

热心网友
05.18
OpenAI Agents SDK开发指南:构建智能体应用的核心框架
AI
OpenAI Agents SDK开发指南:构建智能体应用的核心框架

先看几个关键数据:Stripe内部的AI智能体每周能产出超过1000个代码PR;Ramp公司一半的PR由部署在Modal平台上的智能体独立完成;而Tomoro AI在同等能力下,代码量减少了六倍。这些不是概念演示,而是OpenAI在其Agents SDK更新中披露的真实生产案例。 时间来到2026年

热心网友
05.18
奥特曼暗示OpenAI或将推出智能手机产品
科技数码
奥特曼暗示OpenAI或将推出智能手机产品

就在昨天,ChatGPT官方发布了一张颇具太空感的预热图片。 画面里,一个发光的ChatGPT输入框正从月球的地平线上缓缓升起。细看之下,不少朋友应该已经发现了变化:聊天框里的提示语,已经从我们熟悉的“Ask ChatGPT”悄悄变成了“Message ChatGPT”。 紧接着,OpenAI的首席

热心网友
05.18
郭明錤透露OpenAI与高通联发科合作手机处理器2028年量产
AI
郭明錤透露OpenAI与高通联发科合作手机处理器2028年量产

一则来自供应链的消息,让AI硬件领域的未来图景变得更加清晰。天风国际证券分析师郭明錤在4月27日发布的报告中透露,OpenAI正在积极推进智能手机芯片项目,计划与高通、联发科联合开发专用处理器,并选定立讯精密作为独家系统联合设计与制造伙伴。整个项目的目标,是瞄准2028年实现量产。 OpenAI为何

热心网友
05.18
苹果前CEO斯卡利称OpenAI是库克时代最大挑战
AI
苹果前CEO斯卡利称OpenAI是库克时代最大挑战

科技行业的竞争格局正在经历深刻重塑,一场新的风暴似乎已悄然酝酿。近日,前苹果公司CEO约翰·斯卡利在接受福克斯商业频道专访时,提出了一个极具洞察力的观点:OpenAI已成为苹果多年来面临的最严峻竞争威胁。这一判断可能标志着,苹果在科技领域长期保持的主导地位,正站在一个历史性的转折点上。 斯卡利对此给

热心网友
05.18

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

全链网解析:欧洲多国领导人面临支持率挑战
web3.0
全链网解析:欧洲多国领导人面临支持率挑战

英国工党领袖斯塔默面临公众信任挑战,支持率低迷。类似困境在欧洲多国领导人中普遍存在,德国总理默茨与法国总统马克龙的支持率同样远低于不支持率,反映出欧洲政界广泛的信任危机。

热心网友
05.18
芝麻开门Gate.io官网入口网址及安全交易平台使用指南
web3.0
芝麻开门Gate.io官网入口网址及安全交易平台使用指南

芝麻开门:安全便捷的数字资产交易平台 在数字货币的世界里,选择一个可靠、便捷的交易入口是第一步。芝麻开门作为一款服务于全球用户的知名交易平台,以其多重安全防护、对主流币种的广泛支持以及现货、杠杆等丰富功能,成为了许多交易者的选择。今天,我们就来详细梳理一下如何通过官方渠道,安全地获取并使用芝麻开门平

热心网友
05.18
通胀担忧加剧全球债市抛售 长期美债收益率创近三年新高
web3.0
通胀担忧加剧全球债市抛售 长期美债收益率创近三年新高

全球债市因通胀担忧遭剧烈抛售,长期美债收益率升至近三年高位。30年期美债收益率一度突破5%,10年期与2年期收益率同步攀升。日本30年期国债收益率单日飙升20基点创新高。油价上涨加剧通胀忧虑,策略师建议关注美债收益率在5 25%-5 5%区间的后续动向。

热心网友
05.18
欧易交易所官方入口网址一键直达 安全登录OKX交易平台
web3.0
欧易交易所官方入口网址一键直达 安全登录OKX交易平台

欧易(OKX):您的官方数字资产交易入口 在加密货币的世界里,选择一个可靠、功能全面的交易平台是第一步。欧易(OKX)作为全球领先的数字资产服务商,早已成为数百万用户的首选。它不仅提供比特币、以太坊等主流币种的现货交易,更将业务延伸至衍生品、DeFi以及NFT市场,构建了一个完整的加密生态。其背后,

热心网友
05.18
Gate.io官方安卓交易APP v7.19.1最新版下载与使用指南
web3.0
Gate.io官方安卓交易APP v7.19.1最新版下载与使用指南

gate io交易APP官方版 v7 19 1 安卓版下载与安装全指南 对于数字资产交易者来说,一个可靠、顺手的交易工具至关重要。Gate io交易APP,正是这样一款专业的平台,它为全球用户提供比特币、以太坊乃至上千种加密货币的实时行情与交易服务。其最新的安卓v7 19 1版本,在用户体验和系统稳

热心网友
05.18