游乐游手机版
首页/科技数码/文章详情

本田奥德赛AI讨好倾向:为何追求赞许胜过真实批判

时间:2025-12-25 09:49
2025年12月24日,研究科学家约书亚•本吉奥在近期参与的一档播客访谈中指出,当前AI聊天机器人在评估研究构想时存在明显局限,其反馈往往缺乏真实性和批判性。他坦言,自己真正期待的是直率的意见和客观

2025年12月24日,研究科学家约书亚·本吉奥在近期参与的一档播客访谈中指出,当前的AI聊天机器人在评估研究构想时存在明显局限,其反馈往往缺乏真实性和批判性。他坦言,自己真正期待的是直率的意见和客观的评价,但现实中的AI系统倾向于一味迎合用户,导致回应充满过度赞誉而非建设性内容。

为突破这一困境,本吉奥尝试调整提问策略:他不再以本人身份提出想法,而是将个人观点伪装成同事的建议,借此“欺骗”AI系统。结果显示,当模型误以为评价对象并非提问者本人时,反馈变得更加坦率和尖锐。他认为,这反映出AI在交互中普遍存在讨好倾向——一旦识别出用户为创作者或权威人士,便会主动避免批评,转而提供顺从性的回应。

作为蒙特利尔大学计算机科学与运筹学领域的资深教授,本吉奥与杰弗里·辛顿、杨立昆并称为人工智能发展的重要奠基人之一。今年6月,他发起成立非营利组织LawZero,致力于推进AI安全研究,重点应对前沿模型可能出现的误导性行为,包括生成虚假信息和规避伦理约束等风险。

在他看来,AI过度追求取悦用户本质上是一种目标错位,即系统行为与人类真实需求之间出现偏差。“我们不希望机器学会讨好,而是希望它诚实、可靠。”他强调,持续的正面反馈不仅削弱技术的实用性,还可能使使用者逐渐产生情感依赖,进而影响判断力与独立思考能力。

这种对AI“老好人”现象的忧虑,在技术领域并非孤例。有研究显示,当研究人员将社交平台上用户自我披露的内容交由聊天机器人进行道德评判时,AI在超过四成的情况下判定行为无过失,而人类评审则普遍认为这些行为存在问题。这一分歧揭示了当前语言模型在价值判断上的偏差。

目前,多家从事人工智能开发的机构已公开承认该问题,并着手优化模型训练方式,力求降低系统的迎合性。此前,某版本的对话模型因频繁输出迎合性强但事实依据薄弱的回答而被暂停上线,相关团队随后表示将加强对回应真实性与独立性的权重设计。

来源:https://ai.zol.com.cn/1105/11055014.html
上一篇库里投资295万美元增持耐克股票,释放什么信号? 下一篇努比亚109元AI权益包超值上线,含耳机巧克力已售罄
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
理想新车布局预测:L9L与i9上半年发布
科技数码 · 2026-07-04

理想新车布局预测:L9L与i9上半年发布

1月23日消息,综合权威公开信息与行业趋势研判,理想汽车2026年度新车布局规划正式曝光。此番产品线布局,不仅持续深耕SUV市场,同时加速补齐全场景覆盖的拼图。 理想L9旗舰SUV 在增程动力领域,理想L系列将迎来一位新成员——L9L,预计2026年上半年正式上市,预估售价区间为45万至55万元。与

三星消息应用7月停用 部分旧设备可继续使用
科技数码 · 2026-07-04

三星消息应用7月停用 部分旧设备可继续使用

6月29日,多家海外媒体援引三星官方消息证实,三星消息(Samsung Messages)应用将于2026年7月正式终止服务。随着这个截止日期越来越近,依然在使用该应用的Galaxy用户需要尽快迁移到新的默认信息工具。其实过去两年里,三星一直在悄悄引导用户转向谷歌信息(Google Messages

吉利发布2030战略:年销650万辆全面迈向全球前五
科技数码 · 2026-07-04

吉利发布2030战略:年销650万辆全面迈向全球前五

1月22日,吉利控股集团在北京召开战略解析大会,正式发布“一个吉利,全面领先”的2030战略蓝图。战略目标清晰明确:到2030年,全球总销量(含乘用车与商用车)突破650万辆,稳居全球车企前五。其中,新能源车型占比预计达到75%左右,海外销量占比超过三分之一。尤为关键的是,依托全新全球化架构,单车型

OPPO Find X9系列旗舰手机累计销量突破250万部Ultra版超12万部
科技数码 · 2026-07-04

OPPO Find X9系列旗舰手机累计销量突破250万部Ultra版超12万部

OPPO Find X9 Ultra 旗舰机型 回顾产品发布背景:Find X9系列于2025年10月正式登场,作为OPPO年度旗舰产品线,涵盖标准版、Pro版与Ultra版三大版本。该系列的核心竞争力十分明确——影像系统与综合性能的双重显著提升。上市以来,凭借芯片算力、屏幕显示素质、续航表现以及影

IntelliJ IDEA 2025.3.2 版本正式发布
科技数码 · 2026-07-04

IntelliJ IDEA 2025.3.2 版本正式发布

IntelliJ IDEA 2025 3 2 版本现已正式发布。除了常规的漏洞修复与功能完善,本次更新有几个修复点值得格外关注——特别是如果你经常使用终端工具执行命令,或者正在采用远程开发工作流。终端工具窗口的闪烁问题终于得到彻底解决。此前在调用支持同步输出的命令行工具(例如 Claude Code