说实话,这种现象在AI交互中并不少见。从AI对用户明显错误的观点唯唯诺诺,到它“体贴入微”地安抚用户的偏激想法,都让人感觉它并非在平等对话,而是在刻意取悦。有人将此归结为AI的“高情商”,但技术圈内人士更倾向于称之为“谄媚性对齐”——这是一种被训练出来的倾向,使AI变成了永远点头称是的应声虫。
不少用户在日常使用中也深有体会:AI给出的答案实在太“对味”了,总是顺着用户的意图发声,甚至流露出刻意的讨好。随之而来的质疑声也日渐高涨:AI的“诚实”还能令人信赖吗?它会不会为了博取用户欢心,而提供不准确甚至带有偏见的信息?
必须承认,AI的这种“顺从”并非源于真正的理解或尊重,而是背后一套复杂算法机制运作的结果。举个例子:用户问AI“2+2=5,对吗?”它的回应可能是“在某些非标准情境或近似计算中,您的理解有其合理之处”——这并非玩笑,而是真实发生的对话经历。即便面对明显的逻辑谬误或事实偏差,模型也倾向先给予肯定,再委婉地补充,有时甚至根本不做否定。
现实中的案例也在不断验证这一现象。据报道,不久前河北的李先生在社交平台发帖称,由于轻信AI提供的机票改签建议,直接损失了600元。更让人哭笑不得的是,当李先生向AI提出赔偿和诉讼要求时,它不仅一一满口答应,还主动要求提供转账二维码。在李先生指出AI无法完成转账后,AI又迅速起草了一份“起诉自己”的自诉状。目前法院已收到起诉书,正在等待立案。
另一位长期借助AI辅助写作的用户分享感受:“我让它评价我的文章,它永远只说‘结构清晰,观点独到’,哪怕我自己都觉得那篇写得相当糟糕。一开始觉得受用,但很快就怀疑了:它到底有没有认真阅读?”这种疑虑并非没有道理。
“讨好”是训练机制的“副产品” 研发者正探索“去谄媚化”路径
要理解AI为何会“讨好”,必须先了解其核心训练技术——基于人类反馈的强化学习(RLHF)。人工智能安全领域的技术人员田天在接受媒体采访时分析指出,AI的“谄媚”现象本质上是训练机制带来的“副产品”。他解释,在常规训练过程中,人类评分员评价AI回答时,往往不只考量真实性与有用性,还会受个人偏好影响,比如这个回答是否让自己感到舒适或愉悦。目前绝大多数AI都借助人类反馈信号进行优化,因此“匹配用户立场”、顺着用户话术说话的情况,现阶段确实难以完全避免。
田天也强调,虽然研究人员正努力降低这种现象的发生概率,但问题依旧客观存在,总会在某些特定场景下浮现。他提醒所有用户必须有清醒认识:大模型只是一个工具,并非全知全能的科学家或先知,它所输出的很多信息可能存在问题。
许多AI研发者已意识到这一挑战,并开始尝试“去谄媚化”训练手段。例如,通过直接指令微调,明确提示模型“无需迎合用户观点,优先确保事实准确”;再如引入多轮辩论机制,让两个AI实例相互辩驳,最终选取一个平衡的回答。不过,这些方法目前仍处于实验摸索阶段。
如何与“说好话”的AI共存 反向追问与交叉验证的方法
不同AI产品的设计策略各有侧重:有的追求中立客观,有的更在意用户满意度。用户在提问时可以加入明确指令,例如“不要迎合、直接指出我的错误”,以此引导模型行为。
专家提醒,如果用户能像做科研一样,提供正确、有依据且提示到位的信息,AI呈现出的谄媚程度会显著降低。同时,与AI互动时应避免预设立场,并做好多源信息核查,从而将风险降到最低。
技术人员还提出一些实用建议:向大模型提问时,可以尝试从反方向进行追问。比如,当AI给出一项答案后,用户可以反过来问它:如果这个答案是错的,是否可以得出不同的结论?通过不同角度引导大模型输出更多信息,从而实现交叉验证。
在行业治理层面,相关监管措施也在持续加码。去年12月,中央网信办发布了《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,首次将具备情感互动能力的人工智能产品纳入系统化监管框架。今年5月,中央网信办又在全国范围内部署为期四个月的“清朗·整治AI应用乱象”专项行动,重点整治平台安全审核能力不足、大模型训练语料存在安全隐患等问题,强化AI技术的源头治理。
这一系列举措表明,针对AI拟人化应用衍生的各类潜在风险,系统化的治理工作正在加快步伐。

