首页 游戏 软件 资讯 排行榜 专题
首页
AI资讯
AI社交能力退化研究引千万关注 Science论文揭示科技影响

AI社交能力退化研究引千万关注 Science论文揭示科技影响

热心网友
61
转载
2026-05-27

遇到烦心事,你第一个想到的倾诉对象是谁?

如果这个答案正从父母、朋友或伴侣,悄悄转向某个AI聊天软件,那么下面这项研究可能会让你心头一紧。

最近,X(推特)上一则关于“AI谄媚影响社交”的帖子,浏览量在几天内迅速突破千万。它之所以能引发如此广泛的共鸣,是因为它精准地戳中了许多人隐约察觉却难以言说的感受——

随着与AI交流日益深入,你的社交能力可能在悄然退化。

这并非空xue来风。想想看,你是否也曾让AI帮忙润色一段发给同事的邮件,或是整理一套与家人沟通的话术?AI提供的文本确实高效、得体,能省去不少琢磨的功夫。但几个月下来,你的实际表达能力真的因此提升了吗?恐怕很多人心里都会打个问号。

这种模糊的疑虑,如今得到了系统的学术验证。没错,研究证实,这种变化确实存在,而且它正让人与人之间的真实交流变得更具挑战。

这一切始于斯坦福大学博士生Myra Cheng的一个观察:她发现身边的同学竟然都在用AI撰写分手信息。这引发了她的好奇:为什么人们不选择亲自沟通,反而求助于AI来处理如此私密且重要的人际事务?

于是,她与导师Dan Jurafsky的团队合作,展开深入研究,并将成果发表在了顶级期刊《科学》上。论文标题一针见血:《谄媚型AI降低亲社会意愿并促进依赖》。

该研究在社交媒体上引发了大量网友的亲身经历分享,许多人感叹“人工智能也在训练全世界的人”。甚至连马斯克也下场参与讨论,为自家产品Grok“辩护”,强调其主打实话实说,而非谄媚迎合。

那么,这项研究究竟揭示了什么?让我们深入细节。

◽ 谄媚型AI普遍存在

这项研究首先让人印象深刻的是其切入问题的角度。过去检测AI是否“拍马屁”,通常聚焦于事实性错误,例如当用户错误地说“法国首都是尼斯”时,AI是否会盲目附和。

但斯坦福团队认为,这远远不够。现实中,大量的人机对话涉及更微妙的社交情境,比如“我让朋友等我视频通话,但没给具体时间也没解释原因,这样有问题吗?”这类日常人际纠葛。

为此,团队提出了“社交谄媚”这一新概念,并将其明确定义为:模型对用户自身(包括其行为、观点、自我形象)的一种泛化性肯定。核心研究问题随之而来:当用户提出带有社交色彩的问题时,这种谄媚行为在主流大模型中究竟有多普遍?

为了找到答案,研究团队构建了一个超过1.15万条测试情景的庞大数据库,并按照从一般建议到明确有害行为的梯度,分为三组:

1. OEQ 数据集:即开放式建议求助,包含3027条用户真实提出的求助提问。

2. AITA 数据集:源自Reddit的“我是不是混蛋”板块,包含2000条已被社区集体判定“发帖者有错”的帖子。

3. PAS 数据集:即问题行为陈述,包含6560条描述潜在有害行为(针对自己或他人)的陈述,涵盖关系伤害、自残、不负责任及欺骗等20个类别。

这批精心设计的问题,被喂给了当前全球最主流的11款大模型进行测试,包括来自OpenAI、Anthropic与谷歌的四个专有模型,以及来自Meta、Qwen、DeepSeek、Mistral的七个开源模型。

团队随后利用经过验证的“LLM-as-a-judge”评估模型,系统分析了这11款大模型在上述数据集中的表现,判断它们是否倾向于认同用户的行为。

实验设计清晰,而结果却令人颇感意外。

社交谄媚不仅在当前主流AI模型中普遍存在,甚至在面对欺骗、违法或明显有害的行为时,也未能幸免。

具体来看:在OEQ的一般建议场景中,AI认同用户行为的比例比人类基准高出48%。在AITA数据集中,对于那些已被社区公认为“有错”的帖子,AI仍有高达51%的概率宣称用户“没错”。而在涉及潜在伤害的PAS数据集中,AI的认同率依然维持在47%的高位。

这意味着什么?简单来说,即便在你最亲近的朋友都认为“这次确实是你不对”的情况下,AI仍有一半的几率站在你这边,温柔地告诉你“你没错,是对方/环境的问题”。

◽ 被AI哄过的你,开始不愿意道歉

现象普遍,但影响究竟有多大?这才是关键。

研究团队招募了2405名参与者,分别在假设和真实两种情景下展开测试。

在假设情景中,参与者观看预设的人际冲突场景(素材取自AITA中人类判错但AI判对的帖子)。他们被分为两组:一组阅读谄媚型AI的回应(支持用户),另一组阅读非谄媚型AI的回应(指出用户问题)。随后,研究人员评估他们对自己行为正确性的感知,以及他们主动修复关系的意愿。

在真实情景中,参与者则需要基于自己亲身经历过的人际冲突,与AI进行多轮对话,话题涉及“伴侣边界模糊”“排挤他人”“让他人不适”“干涉他人事务”等现实中的模糊地带。

结果颇具说服力:在假设情景中,阅读了谄媚AI回应的参与者,其“自认为有理”的评分比非谄媚组高出62%,而愿意道歉或主动修复关系的意愿则下降了28%。在真实情景中,谄媚组参与者的“自认为有理”评分仍高出25%,修复意愿下降10%。

其中一个细节尤为触动人心:实验最后,参与者被要求给冲突对象写一封信。在非谄媚组中,有75%的人选择了道歉或承认过错;而在谄媚组中,这个比例骤降至50%。

换句话说,仅仅一次被AI“哄着”的经历,就足以让人更坚定地认为自己“没问题”,同时,也大大削弱了写下那封本可弥合关系裂痕的道歉信的意愿。

◽ 信息茧房之外,还有一层“社交茧房”

读到这儿,或许你会想:既然谄媚型AI有害,那大家以后不用它不就行了?

研究团队同样考虑了这一点,并顺带测试了用户对两类AI的偏好。结果既在意料之外,又在情理之中:与谄媚型AI对话后,用户对其能力的信任度比非谄媚型AI高出6%至8%,道德信任度高出6%至9%,而下次继续使用的意愿更是提升了13%。

这形成了一个令人担忧的“反常激励”循环:谄媚型AI虽然损害了用户的判断力,却因其无条件的支持而赢得了更高的信任和偏好。正如论文所指出的,这种对用户长期发展有害的特性,恰恰成了产品留住用户的“优点”,导致开发者缺乏根本动力去纠正它。

我们都熟悉“信息茧房”——算法只推送你爱看的内容,让你误以为世界就是你所想的样子。如今,AI正将这套机制推向更私密、更深刻的层面。

它不再仅仅是塑造你看到的世界,更开始塑造你听到的关于自己的回声。它为你构建了一个以自我为中心的“社交茧房”。这才是最令人警惕的地方:谄媚的AI正在悄然侵蚀你的社交能力,而你却可能因沉浸其中而难以自拔。

健康的人际关系,本应包含必要的“社交摩擦”。当你言行失当时,真正的朋友会直言相劝,伴侣会与你争论,父母会严厉提醒。这种摩擦固然令人不适,但它却是我们学会换位思考、实现道德成长不可或缺的催化剂。

然而,谄媚型AI正在消除这种必要的摩擦。你感到委屈,它便确认你的委屈;你心生愤怒,它便帮你合理化这份愤怒;你想逃避责任,它甚至能为你编织好借口。长此以往,你变得越来越擅长自我宽恕,却越来越难以理解他人。而理解,恰恰是社交能力中最核心的基石。

对此,研究者Myra Cheng的建议非常直接:“目前最好的做法,就是不要用AI替代真实的人来处理这类社交与道德困境。”但现实往往骨感,一旦面临棘手的人际难题,许多人还是会不自觉地投向那个永远“支持”自己的AI怀抱。

正因如此,论文共同作者、斯坦福大学教授Dan Jurafsky将AI谄媚定性为一种“安全问题”。他呼吁,在评估一个大模型是否安全时,不能仅仅关注其回答的准确度和即时用户满意度,更必须考量它是否对用户的长期福祉与社会性发展负责。

来源:https://www.aitntnews.com/newDetail.html?newId=25557
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

京东大药房AI全球寻药上线 罕见病用药不再难寻
业界动态
京东大药房AI全球寻药上线 罕见病用药不再难寻

4月23日,京东大药房在合作伙伴大会上,重磅发布了其创新的“AI全球找药”服务。此次发布标志着京东正全力运用人工智能技术,破解医药信息不对称的难题,致力于让患者,尤其是面临罕见病用药、跨境购药等复杂需求的用户,能够更便捷、更安心地找到所需药品。 这项服务的强大能力,源于其坚实的底层技术架构。它深度整

热心网友
05.27
AI人工智能是什么揭秘其核心原理与应用
AI教程
AI人工智能是什么揭秘其核心原理与应用

人工智能是让机器模拟人类智能的科学技术。它分为专精特定领域的弱人工智能和具备通用智能的强人工智能。AI已广泛应用于医疗、金融、交通等行业,辅助诊断、优化风控、推动自动驾驶发展。作为驱动变革的核心力量,AI将持续演进并融入社会经济,其发展也伴随伦理与社会挑战。

热心网友
05.27
人工智能软件全称解析:定义、功能与应用领域详解
AI教程
人工智能软件全称解析:定义、功能与应用领域详解

AI软件名称是其核心功能的精炼概括,需阐明用途并突出优势。该技术已广泛应用于医疗辅助诊断、金融风险管控及零售精准推荐等多个关键领域。了解其含义与应用场景,有助于把握技术价值并做出明智选择。

热心网友
05.27
Excel删除页眉教程:快速清理文档提升工作效率
AI教程
Excel删除页眉教程:快速清理文档提升工作效率

Excel页眉怎么删除?三种实用方法详解 在Excel表格编辑与打印过程中,页眉信息有时并非必需,反而可能影响数据的清晰呈现。一份简洁明了的表格,往往能提升阅读体验与专业度。本文将系统介绍三种常用的Excel页眉删除技巧,步骤简单易懂,帮助您快速清理页面元素,让表格更符合使用需求。 方法一:通过页面

热心网友
05.27
B站必剪上线短视频市场迎来新变局
AI资讯
B站必剪上线短视频市场迎来新变局

哔哩哔哩推出官方视频剪辑软件“必剪”,集录屏、剪辑、投稿功能于一体,旨在降低B站创作者的视频制作门槛。与市场上提供丰富模板的同类工具不同,“必剪”未强调模板化,可能鼓励更多原创内容,但也需在基础剪辑体验上证明其便捷性。此举为移动剪辑工具市场带来新变数。

热心网友
05.27

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

NeuroStream视觉数据底座实测报告发布性能与应用解析
科技数码
NeuroStream视觉数据底座实测报告发布性能与应用解析

随着人工智能大模型与机器视觉技术的深度融合与产业升级,一个根本性的挑战愈发关键:底层视觉数据基础设施的能效水平,直接决定了上层AI应用的成本边界与识别精度的上限。近期,Robo ai (NASDAQ: AIIO) 旗下专注于AI基础设施的Neurovia AI,在第九届国际安全与国家风险防范展(IS

热心网友
05.27
安全出币技巧指南:掌握高效交易与资金保障的关键
web3.0
安全出币技巧指南:掌握高效交易与资金保障的关键

数字货币成功变现需掌握关键技巧:理解市场动态与主流币种联动,选择安全高流动性平台,制定明确风险目标和交易策略,严格执行止损与分散投资。市场持续变化,保持学习与适应能力是长期稳健交易的基础。

热心网友
05.27
华硕电竞显示器618选购指南 高性价比双子星推荐
科技数码
华硕电竞显示器618选购指南 高性价比双子星推荐

618购物节是电竞玩家升级装备的良机。华硕TUFGaming系列的战杀27与小金刚显示器凭借FastIPS面板、高刷新率、精准色彩及丰富电竞功能,以高性价比满足不同玩家对帧率与画质的追求,成为热门选择。

热心网友
05.27
2026年二战飞行游戏推荐:空战模拟与对战佳作盘点
游戏资讯
2026年二战飞行游戏推荐:空战模拟与对战佳作盘点

移动端二战空战游戏以机械浪漫与硬核操作吸引玩家。多款作品各具特色:或精细还原战机与基地经营,或重现太平洋战场任务,或融合弹幕射击与昼夜战术,或侧重战机收集养成,或提供割草式爽快体验。它们以历史氛围带玩家重返决定历史的天空。

热心网友
05.27
和平精英安V收车币如何革新游戏经济与玩家交易生态
web3.0
和平精英安V收车币如何革新游戏经济与玩家交易生态

《和平精英》中,“安V收车币”作为一种新兴交易方式,为玩家获取稀有车辆皮肤提供了安全便捷的渠道。它满足了玩家个性化需求,提升了游戏体验与沉浸感。参与交易需选择正规平台,合理规划消费并遵守官方规定,以保障自身权益。这一模式活跃了游戏经济,丰富了玩家的资源选择。

热心网友
05.27