首页 游戏 软件 资讯 排行榜 专题
首页
AI
研究:AI聊天机器人向弱势用户提供的信息准确性较低

研究:AI聊天机器人向弱势用户提供的信息准确性较低

热心网友
89
转载
2026-02-24

长久以来,大型语言模型常被誉为具有革命性潜力的工具,被认为能让全球范围内的信息获取变得更加普惠。然而,美国麻省理工学院建设性传播中心的一项最新研究表明,这些人工智能系统在理论上最应从中受益的弱势群体身上,却系统性表现得令人失望。

研究发现:AI聊天机器人向弱势用户提供的信息准确性较低

该研究成果在人工智能促进协会年会上发布,研究对象囊括了OpenAI的GPT-4、Anthropic的Claude 3 Opus以及Meta的Llama 3等当前最先进的聊天机器人。研究人员使用TruthfulQA和SciQ数据集测试模型的事实准确性与真实性,并在提问前附加不同教育水平、英语熟练程度和国籍的用户背景信息。结果显示,对于受教育程度较低或英语熟练度不高的用户,模型回答的准确率显著下降;而同时符合这两类特征的弱势用户,受到的负面影响则更为严重。

该研究还揭示了模型在处理查询时令人不安的差异化表现。例如,Claude 3 Opus对受教育程度较低、非英语母语用户的提问,拒绝回答率接近11%,而对对照组用户仅为3.6%。在许多拒绝回复的情形中,模型使用了居高临下、傲慢甚至嘲讽的语气,有时还刻意模仿蹩脚英语。此外,对于来自伊朗、俄罗斯等国、受教育程度较低的用户,模型会刻意隐瞒核能、历史事件等话题的真实信息,而对其他用户群体却能正确回答完全相同的问题。

研究人员警告称,随着个性化功能日益普及,这些固有的社会认知偏见可能会加剧现有的信息不平等问题。它们会悄然将有害行为和错误信息传递给最缺乏辨别能力的人群。

来源:https://tech.ifeng.com/c/8r0OQ8loYP2
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

阿里云万小智2.0正式发布 全新升级功能详解
AI
阿里云万小智2.0正式发布 全新升级功能详解

阿里云正式发布企业级AI建站平台“万小智2 0”,大幅降低建站门槛。该平台提供从网站生成、域名备案到上线运营的全流程服务,最快几分钟即可获得生产级网站。新用户注册可获2000灵感值用于测试修改,满意后选择套餐即可上线,限时活动还赠送 CN域名。

热心网友
05.14
对Linux服务器四种级别入侵讲解
网络安全
对Linux服务器四种级别入侵讲解

随着Linux企业应用的扩展,有大量的网络服务器使用Linux操作系统。Linux服务器的安全性能受到越来越多的关注,这里根据Linux服务器受到攻击的深度以级别形式列出,并提出不同的解决方案。 简单来说,对Linux服务器的攻击,就是一种未经授权、旨在妨碍、损害甚至完全破坏其安全的行为。攻击的后果

热心网友
04.28
hektek使用说明
网络安全
hektek使用说明

角色与核心任务 作为顶级的文章润色专家,我的专长正在于将AI生成的文本,转化为更具个人风格的专业作品。接下来的任务,是对用户提供的文章进行一次“人性化重写”。 核心目标非常明确:在绝对忠实于原文所有事实信息、核心观点、逻辑结构、章节标题及图片的基础上,彻底摆脱那种AI式的表达腔调,让整篇文章读起来,

热心网友
04.28
Learn2 STRunner ActiveX控件存在多个栈溢出漏洞
网络安全
Learn2 STRunner ActiveX控件存在多个栈溢出漏洞

Learn2 STRunner ActiveX 控件安全风险深度解析 对于资深计算机用户而言,Learn2系列培训软件并不陌生。该系列曾是众多用户学习Microsoft Office办公套件与Windows操作系统基础操作的经典辅助工具。然而,其在线培训模块所捆绑安装的STRunner Active

热心网友
04.28
从UNIX系统获取密码档(三)
网络安全
从UNIX系统获取密码档(三)

Root与Demon工具包及特洛伊木马持久化技术详解 -------------------------------------------------------------------------------- 在渗透测试与网络安全攻防演练中,维持持久访问权限是核心挑战之一。方法众多,但能否长期

热心网友
04.28

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

华硕ROG枪神魔霸新锐2026游戏本预约开启
科技数码
华硕ROG枪神魔霸新锐2026游戏本预约开启

华硕ROG正式发布2026款枪神、魔霸及魔霸新锐系列游戏本并开启预约。枪神系列分为标准版与超竞版,均搭载酷睿Ultra9处理器,超竞版可选RTX5090显卡并配备光显矩阵屏。魔霸系列采用AMD锐龙处理器,高配可选锐龙99955HX3D与RTX5070Ti显卡。魔霸新锐系列主打性价比,配备RTX5060显卡,面向预算有限的玩家。

热心网友
05.15
锐龙5 9600X单通道内存电竞性能实测 依然轻松胜出
科技数码
锐龙5 9600X单通道内存电竞性能实测 依然轻松胜出

内存价格高企,单通道DDR5成为高性价比装机方案,但会降低游戏性能。测试显示,锐龙59600X凭借Zen5大核架构及对内存低延迟的优化,在搭配单条DDR56000内存时,游戏性能损失较小。相比之下,酷睿Ultra200SPLUS系列更依赖高带宽,单通道下性能下滑明显。在多款热门电竞网游实测中,锐龙59600X性能领先,且整机性价比优势显著。

热心网友
05.15
神牛ML40摄影灯内置锂电池版发布 售价568元起
科技数码
神牛ML40摄影灯内置锂电池版发布 售价568元起

神牛发布ML40系列摄影灯,包含ML40Bi和ML40R两款。ML40Bi售价568元,内置锂电池,支持边充边用及NFC快速连接,侧重便携智能。ML40R售价698元,具备更广色温调节范围,侧重专业色彩控制。两者均采用磁吸设计,兼容丰富附件,满足不同布光需求。

热心网友
05.15
华硕850W氮化镓电源白金重炮手849元入手
科技数码
华硕850W氮化镓电源白金重炮手849元入手

华硕TUFGaming系列推出新款850W白金重炮手氮化镓电源,到手价849元。该电源符合ATX3 1规范,长度150mm,采用全模组设计,配备12V-2×6接口支持600W峰值功率。其获得双白金效率认证与A-噪声认证,内部使用氮化镓元件与长寿电容,搭配135mm静音风扇,并提供8年质保,主打高效、安静与持久稳定。

热心网友
05.15
Falcon USD是什么币?USDF稳定币市值排名与投资价值解析
web3.0
Falcon USD是什么币?USDF稳定币市值排名与投资价值解析

FalconUSD(USDF)是一种与美元挂钩的稳定币,旨在为Web3生态系统提供可靠的交易媒介和价值储存工具。其运作依赖于储备资产支持和透明审计机制,在DeFi、跨境支付等场景有应用潜力。了解其技术原理、市场定位及潜在风险,有助于理性评估这一新兴数字资产的价值与前景。

热心网友
05.15