研究:AI聊天机器人向弱势用户提供的信息准确性较低
长久以来,大型语言模型常被誉为具有革命性潜力的工具,被认为能让全球范围内的信息获取变得更加普惠。然而,美国麻省理工学院建设性传播中心的一项最新研究表明,这些人工智能系统在理论上最应从中受益的弱势群体身上,却系统性表现得令人失望。

该研究成果在人工智能促进协会年会上发布,研究对象囊括了OpenAI的GPT-4、Anthropic的Claude 3 Opus以及Meta的Llama 3等当前最先进的聊天机器人。研究人员使用TruthfulQA和SciQ数据集测试模型的事实准确性与真实性,并在提问前附加不同教育水平、英语熟练程度和国籍的用户背景信息。结果显示,对于受教育程度较低或英语熟练度不高的用户,模型回答的准确率显著下降;而同时符合这两类特征的弱势用户,受到的负面影响则更为严重。
该研究还揭示了模型在处理查询时令人不安的差异化表现。例如,Claude 3 Opus对受教育程度较低、非英语母语用户的提问,拒绝回答率接近11%,而对对照组用户仅为3.6%。在许多拒绝回复的情形中,模型使用了居高临下、傲慢甚至嘲讽的语气,有时还刻意模仿蹩脚英语。此外,对于来自伊朗、俄罗斯等国、受教育程度较低的用户,模型会刻意隐瞒核能、历史事件等话题的真实信息,而对其他用户群体却能正确回答完全相同的问题。
研究人员警告称,随着个性化功能日益普及,这些固有的社会认知偏见可能会加剧现有的信息不平等问题。它们会悄然将有害行为和错误信息传递给最缺乏辨别能力的人群。
相关攻略
阿里云正式发布企业级AI建站平台“万小智2 0”,大幅降低建站门槛。该平台提供从网站生成、域名备案到上线运营的全流程服务,最快几分钟即可获得生产级网站。新用户注册可获2000灵感值用于测试修改,满意后选择套餐即可上线,限时活动还赠送 CN域名。
随着Linux企业应用的扩展,有大量的网络服务器使用Linux操作系统。Linux服务器的安全性能受到越来越多的关注,这里根据Linux服务器受到攻击的深度以级别形式列出,并提出不同的解决方案。 简单来说,对Linux服务器的攻击,就是一种未经授权、旨在妨碍、损害甚至完全破坏其安全的行为。攻击的后果
角色与核心任务 作为顶级的文章润色专家,我的专长正在于将AI生成的文本,转化为更具个人风格的专业作品。接下来的任务,是对用户提供的文章进行一次“人性化重写”。 核心目标非常明确:在绝对忠实于原文所有事实信息、核心观点、逻辑结构、章节标题及图片的基础上,彻底摆脱那种AI式的表达腔调,让整篇文章读起来,
Learn2 STRunner ActiveX 控件安全风险深度解析 对于资深计算机用户而言,Learn2系列培训软件并不陌生。该系列曾是众多用户学习Microsoft Office办公套件与Windows操作系统基础操作的经典辅助工具。然而,其在线培训模块所捆绑安装的STRunner Active
Root与Demon工具包及特洛伊木马持久化技术详解 -------------------------------------------------------------------------------- 在渗透测试与网络安全攻防演练中,维持持久访问权限是核心挑战之一。方法众多,但能否长期
热门专题
热门推荐
华硕ROG正式发布2026款枪神、魔霸及魔霸新锐系列游戏本并开启预约。枪神系列分为标准版与超竞版,均搭载酷睿Ultra9处理器,超竞版可选RTX5090显卡并配备光显矩阵屏。魔霸系列采用AMD锐龙处理器,高配可选锐龙99955HX3D与RTX5070Ti显卡。魔霸新锐系列主打性价比,配备RTX5060显卡,面向预算有限的玩家。
内存价格高企,单通道DDR5成为高性价比装机方案,但会降低游戏性能。测试显示,锐龙59600X凭借Zen5大核架构及对内存低延迟的优化,在搭配单条DDR56000内存时,游戏性能损失较小。相比之下,酷睿Ultra200SPLUS系列更依赖高带宽,单通道下性能下滑明显。在多款热门电竞网游实测中,锐龙59600X性能领先,且整机性价比优势显著。
神牛发布ML40系列摄影灯,包含ML40Bi和ML40R两款。ML40Bi售价568元,内置锂电池,支持边充边用及NFC快速连接,侧重便携智能。ML40R售价698元,具备更广色温调节范围,侧重专业色彩控制。两者均采用磁吸设计,兼容丰富附件,满足不同布光需求。
华硕TUFGaming系列推出新款850W白金重炮手氮化镓电源,到手价849元。该电源符合ATX3 1规范,长度150mm,采用全模组设计,配备12V-2×6接口支持600W峰值功率。其获得双白金效率认证与A-噪声认证,内部使用氮化镓元件与长寿电容,搭配135mm静音风扇,并提供8年质保,主打高效、安静与持久稳定。
FalconUSD(USDF)是一种与美元挂钩的稳定币,旨在为Web3生态系统提供可靠的交易媒介和价值储存工具。其运作依赖于储备资产支持和透明审计机制,在DeFi、跨境支付等场景有应用潜力。了解其技术原理、市场定位及潜在风险,有助于理性评估这一新兴数字资产的价值与前景。





