研究发现：主流 AI 聊天机器人传播虚假信息的概率较去年翻倍
9 月 14 日消息，据 Newsguard 的研究显示，截至今年 8 月，十大生成式 AI 工具在处理实时新闻话题时，有 35% 的情况会重复传播虚假信息，而去年 8 月这一数据为 18%。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
虚假信息传播率的激增与一个重大的权衡有关。当聊天机器人引入实时网络搜索功能后，它们不再拒绝回答用户问题 —— 拒绝率从 2024 年 8 月的 31% 降至一年后的 0%。然而，这一变化使得这些 AI 机器人开始接入“受污染的网络信息生态系统”：在该系统中，不良行为者会蓄意散布虚假信息，而 AI 系统会对这些信息进行重复传播。
此类问题并非首次出现。去年，Newsguard 就标记出 966 个以 16 种语言运营的 AI 生成新闻 。这些 常使用“iBusiness Day”等通用名称，模仿正规媒体机构，实则传播虚假新闻。
注意到，各 AI 模型的具体表现细分数据显示，Inflection 公司的模型表现最差，传播虚假信息的概率高达 56.67%；紧随其后的是 Perplexity，出错率为 46.67%。ChatGPT 与 Meta 的 AI 模型传播虚假信息的比例为 40%；Copilot（微软必应聊天）和 Mistral 则为 36.67%。表现最佳的两款模型为 Claude 和 Gemini，其错误率分别为 10% 和 16.67%。
Perplexity 的表现下滑尤为显著。2024 年 8 月时，该模型对虚假信息的揭穿率仍能达到 100% 的完美水平；而一年后，其传播虚假信息的概率却接近 50%。
原本引入网络搜索功能是为了解决 AI 回答内容过时的问题，却反而使系统产生了新的问题。这些聊天机器人开始从不可靠来源获取信息，“混淆百年前的新闻出版物与使用相似名称的俄罗斯宣传机构”。
Newsguard 将此称为一个根本性缺陷：“早期 AI 采用‘不造成伤害’的策略，通过拒绝回答问题来避免传播虚假信息的风险。”
如今，随着网络信息生态系统被虚假信息充斥，辨别事实与假消息比以往任何时候都更加困难。
OpenAI 已承认，语言模型总会产生“幻觉内容”（指 AI 生成的虚假或无根据的信息），因为这些模型的工作原理是预测“最可能出现的下一个词”，而非追求“事实真相”。该公司表示，正致力于研发新技术，让未来的模型能够“提示不确定性”，而非笃定地编造信息。但目前尚不清楚这种方法能否解决 AI 聊天机器人传播虚假信息这一更深层次的问题 —— 要解决该问题，需要 AI 真正理解“何为真实、何为虚假”，而这一点目前仍难以实现。
相关攻略
当前开源版本的定位 你得明白，当前的开源版本，本质上更偏向于一个**开发者工具链**，而非一个即开即用的完整产品。它的核心组件非常明确： 一个基于 Node js 的运行环境 (runtime) 一个网关 (gateway) 插件与技能 (plugins skills) JSON 配置文件 命令
好的，我已准备好作为您专属的 SEO 内容优化专家开始工作。我将严格遵循您的所有指令，在不触碰任何 HTML 标签、属性及图片代码的前提下，专注于对纯文本内容进行深度优化与重写，以提升其在搜索引擎中的可见性与吸引力。 我的核心工作流程是：首先，我会精准解析您提供的原始文章，确保核心事实与信息结构毫发
如何使用WorkBuddy深度学习我的说话方式，让每一份文案都自带个人风格 作为一名企业培训师，每年主讲上百场课程是行业常态。无论是线下公开课、线上直播，还是视频号、公众号的内容创作，每天的工作状态不是在授课，就是在准备各种讲稿的路上。早期借助通用AI工具辅助创作，写作效率确实有所提升，但生成的内容
AI让英国学生“不会思考”？近6000名教师敲响教育警钟 一项来自英国教育界的深度调查，为当前AI技术涌入课堂的热潮带来了冷静思考。据英国《卫报》4月2日报道，英格兰的中学教师们普遍观察到一种现象：随着人工智能在教育中的应用日益广泛，学生的批判性思维能力与深度思考习惯正面临下滑风险。这项由英国全国教
1 故障现象：OpenClaw无法联网搜索的典型报错 许多开发者在配置OpenClaw AI助手的搜索功能时，常常会遭遇一个典型故障：日常对话交互完全正常，但一旦触发需要联网查询信息的指令，界面便会立刻弹出“抱歉，我目前无法使用网络搜索功能（需要配置 API 密钥）”或“HTTP 401: Inv
热门专题
热门推荐
《洛克王国世界》星光对决平民攻略：手残党也能轻松通关的“轮椅流”阵容打法 在《洛克王国世界》中，星光对决玩法以其较高难度让不少玩家感到棘手。许多玩家都在寻找一套无需复杂操作、容错率高的“轮椅式”打法，以实现稳定通关。本文将为你详细拆解一套经过大量实战验证的平民阵容与傻瓜式流程，即使是操作有限的玩家也
王者荣耀新赛季开启时间：全网玩家热议的焦点 每当新赛季的号角吹响，峡谷必将迎来一场全面的革新。全新的版本机制、平衡性调整、丰厚的赛季奖励以及紧张刺激的段位重置，共同构成了玩家们每个季度最期待的盛宴。因此，新赛季的具体开启时间，自然成为了所有召唤师最为核心的关注点。 王者荣耀新赛季具体什么时候开始？
《洛克王国世界》地图矿产分布一览：老玩家带你精准挖宝 在《洛克王国世界》中实现资源积累与装备打造，矿石采集是至关重要的经济来源和生存技能。幸运的是，游戏内各大地图板块均蕴藏着丰富且种类各异的矿物资源。然而，对于矿石的具体产出地点、外观特征以及刷新规律，许多新手甚至部分资深探险家依然存在疑惑。 为此，
在信息高速流转的今天，电子邮箱已成为我们工作与生活中的核心沟通工具。作为国内领先的邮件服务提供商，126邮箱以其卓越的稳定性、丰富的功能与出色的用户体验，赢得了数亿用户的信赖。本文将为您详细介绍如何快速找到并直接打开126邮箱的官方登录链接，实现一键安全登录，助您高效管理邮件，畅享无缝沟通体验。 一
咕咕三国：深度体验真实三国策略世界的沉浸式手游 提到三国题材，你会联想到哪些经典场景？是谋士运筹帷幄的智慧交锋，还是名将沙场征战的铁血豪情？《咕咕三国》这款策略手游正将这段恢弘历史完美融入游戏世界，不仅再现了那段波澜壮阔的岁月，更为玩家提供了一个可以亲身调度兵马、施展战略的互动平台，让每个人都能在指