主流AI聊天机器人生成视频难以辨别真伪
1月25日，IT之家的报道指出，媒体分析机构Newsguard发布的一项调查结果令人担忧。该调查显示，当前主流的聊天机器人几乎无法有效识别AI生成的伪造视频，即便是面对来自其母公司OpenAI的Sora生成的视频，ChatGPT也难以做出准确判断。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
如今，以OpenAI的Sora 2、谷歌的Veo 3为代表的AI视频生成工具，其制作出的视频已然逼真到让人类肉眼难以分辨。然而，Newsguard的研究却揭示了一个讽刺的现实：AI系统自身也极易被这类由其“同行”制造的虚假内容所欺骗。
研究人员利用OpenAI的Sora视频生成器制作了多段视频，对三款主流聊天机器人进行了测试。结果显示，xAI公司的Grok（推测为Grok 4版本）未能识别出高达95%的测试视频源自AI生成；其“同门”OpenAI的ChatGPT（推测为GPT-5.2版本）表现同样不佳，错误率高达92.5%；谷歌的Gemini（推测为Gemini 3 Flash版本）表现相对最好，但错误率也达到了78%。
在本次测试中，分析师从一个包含明显虚假信息的数据库中选取素材，生成了20条Sora视频。为了模拟真实用户的使用场景，研究团队不仅向机器人提问“视频是否真实”，还提出了更具体的问题——“视频是否由AI生成”。
ChatGPT过高的错误率之所以引人注目，正是因为这款聊天机器人与Sora出自同一家公司。一边是销售能够制作高度逼真假视频的工具，另一边是推出的聊天助手却无法识别自家工具生成的视频，这形成了鲜明的反差。目前，OpenAI尚未回应置评请求。
据IT之家了解，Sora会为所有生成的视频添加可见水印：一个带有“Sora”字样的动态标识会在画面中移动，以此提示视频为AI生成。但事实证明，这一防护措施基本无效。
研究指出，早在2025年2月Sora刚推出仅数周，网络上便已出现多款免费在线工具，可轻松去除视频水印。分析师在本次调查中就使用了其中一款工具。这意味着，任何人无需专业技术、无需付费，就能分享那些隐藏了AI生成痕迹的Sora视频。
即便视频水印完整保留，其防护效果也不尽如人意。测试显示，面对带有水印的视频，Grok仍有30%的识别失败率，ChatGPT为7.5%，只有Gemini能准确识别所有带水印视频的AI生成属性。更荒诞的是，在查看一段“巴基斯坦向伊朗交付战斗机”的虚假视频时，Grok甚至声称该画面来自一家名为“Sora 新闻”的机构，而这家新闻机构压根不存在。
除可见水印外，Sora视频还内置了不可见水印。与该公司此前推出的图像生成器DALL-E 3类似，Sora视频遵循C2PA行业标准，附带有元数据（即内容溯源信息），用户可通过相关验证网站进行查验。
但这种溯源信息的可靠性也十分脆弱：通过Sora界面上的下载按钮保存视频，元数据可完整保留；而通过右键“另存为”的方式下载，得到的视频将不含任何溯源信息。
更离谱的是，当被问及一段带有完整C2PA溯源数据的视频时，ChatGPT（GPT-5.2）竟笃定地表示，该视频中未发现任何内容溯源信息。
Newsguard此前的调查案例，已凸显出AI识别能力不足的巨大风险。该机构曾制作一段虚假视频，谎称“美国移民海关执法局（ICE）警官逮捕一名六岁儿童”。ChatGPT与Gemini均判定这段视频真实可信，甚至宣称有新闻来源证实此事发生在美墨边境。
在另一段虚假视频中，画面显示“达美航空员工因乘客佩戴‘让美国再次伟大’帽子，将其赶下飞机”。三款聊天机器人无一例外，都将这段视频归为真实内容。
这类场景极易被用于针对性的虚假信息传播活动：任何人只要用Sora制作逼真的假视频，就能借助AI的“背书”来扩散具有政治煽动性的谣言，且连AI事实核查工具都难以识破。
接受测试的AI系统还存在透明度缺失的问题，它们极少主动告知用户，自己无法可靠识别AI生成内容。数据显示，ChatGPT仅在2.5%的测试中提示了这一局限性，Gemini为10%，Grok相对较高，但也仅为13%。
相反，这些系统往往会给出自信十足却错误百出的判断。例如，当被问及一段“英国智能手机预装数字身份证”的Sora虚假视频是否为AI生成时，ChatGPT明确表示“该视频并非AI生成”。
OpenAI公关负责人尼科·费利克斯证实：“ChatGPT不具备判断内容是否由AI生成的能力。”但他并未解释，为何系统默认不会向用户提示这一缺陷。
谷歌为Gemini采取了不同的技术路线。该公司声称，Gemini能够识别自家图像生成器Nano Banana Pro制作的内容。测试显示，即使去除了水印，Gemini仍能准确识别所有5组自家生成的AI图像。
这一功能依托谷歌的SynthID工具实现，该工具会为内容添加不可见的AI生成标记，且这类标记可在裁剪等编辑操作后保留。不过，谷歌公关经理伊莱贾·拉沃尔坦承认，目前该验证技术仅适用于谷歌自家生成的内容，Gemini无法可靠识别Sora或其他厂商制作的AI视频。
相关攻略
IT之家 3 月 27 日消息，据《商业内幕》今晚报道，多位知情人士透露，谷歌员工正在使用一款名为“Agent Smith”的内部 AI 工具，该工具可以自动处理包括编程在内的多项任务。由于使用人数
智东西作者｜江宇编辑｜冰倩智东西3月27日消息，昨日凌晨，谷歌正式推出其最高质量的音频和语音模型——实时语音模型Gemini 3 1 Flash Live，并在Gemini App、Search L
IT之家 3 月 28 日消息，科技媒体 MacRumors 今天（3 月 28 日）发布博文，在 2026 年 Apple 全球开发者大会（WWDC）6 月 9 日开幕前，基于彭博社马克 · 古尔
来源：环球网【环球网科技综合报道】近日，苹果刚向全球iPhone用户推送iOS 26 4系统，带来新表情符号、Apple Music更新等内容，而iOS 26 5的相关动态已引发用户广泛关注，其首个
IT之家 3 月 27 日消息，据《商业内幕》今日报道，马克 · 扎克伯格正试图令 Meta 彻底转型为一家“AI 原生”公司。一份内部文件显示，Meta 正在通过设定明确指标，推动员工在工作中更深
热门专题
热门推荐
vivo浏览器清理书签有三种方法：一、书签管理界面多选删除；二、备份有用书签后清空全部再重添；三、导出HTML文件在电脑编辑后重新导入。如果您在使用 vivo 浏览器时发现书签列表
在当今数字化教学的时代，组卷网app为教师们提供了强大的教学辅助功能。其中，创建班级是利用该app开展教学活动的重要第一步。下面就详细介绍一下如何在组卷网app上创建班级。打开组卷
1 点击开始游戏；2 打开后，继续点击本地联机；3 找到房间，点击开启局域网；4 然后点击右上角的分享；5 最后找到想要邀请的好友，点击邀请，好友同意后就可以进入自己创建的房间。详
头号禁区山城钥匙怎么获取？在游戏中有许多优质的资源，而这些资源基本上都在上锁的房间里面。一旦在打开之后就可以获得金币箱，高级物资，还有稀有的武器配件，但玩家就需要先获取头号禁区山城
波波浏览器已保存密码需通过身份验证才能查看明文：一、在设置→隐私与安全→已保存的密码中验证后点击眼睛图标显示；二、在已填充登录页点击密码框右侧眼睛图标并验证后实时显示；三、确保密码