
10月13日,埃隆·马斯克表示,其创立的人工智能企业xAI所研发的对话模型Grok,即将上线一项新能力:可对互联网中的视频内容进行分析,识别其中由人工智能生成的痕迹,并通过技术手段追溯视频来源。这一进展出现在公众对AI伪造内容可能被用于身份冒用或散布不实信息的忧虑持续上升的背景下。
此前有用户于10月9日提出担忧,认为在不久的将来,任何人只要有意针对某人,便可利用AI技术生成对方发表不当言论或做出失当行为的虚假视频,且这些视频将高度逼真,难以辨别真伪,受害者几乎无法自证清白。该用户同时指出,目前尚无有效机制能遏制此类风险。
对此,马斯克回应称,Grok将具备解析视频数据流中人工智能特征的能力,并可通过全网搜索进一步评估内容来源。据进一步说明,该功能或可检测视频比特流中存在的细微异常,例如人类感官无法察觉的压缩瑕疵或生成逻辑不一致等AI生成内容特有的技术痕迹。同时,系统还可能结合元数据、传播路径及网络活动记录等信息,综合判断视频的真实性与原始出处。
自2024年推出以来,Grok一直是马斯克在人工智能领域与主流科技企业竞争的重要工具。今年早些时候,他推动xAI与社交平台X实现整合,旨在强化技术协同,使Grok深度嵌入平台运作之中。目前,平台用户已可借助Grok对发布内容进行事实核验,而马斯克亦计划以Grok全面替代原有的推荐算法,构建更具个性化的信息呈现体系。
此外,Grok还被赋予开发新型知识平台的任务,目标是打造一个被称为“Grokipedia”的公共知识库,作为现有在线百科模式的替代方案。与此同时,新版Grok视频生成工具也已在近期面向免费与付费用户开放,标志着其在生成式AI领域的功能进一步扩展。
