路透社7月10日公布的测试结果,给Meta新推出的AI图像检测工具浇了一盆冷水。该工具宣称能够识别自家AI模型生成的图片,甚至声称即便经过裁剪也能准确判断——然而实际测试显示,情况远没有宣传的那么乐观。
Meta在发布Muse Image模型的同时,同步推出了这款检测工具,并明确表示:即使图片被裁剪过,系统依然能识别出它是否由Meta AI生成。然而,路透社的实际测试揭示了一个尴尬的现实——仅需常见的图片编辑操作,就足以让检测能力大幅下降。
测试过程十分直接:路透社首先使用Muse Image生成了40张图片,随后让检测工具进行识别。结果所有原始图片均被精准识别,无一遗漏。但接下来,当这批图片被裁剪至原图大小的三分之一到二分之一时,情况急转直下——高达55%的图片未能通过检测。
这背后的关键在于Meta嵌入在每张生成图片中的隐形水印——Content Seal。根据Meta最初的说明,这套水印系统能够使检测工具准确判断图片是否由自家AI生成,即便经过裁剪也能保留信号。但路透社的测试表明,一旦裁剪幅度过大,水印信号便会丢失,检测工具也随之失效。
面对外界的质疑,Meta的回应相当坦诚:这款检测工具目前仍处于预览阶段,正在持续完善中。Content Seal的设计目标是在常见编辑操作后依然保留水印信号,但大幅裁剪确实可能导致信号丢失。换句话说,工具可用,但并非无懈可击。
