测试流程非常简单:路透社使用Muse Image生成了40张图片。检测工具对所有原始图片均能成功识别,这一点没有问题。然而,当同一批图片被裁剪至原图三分之一到二分之一尺寸后,情况发生了逆转——55%的图片无法通过验证。换言之,超过一半的图片在裁剪后直接“消失”,无法被检测到。
这里有必要解释一下技术原理。Muse Image会在每张生成的图片中嵌入一个名为Content Seal的隐形水印。Meta官方声称,检测工具正是依靠这套水印系统来确认图片是否由自家AI模型生成,并强调“即使图片经过裁剪也能识别”。但从测试结果来看,这个“即使”显然附加了条件。
面对路透社的质疑,Meta的回应也相当坦诚:他们指出检测工具目前仍是预览版本。Content Seal的设计目标确实是在常见编辑操作后仍然保留水印信号,但一旦图片被大幅裁剪,信号仍可能丢失。这实际上等于变相承认了其局限性——并非“所有裁剪都能识别”,而是“在部分裁剪条件下可能失效”。
说实话,这种“理论可行、实操打折扣”的情况在AI检测领域并不罕见。但Meta作为行业巨头,自家检测工具连自家模型生成的图片都无法准确识别,确实值得深思。毕竟,随着AI生成内容日益泛滥,检测工具的可靠性直接关乎信息真实性。预览版本可以理解,但用户真正需要的,是经得起考验的实用工具。
