本次查询：深度伪造检测
中文解释：深度伪造检测
常见场景：社交平台内容审核 / 司法取证 / 金融反欺诈 / 新闻真实性验证
一句话解释
深度伪造检测是通过分析图像、视频或音频中的细微异常，判断其是否由AI生成或篡改的技术。它相当于给数字内容装上一台“验伪器”，让假造的视频和声音无处遁形。
为什么会被关注
AI换脸和语音克隆技术门槛降低，让不法分子可以低成本制作高逼真的虚假内容，用于电信诈骗、网络诽谤、色情黑产甚至干预选举。深度伪造检测成为抵御这些风险的关键防线，被各国政府和大型平台视为内容审核的刚需。
同时，公众对“眼见为实”的信任被瓦解，虚假信息传播速度远超辟谣速度。只有更高效的检测技术才能遏制深度伪造的滥用，保护个人隐私和社会稳定。
核心逻辑
深度伪造检测主要依赖两类方法：一是分析伪造痕迹，比如人脸边界不自然、眼部反光异常、牙齿细节缺失或帧率抖动；二是训练神经网络区分真人和生成图像的统计特征差异，例如GAN生成的图像在频域有独特纹理。
主流方案使用卷积神经网络（CNN）结合时序分析，同时融合面部特征、心跳信号（如rPPG）等多模态线索。不过伪造技术也在升级，检测模型需要持续用最新的伪造样本进行对抗训练才能保持有效。
常见场景
社交媒体平台自动审核：如Facebook、TikTok在用户上传视频时进行云端检测，发现高度疑似深度伪造的内容会标记或下架。金融领域用于远程开户活体检测，防止攻击者用换脸视频绕过身份核验。
司法取证：法官和律师使用检测工具分析证据视频真实性，避免Deepfake视频误导判决。新闻机构：对接收的爆料视频快速鉴定，防止假新闻扩散。此外，企业也在监控通话录音，防范利用伪造语音进行的诈骗。
容易混淆的点
很多人把“深度伪造检测”等同于“人脸活体检测”，但后者只辨别当前人脸是真人还是照片/视频回放，而深度伪造检测要识别出经过生成模型修改或完全合成的内容，范围更广，包括声音和全身动作。
它也不是简单的“水印校验”——水印是提前嵌入的防伪标记，而深度伪造检测面对的是没有预先防伪的原始内容。另外，检测率无法做到100%，尤其是高质量伪造加上对抗性扰动后，误判和漏判仍时有发生。