当前位置: 首页 > 科技 > 文章内容页

DeepSeek等AI模型引入溯源认证技术,能否彻底解决造假问题?

时间:2025-09-02    作者:游乐小编    

"作品含AI内容"的标签正在成为行业常态,这让不少人长舒了一口气。

9月1日,DeepSeek在其官方公众号发布公告,宣布将对AI生成内容添加显著标识,明确告知用户相关内容的AI属性。

DeepSeek AI标识公告

各大科技企业早已有所行动。腾讯元宝在8月31日发布了《关于AI内容标识的公告》,字节跳动旗下的豆包、阿里通义、Kimi、智谱清言等平台也纷纷更新了用户协议,均已落实AI内容标识义务,包括显性和隐性标识。

各大平台AI标识更新

这一系列行动源于9月1日正式实施的《人工智能生成合成内容标识管理办法》。该管理办法由国家网信办、工信部、公安部、国家广电总局联合印发,要求所有AI生成内容必须明确标注来源。

  • 文本、图像、音频、视频、虚拟场景等全类别内容均需标注;
  • AIGC技术服务提供者、平台方和使用者都必须遵守相关规定。

AI标识的三层责任体系

首先,技术服务提供者需要在AI内容生成时就嵌入隐性标识,完成内容的源头标记。

其次,内容平台需对AI内容进行识别,并标注显式和隐性标识,如明确标注"作品含AI内容",实现内容的二次把关。

最后,用户在发布和传播相关内容时,严禁以任何方式删除、篡改、伪造或隐匿平台标注的AI标识。

除技术厂商外,哔哩哔哩、抖音、快手等主流社交平台也已上线相关功能,支持用户自主声明AI内容,同时辅以平台识别标注。

对于广大网民而言,AI标识来得正是时候。近年来,AI内容已呈现爆炸式增长态势:

  • AI文案与文章占据流量高地
  • AI虚拟主播搏眼球获打赏
  • AI虚拟晚辈视频俘获长辈情感
  • AI说教内容成为新型"道德绑架"工具

最令人担忧的是,就连资深网民也频频识别困难。昨天才教会长辈辨别AI内容的方法,转眼自己就上当受骗。

我们不是在识破骗局,就是在被"创新"内容的路上,仿佛已经进入了赛博时代的"楚门世界"。

AI晚辈引发的社会反思

许多人第一次感受到AI内容的影响,是目睹家中长辈沉迷AI虚拟晚辈视频。

这些视频往往呈现异常"完美"的儿童形象,配以甜美的问候语,让许多老人信以为真。

AI晚辈视频

这种现象揭示了两层社会现实:一是我们认为的"真假分明",实际上存在明显的认知鸿沟;二是AI内容不仅可能造成信息误判,还会影响情感认知和经济行为。

现实中的案例比比皆是。今年6月,马来西亚一对老年夫妇被一则AI制作的景区缆车报道视频欺骗,驱车4个多小时前往并不存在的景点。

更有甚者,今年3月中国工程院院士张伯礼不得不亲自辟谣多条以其形象和声音合成的AI带货视频。

这样的情况并非中国独有。YouTube上有家长反映,孩子被AI恐怖视频吓坏,迫使她不得不限制孩子使用视频平台。

YouTube家长反馈

AI标识的标准化无疑为这些辨别能力有限的群体提供了重要保护。

年轻人的身份认证困境

如果说老一辈容易被AI晚辈视频打动,那么年轻人面临的挑战则是AI催婚内容的泛滥。

传统的催婚视频已经开始被AI深度伪造技术取代,甚至出现了AI猫狗"结婚"的奇葩内容。

AI猫狗视频

面对这种局面,年轻人也开始运用AI反击,制作各类反向内容。

然而更令人不安的是,许多资深网民也开始分不清AI内容的真伪。今年5月,"袋鼠登机"的AI视频在网上疯传,获得了百万点赞。

袋鼠登机AI视频

在这样的情境下,AI标识的标准制定显得尤为迫切。

全球AI标识实践对比

中国的《管理办法》要求技术提供方、平台方和用户三方共同承担责任,这种全方位规范在全球范围内具有首创性。

国际上,韩国和西班牙在今年年初出台了相关法规,欧盟的《人工智能法案》则采用了分级监管模式,但目前进展缓慢。

美国至今没有全国性法规,主要依赖科技企业自愿遵守。这种模式的实际效果堪忧,以YouTube为例,其AI短视频乱象已到泛滥程度。

YouTube AI视频问题

更离谱的是,YouTube被曝擅自使用AI技术处理用户上传的真实视频。

YouTube AI增强事件

数据预测显示,AI内容产业正在快速增长。Business Insider的报告指出,创作者经济将在2025年达到250亿美元规模。

在这样的发展趋势下,中国的AI标识管理办法虽然还存在执行难点,但已经迈出了关键的第一步。

热门推荐

更多

热门文章

更多

首页  返回顶部

本站所有软件都由网友上传,如有侵犯您的版权,请发邮件youleyoucom@outlook.com