最近,抖音公布了一组关于其“AI求真”大模型上线一周年的数据,其中有个数字挺有意思:自这套系统投入应用以来,平台上谣言在被处置前的平均浏览量,下降了62%。

这个下降幅度背后,反映的是平台对不实信息处置效率的提升。根据披露的信息,今年以来,在热点事件中,平台对谣言的处置时效提升了50%以上。这意味着,很多谣言还没来得及大规模发酵,就已经被系统“盯上”了。
那么,这套系统是怎么工作的?关键在于识别和研判能力的升级。据了解,其大模型具备了“DeepResearch”和交叉验证等能力。简单来说,当系统捕捉到一个疑似谣言的信息点时,它不再是简单地比对关键词,而是能对这个信息点拆解出多个要点,分别进行多轮、联网式的检索和核实。
在这个过程中,有两个机制在起作用。一是信源权威度排序,系统会优先采纳和采信权威性更高的信息来源。二是经验学习,模型深度学习了平台过去多年积累的人工审核经验和案例库。双管齐下,使得这套AI系统判断谣言的准确率,据称已经提升到了95%。
更关键的一步在于,治理的介入方式变得更主动了。过去,审核工作常常陷入“打地鼠”的困境——一个核心谣言点,会被改编成无数个高度相似的变体文案,四处传播,消耗大量人力去重复识别和处置。
一个典型的例子是“峨眉山猴子攻击游客被射杀”的谣言。同一段核心叙事,被换上了“九寨沟猴子”、“张家界猴子”甚至“猥亵女游客”等不同外壳,在平台上反复出现。现在,借助大模型的语义理解能力,系统能够识别出这些不同文案背后高度相似的谣言内核,从而直接复用之前的判定结果,进行自动处置。这就实现了从“审核员追着谣言跑”到“模型主动围剿谣言集群”的模式转变。
当然,技术拦截只是防线的一环。平台治理的深层逻辑,在于如何激发用户的自主辨别意识,共筑“认知防线”。因此,“AI求真”的另一项重点,是尝试用技术降低用户获取事实、验证信息的门槛。
目前,抖音用户可以通过站内的“求真提示”和“求真卡”等功能模块,相对便捷地了解到相关事件的核实信息。这可以看作是一种“即时辟谣”或“事实前置”,在用户接触到谣言的同时或之后,尽快提供权威参照。
必须指出的是,任何有效的谣言治理,其根基都不在于算法本身多么精妙,而在于真实世界里有据可查、及时澄清的事实。无论是新闻当事人的回应、相关机构的权威发布,还是媒体的调查核实,这些才是大模型进行识别与研判的“水源”和“木本”。没有这个基础,再智能的模型也无用武之地。
说到底,营造一个清朗的网络空间,技术工具是重要的“翻跟斗”和“放大器”,但最终的良性循环,离不开每一方角色的参与:权威信源的及时澄清、平台方的有效治理,以及每一位用户对信息的审慎态度和共同监督。
