先看一个关键数据:91.5%。这个数字并非某个股票的涨幅,而是抖音在网络暴力治理领域取得的显著突破——系统升级之后,平台每天能够多识别出接近一倍的潜在被网暴风险人群。推动这一进展的核心力量,是一套被称为“AI反网暴Agent”的智能体。
6月14日,针对网络暴力呈现出的新特征与新形态,抖音正式上线了这套AI反网暴行动系统。它绝非华而不实的功能,而是一套完整的“识别—研判—治理—救助”闭环机制。具体而言,网暴识别模型与研判模型协同人工审核团队工作,配合优化后的外呼救助机制,在风险刚刚萌芽时就主动介入。效果十分显著:每天有数千名用户在收到预警后主动开启防网暴功能;而那些因风险等级过高、需要人工外呼援助的受害用户数量,直接提升了147%。

换句话说,AI不再是单纯被动地筛选内容,而是主动识别那些可能遭受伤害的用户,提前伸出援手。这种从“事后处置”转向“事前预警”的治理思路,或许正是反网暴工作实现根本性突破的关键所在。
