Soul近日宣布对其AI治理能力进行全面升级,核心举措是将智能风控技术与用户共治机制深度融合,双管齐下,进一步夯实社区安全运营体系。
目前,平台已在部分场景中上线了带有明确标识的AI虚拟角色功能。该功能主要用于提供情绪陪伴、情感支持或作为互动体验的一部分,而非让AI角色以真实用户身份混入社交关系链。

为此,Soul在《社区公约》中新增了相关条款,明确了AI虚拟角色的使用边界,并提醒用户注意区分AI角色与真实用户。同时,平台逐步完善使用提醒机制,例如当用户与AI虚拟角色长时间连续互动时,系统会适时弹出提示,引导用户合理安排使用时间。

此外,Soul宣布将建立一套社区共治机制,涵盖用户反馈、风险举报、社区巡查及护星员等模块。一方面利用AI能力提升风险识别效率,另一方面鼓励用户主动上报与AI相关的问题,助力平台持续优化。这种双向协作的治理思路,有望进一步提升社区安全水平。
