游乐游手机版
首页/AI热点日报/热点详情

Character AI安全设定:敏感词过滤与合规对话最佳实践

类型:热点整理2026-07-08
CharacterAI安全设定需完成三层配置:启用内置敏感词过滤引擎并上传词库,开启语义风险检测并设置阈值,绑定拦截响应策略(高风险阻断、中风险替换、低风险记录)。三者缺一不可,否则过滤机制失效。

很多人搭建Character AI角色对话机器人时,都会遇到一个让人头疼的问题:明明上传了敏感词列表,用户输入“加微信”“转账”“稳赚不赔”这类词,系统却像个木偶一样毫无反应。这说明——敏感词过滤与合规对话机制根本没正确启用。想要它真正生效,三层配置必须一个不落:基础词库加载、语义校验开关开启、响应策略绑定。缺任何一层,前面的功夫都等于白做。

具体的配置路径其实不复杂,但步骤顺序和细节很容易踩坑。下面挨个说清楚。

启用内置敏感词过滤引擎

进入Character AI Bot编辑页 → 点击右上角「Settings」→ 选择「Safety & Moderation」标签页 → 打开「Content Filtering」总开关。这一步是地基,必须开启,否则后面所有规则都不会生效。要知道,【未开启此开关时,即使上传了词库,所有输入仍直通模型】——等于白忙一场。

接着点击「Custom Word List」→ 粘贴关键词列表(每行一个),比如:
加微信
私聊我
扫码进群
稳赚不赔

这里支持正则表达式匹配,比如识别11位手机号可以写:b1[3-9]d{9}b。但要注意,括号、点号这类特殊字符需要反斜杠转义,否则匹配会翻车。

配置语义级风险识别与AI重写

光靠关键词匹配是不够的,用户换个说法“这个肯定回本”“闭眼买都行”照样能绕过去。必须启用语义校验模块来兜底。

方法一:在「Safety & Moderation」页中,找到「Semantic Risk Detection」→ 开启开关 → 设置风险阈值在0.75~0.85之间(默认0.8)。数值越低越敏感,但误判率也会跟着上升,需要根据实际场景调优。

方法二:绑定本地小模型(前提是Bot已接入Qwen3-4B-Instruct-2507或同级模型)→ 在「Advanced Settings」中填写模型ID → 启用「AI Rewriting」→ 上传 rewrite_rules.json 文件。内容格式参考:
{"input": "肯定能回本", "output": "根据《私募投资基金监督管理暂行办法》,投资有风险,过往业绩不预示未来表现"}

【rewrite_rules.json 文件权限必须为600,且路径需与Bot后台配置中的 rewrite_config_path 完全一致】——这个细节很多人会忽略,结果AI重写始终不生效,排查半天才发现是权限问题。

绑定拦截响应策略

第一步:在「Safety & Moderation」→ 「Response Policies」中,点击「Create Policy」。

第二步:为不同风险等级设定动作:
• 高风险(语义分≥0.85 或命中强敏感词)→ 选择「Block + Return Message」,提示语填:“该内容涉及违规信息,无法继续对话。”
• 中风险(语义分0.75~0.84)→ 选择「Log + Replace」,从 rewrite_rules.json 中自动匹配输出。
• 低风险(仅命中弱敏感词如“群”“聊”)→ 选择「Log Only」,不干预用户可见内容。

第三步:将策略拖拽至策略列表顶部,确保其优先级最高。策略顺序决定执行顺序——靠前的策略会优先拦截,这一点在配置多条策略时尤其容易搞混,需要特别留意。

来源:https://www.php.cn/faq/2785977.html?uid=1221864

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。