关键词过滤

英文：Keyword Filtering　分类：alignment

基本释义

基于预设关键词/词库对内容进行匹配过滤的机制：命中敏感词即拦截、替换或标记，是简单高效的安全与合规手段。

技术要点

实现：词库（精确/模糊/拼音变体）、正则匹配（组合词）、分级处理（拦截/替换/降级）；局限：变体绕过（谐音/拆分）、无语义理解（误伤）；演进：关键词+语义分类器组合；词库需持续更新。

应用场景

用于平台审核（敏感词）、内容合规（广告法违禁词）、客服话术（禁词拦截）与搜索过滤；关键词过滤是"成本最低"的初筛防线。

返回AI百科目录 · AI最前沿首页

相关词条：对齐 · 宪法 AI · 红队测试 · 输入输出过滤 · 提示词安全