英文:Input-Output Filtering 分类:alignment
同时过滤模型输入与输出的安全机制:输入端拦截恶意/敏感请求(防注入、防有害话题),输出端拦截有害生成,形成双向防护。
输入端:提示注入检测、敏感话题识别、隐私信息检测(防止套取);输出端:有害内容分类、幻觉高发场景审核、敏感信息泄露检测;实现:规则+分类器+上下文审查;重要性:双向防线防"进得来出不去"。
用于生产 LLM 服务(API 双向审核)、客服机器人(输入脱敏+输出合规)、内部 AI 工具(数据防泄露)与教育应用;输入输出过滤是"双向安全"的完整防线。