英文:Prompt Injection Defense 分类:alignment
防御恶意提示注入攻击(把指令混入数据/外部内容劫持模型行为)的技术体系,是 LLM 应用安全的第一优先防护。
攻击面:直接注入(用户输入含指令)、间接注入(网页/文档/邮件内容含指令)、系统提示泄露;防御:输入输出隔离(区分指令与数据)、分类器检测、权限与工具最小化、外部内容标记与审查、沙箱执行。
用于 Agent(工具调用防劫持)、RAG(文档注入防御)、浏览器自动化(网页内容攻击)与生产 LLM 服务;提示注入防御是"LLM 安全"的必修课。