提示注入防御

英文:Prompt Injection Defense 分类:alignment

基本释义

防御恶意提示注入攻击(把指令混入数据/外部内容劫持模型行为)的技术体系,是 LLM 应用安全的第一优先防护。

技术要点

攻击面:直接注入(用户输入含指令)、间接注入(网页/文档/邮件内容含指令)、系统提示泄露;防御:输入输出隔离(区分指令与数据)、分类器检测、权限与工具最小化、外部内容标记与审查、沙箱执行。

应用场景

用于 Agent(工具调用防劫持)、RAG(文档注入防御)、浏览器自动化(网页内容攻击)与生产 LLM 服务;提示注入防御是"LLM 安全"的必修课。

返回AI百科目录 · AI最前沿首页

相关词条:对齐 · 宪法 AI · 红队测试 · 提示词安全 · 系统提示加固