系统提示加固

英文:System Prompt Hardening 分类:alignment

基本释义

通过设计加固的系统提示词增强模型对指令劫持与信息泄露的抵抗力:明确角色边界、标记不可信输入、拒绝越权请求。

技术要点

手段:指令/数据分隔符(标记外部内容)、权限声明(只执行系统指令)、防泄露约束(不透露系统提示)、越权拒绝规则;局限:纯提示无法绝对防御(需配合过滤);测试:系统提示攻击测试(泄露/劫持尝试)。

应用场景

用于 Agent 与 RAG 应用(外部内容隔离)、客服机器人(边界话术)、企业 LLM 平台与敏感数据场景;系统提示加固是"提示层安全"的基础配置。

返回AI百科目录 · AI最前沿首页

相关词条:对齐 · 宪法 AI · 红队测试 · 提示注入防御 · 越狱防御