英文:System Prompt Hardening 分类:alignment
通过设计加固的系统提示词增强模型对指令劫持与信息泄露的抵抗力:明确角色边界、标记不可信输入、拒绝越权请求。
手段:指令/数据分隔符(标记外部内容)、权限声明(只执行系统指令)、防泄露约束(不透露系统提示)、越权拒绝规则;局限:纯提示无法绝对防御(需配合过滤);测试:系统提示攻击测试(泄露/劫持尝试)。
用于 Agent 与 RAG 应用(外部内容隔离)、客服机器人(边界话术)、企业 LLM 平台与敏感数据场景;系统提示加固是"提示层安全"的基础配置。