攻击面

英文:Attack Surface 分类:alignment

基本释义

模型与系统暴露给攻击者可利用的入口与途径集合:提示输入、外部内容(RAG)、工具调用、插件、输出通道等。理解攻击面是安全设计的前提。

技术要点

LLM 攻击面:提示注入(直接/间接)、越狱、数据投毒(训练数据)、模型窃取/蒸馏、隐私泄露(记忆)、供应链(依赖);系统攻击面:API、工具权限、存储、日志;管理:攻击面最小化+分层防御。

应用场景

用于 LLM 应用安全评估(威胁建模)、Agent 系统设计(权限最小化)、企业安全审查与红队范围划定;攻击面是"安全防御的地图"。

返回AI百科目录 · AI最前沿首页

相关词条:对齐 · 宪法 AI · 红队测试 · 对抗提示 · 内容政策