内容政策

英文：Content Policy　分类：alignment

基本释义

定义平台或模型允许/禁止内容类型的规则体系（暴力、违法、仇恨、色情、自伤等），是内容安全治理与模型对齐的依据。

技术要点

构成：类别定义（各有害维度）、判定标准（严重程度分级）、处理方式（拦截/降级/标记）、更新机制（政策随法规演进）；落地：分类器训练标签、审核规则、模型对齐目标；平衡：自由表达 vs 安全。

应用场景

用于内容平台（审核政策）、大模型（安全对齐政策）、企业 AI（行业合规）与政府监管响应；内容政策是"内容治理的宪法"。

返回AI百科目录 · AI最前沿首页

相关词条：对齐 · 宪法 AI · 红队测试 · 攻击面 · 使用条款政策