英文:Bias Detection 分类:eval
检测模型或数据中系统性偏见的技术:性别/种族/地域刻板印象、统计偏差(样本失衡)与行为偏差(输出倾斜)。
方法:基准测试(BiasBench 类)、嵌入空间关联(WEAT)、输出分布审计(群体差异)、反事实测试(仅换敏感属性看输出变化);工具:公平性库(Fairlearn、AI Fairness 360);缓解:数据重平衡+去偏训练。
用于大模型发布审计(有害刻板印象)、招聘/信贷合规、内容生成监控与训练数据治理;偏见检测是"公平性治理"的体检。