英文:Hallucination Rate 分类:eval
模型生成内容与事实/输入不符(虚构、杜撰、偏离上下文)的比例。幻觉是大模型落地(RAG、医疗、金融)的最大风险之一,幻觉率是其量化指标。
类型:事实幻觉(编造信息)、忠实度幻觉(偏离输入/上下文)、逻辑矛盾;检测:事实核验(检索对照)、忠实度评测(NLI)、人工标注抽样;缓解:RAG(引用支撑)、偏好训练(减少幻觉)、解码约束(可验证格式)。
用于 RAG 系统质量评估、高风险领域(医疗/法律)上线门槛、生成内容监控与对齐效果度量;幻觉率是"AI 可信度"的核心红线指标。