幻觉率

英文:Hallucination Rate 分类:eval

基本释义

模型生成内容与事实/输入不符(虚构、杜撰、偏离上下文)的比例。幻觉是大模型落地(RAG、医疗、金融)的最大风险之一,幻觉率是其量化指标。

技术要点

类型:事实幻觉(编造信息)、忠实度幻觉(偏离输入/上下文)、逻辑矛盾;检测:事实核验(检索对照)、忠实度评测(NLI)、人工标注抽样;缓解:RAG(引用支撑)、偏好训练(减少幻觉)、解码约束(可验证格式)。

应用场景

用于 RAG 系统质量评估、高风险领域(医疗/法律)上线门槛、生成内容监控与对齐效果度量;幻觉率是"AI 可信度"的核心红线指标。

返回AI百科目录 · AI最前沿首页

相关词条:大模型评审 · 聊天机器人竞技场 · 数据治理 · 事实性评估 · 引用准确率