事实性评估

英文:Factuality Evaluation 分类:eval

基本释义

评估模型输出内容与真实世界事实一致性的方法,聚焦"是否准确、可核实",是大模型可信度(防幻觉)的核心评测维度。

技术要点

方法:检索核验(输出声明 vs 权威来源)、NLI 判定(声明被证据支持与否)、人工事实核查(专家标注);指标:事实准确率、支持率、错误率;评测集:FactBench、HaluEval、FreshQA(时效事实)。

应用场景

用于 RAG 系统质量监控、新闻/医疗/金融内容生成审核、模型发布事实性报告与幻觉缓解效果验证;事实性评估是"AI 不说假话"的度量尺。

返回AI百科目录 · AI最前沿首页

相关词条:大模型评审 · 聊天机器人竞技场 · 数据治理 · 毒性检测 · 幻觉率