验证损失

英文:Validation Loss 分类:training

基本释义

模型在未参与训练的验证集上计算的损失:衡量真实泛化能力,训练损失下降而验证损失上升即过拟合信号,是决定早停、模型选择与泛化评估的关键指标。

技术要点

数据:验证集(与训练隔离、同分布抽样);监控:定期评估(每 X 步)、与训练损失对比(泛化差距);用途:早停判定(验证损失回升停止)、超参选择(多轮取最优)、检查点挑选(最低验证损失);注意:验证集泄漏(不可用于调参)、评估频率(成本);大模型:用于调度触发(验证平台降 LR)。

应用场景

用于模型训练质量评估(过拟合诊断)、早停与模型选择(最优检查点)、超参搜索(CV 内评估)与发布前泛化验证(上线门槛)。

返回AI百科目录 · AI最前沿首页

相关词条:微调 · 监督微调 · 指令微调 · 训练损失 · 过训练