欠拟合

英文:Underfitting 分类:foundation

基本释义

模型在训练数据上表现不佳、未能学到足够规律的状态,通常源于模型容量不足、训练不充分或特征表达欠缺。与过拟合相对,欠拟合意味着模型"过于简单",无法捕捉数据中的真实模式。

技术要点

表现为训练误差与验证误差都偏高,损失曲线下降缓慢或停滞。常见原因包括网络层数/宽度不足、训练轮次过少、学习率过低、数据量过少或正则化过强。排查方法包括增大模型容量、延长训练、调高学习率、补充数据与减少正则。

发展脉络

是深度学习训练中最基础的问题之一;工程上通过"先过拟合再调泛化"的实践——先确保模型能拟合训练集,再引入正则化与数据增强提升泛化,成为训练调优的通用方法论。

应用场景

任何模型训练流程的诊断起点;在工业训练中通过损失曲线监控与容量试探快速定位模型表达力瓶颈,避免在错误的容量配置上浪费时间。

返回AI百科目录 · AI最前沿首页

相关词条:Transformer · 注意力机制 · 自注意力 · 迁移学习 · 正则化