过拟合

英文:Overfitting 分类:training

基本释义

模型在训练集上表现优异但泛化到新数据时表现差的现象:模型"背下"训练样本的噪声与细节而非学习通用规律,是机器学习中最常见的问题之一。

技术要点

成因:模型容量过大、数据量不足、训练过久(epoch 过多);信号:训练损失降但验证损失升(泛化差距扩大);对策:正则化(L1/L2/权重衰减)、Dropout、早停、数据增强、交叉验证、简化模型;与大模型:参数量巨大但靠预训练+数据规模抑制。

应用场景

用于模型训练质量诊断(验证集监控)、机器学习课程与工程实践(防止过拟合的标准手段)、深度学习调参(正则化配置)与数据不足场景(增强/迁移)。

返回AI百科目录 · AI最前沿首页

相关词条:微调 · 监督微调 · 指令微调 · 学习率 · 奖励模型