英文:Epoch 分类:foundation
模型完整遍历一遍训练数据集称为一个轮次。训练通常进行多个轮次,每轮后模型对数据的学习更进一步;轮次数量决定"训练多久",过多会过拟合,过少则欠拟合。
每轮内数据被切分为多个批次依次训练;轮次数常通过早停(验证集不再改善即停止)或学习率调度确定。大模型预训练常以"多少 Token/样本"计量而非轮次,数据集规模巨大时仅训练不到一个轮次(如 1-3 个 epoch 的 LLM 常见做法)。
从传统机器学习的固定轮次训练,到深度学习的早停与学习率衰减配合,再到大模型以 Token 数为单位的训练进度管理,轮次概念的粒度随数据规模不断扩大。
训练脚本的超参数配置与进度监控;工程上通过保存每轮检查点(checkpoint)支持断点续训与版本回退,并依据验证集表现决定是否继续训练。
相关词条:Transformer · 注意力机制 · 自注意力 · 批次 · 嵌入向量