检查点

英文:Checkpoint 分类:infra

基本释义

训练过程中定期保存的模型状态快照(权重、优化器状态、调度器状态等),用于故障恢复、模型评估与版本留存。

技术要点

保存内容:模型参数、优化器动量/方差、学习率与步数、数据加载偏移(可恢复);格式:PyTorch .pt/.safetensors、HuggingFace 格式;策略:定期+异常触发、只保留最近 N 份;恢复:加载后继续训练或转评估。

应用场景

用于断点续训、模型发布(最终检查点)、训练监控(中间评估)与回滚;检查点是"训练资产化"的最小单元。

返回AI百科目录 · AI最前沿首页

相关词条:词元服务 · 超节点 · 训练集群 · 容错计算 · 模型仓库