AdamW

英文:AdamW 分类:training

基本释义

Adam 的改进版:将权重衰减从梯度中解耦(每步独立乘衰减系数),避免 Adam 的 L2 正则与自适应学习率耦合导致的泛化损失,是大模型(GPT/Llama 系)训练的标准优化器。

技术要点

区别:Adam 的 weight decay 等价于 L2(受自适应步长缩放,作用被削弱),AdamW 直接在参数更新时乘以 (1-λ);超参:lr=3e-4(预训练常用)、weight decay=0.1(部分用 0.01)、β=(0.9,0.95);收益:训练更稳、泛化更好;变体:AdamW+调度(warmup/余弦);实现:PyTorch 内置 AdamW。

应用场景

用于大模型预训练与微调(行业标配)、Transformer 全系列训练、迁移学习(微调配置)与优化器对比实验(标准基线)。

返回AI百科目录 · AI最前沿首页

相关词条:微调 · 监督微调 · 指令微调 · Adam · 动量