英文：Optimizer 分类：training
决定模型参数如何根据梯度更新（学习率、动量、自适应等策略）的算法：梯度下降的各种工程化变体（SGD、Adam、AdamW、LAMB 等）直接决定训练收敛速度、稳定性与最终效果。
分类：动量类（SGD+Momentum）、自适应类（AdaGrad/RMSProp/Adam 按参数调步长）、解耦类（AdamW 权重衰减解耦）、大规模类（LAMB/LARS 大批次）；关键特性：一阶/二阶矩估计、偏置校正、学习率耦合；选择：大模型默认 AdamW（配 warmup+余弦衰减）；调优：β 参数、epsilon、weight decay。
用于所有深度学习训练（优化器选型是核心超参）、大模型预训练（AdamW 标准）、分布式训练（LAMB 大批次）与优化算法研究（新优化器评测）。