英文：Regularization 分类：foundation
抑制模型过拟合、提升泛化能力的技术集合。通过对复杂度施加惩罚或引入随机性，正则化让模型在训练数据上"不过度记忆"噪声，从而对未见数据表现更稳定，是深度学习训练的标准组件。
常见方法包括：L1/L2 权重衰减（对参数大小施加惩罚）、Dropout（随机丢弃神经元）、早停（在验证集恶化前停止）、数据增强（制造多样样本）、标签平滑与归一化（BatchNorm、LayerNorm）。大模型训练常依赖权重衰减与数据噪声，重参数化（如 LoRA 的低秩约束）也具正则效果。
从统计学习的岭回归、LASSO，到深度学习的 Dropout（2012）、BatchNorm（2015），再到现代大模型的大规模权重衰减与蒸馏正则，正则化思想贯穿模型设计始终，是"容量-泛化"平衡的工程杠杆。
几乎所有模型训练流程：图像分类、推荐系统、语言模型与强化学习均需配置正则超参数；大模型微调中 LoRA 等低秩方法同时承担参数量与正则的双重作用。
相关词条：Transformer · 注意力机制 · 自注意力 · 欠拟合 · 激活函数