英文：Batch 分类：foundation
训练中一次性输入模型的样本组，梯度在整批样本的损失均值上计算后更新一次参数。批次大小（Batch Size）是训练的关键超参数，直接影响显存占用、收敛速度与模型最终质量。
批次大小需与学习率协同调整：大批次（如 4096+）梯度更稳但泛化可能下降，常配合线性缩放学习率与 warmup；小批次（如 1-32）噪声大但有时泛化更好。大模型预训练普遍使用超大批次与梯度累积（模拟大批次而显存不变）。
SGD 时代批次由数据加载决定；深度学习普及后批次大小与学习率的关系（线性缩放规则）成为标准实践；大模型训练转向数万样本的巨批次与 3D 并行切分。
GPU 显存规划、吞吐优化与收敛调参都围绕批次展开；工程上用动态批次、梯度累积与微批次流水线（micro-batching）在有限显存内最大化吞吐。
相关词条：Transformer · 注意力机制 · 自注意力 · 损失函数 · 轮次