英文：Load Balancing Loss 分类：training
MoE 训练中鼓励 token 在各专家间均匀分配的辅助损失：防止路由"塌缩"（少数专家承担大部分 token），保证专家专业化与计算均衡，是 MoE 模型训练的标配组件。
机制：对每个专家统计 token 分配比例与路由概率，计算二者乘积之和（辅助项加到总损失，系数 α 通常 0.01）；目的：避免熵塌缩（路由集中）、专家闲置（容量浪费）；进阶：无辅助损失的平衡（DeepSeek 采用偏差项替代）、专家容量限制（capacity factor）；权衡：过强均衡损失牺牲路由质量。
用于 MoE 训练（GPT-4/Mixtral/DeepSeek 均采用）、路由稳定性调试（专家负载监控）、稀疏模型研究（均衡-质量权衡）与训练日志分析（专家利用率）。