英文：FP8 分类：architecture
8 位浮点格式（E4M3/E5M2），用于新一代加速器上的训练与推理，相比 BF16 降低一半显存与带宽，是超大模型效率化的前沿精度。
实现：训练中 FP8 前向/反向+FP32 主权重与优化器、动态缩放管理（逐层/逐块）、梯度 FP8 通信；推理 FP8 量化权重（如 8 位 KV/激活）。精度损失通过缩放与混合策略控制，需针对模型调优。
用于万亿参数训练（H100/B200 集群）、大模型推理服务（降低延迟与成本）与长上下文；FP8 是下一代"算力效率"的精度底座。