静态量化

英文：Static Quantization　分类：inference

基本释义

用预先校准数据统计出固定的量化范围（权重与激活）后再量化的方式。运行时无统计开销、速度稳定，是生产环境的高性能选择。

技术要点

流程：校准集前向统计激活范围 → 固定 scale/zero-point → 量化部署；权重可离线量化、激活按固定范围；需保证校准集代表真实分布，否则精度受损。

应用场景

用于高性能生产推理（INT8 TensorRT 部署）、嵌入式与自动驾驶（确定性延迟）及批量模型转换；稳定与速度优先的场景标配。

返回AI百科目录 · AI最前沿首页

相关词条：KV Cache · 投机解码 · 前缀缓存 · 动态量化 · 稀疏化推理