目标模型

英文：Target Model　分类：inference

基本释义

被加速或蒸馏的对象模型。在投机采样中是被验证的大模型，在蒸馏中是被模仿的教师模型，是"质量天花板"的提供者。

技术要点

在投机采样：草稿提出→目标模型一次前向验证全部候选并纠正（分布不变）；在蒸馏：目标模型生成数据/软标签训练学生。目标模型质量决定最终输出上限。

应用场景

用于推理加速架构（草稿-验证）、模型蒸馏（学生逼近目标）与评测对照；"目标模型"是生成-验证/教师-学生范式的锚点。

返回AI百科目录 · AI最前沿首页

相关词条：KV Cache · 投机解码 · 前缀缓存 · 草稿模型 · 动态批处理