温度退火

英文：Temperature Annealing　分类：inference

基本释义

生成过程中逐渐降低采样温度的策略：前期高温探索多样候选，后期低温收敛到高质量输出。

技术要点

实现：按 Token 步数或阶段线性/阶梯降 T（如 1.0→0.2）；配合重采样（多次生成后低温精修）；用于长文本生成防止"开局即平庸"。

应用场景

用于长文写作（先发散后收敛）、代码生成（探索后定稿）与创意任务；温度退火是"探索-利用"在解码层的朴素实现。

返回AI百科目录 · AI最前沿首页

相关词条：KV Cache · 投机解码 · 前缀缓存 · CUDA Graph · 上下文预填充