过程监督

英文:Process Supervision 分类:inference

基本释义

对推理的每一步而非仅最终结果进行奖励/验证的训练与推理方法。它定位错误步骤、抑制错误链传播,显著提升复杂推理的可靠性。

技术要点

实现:每步标注正确性(人工/自动生成 PRM)、每步奖励训练过程奖励模型、推理时逐步验证并剪枝;相比结果监督,信号更密集,适合长链推理;成本是标注与计算开销。

应用场景

用于数学与科学推理(OpenAI PRM 系列)、代码推理(逐步检查)与 RL 训练奖励设计;过程监督是"推理模型质量"的核心训练信号。

返回AI百科目录 · AI最前沿首页

相关词条:KV Cache · 投机解码 · 前缀缓存 · 验证器 · 结果监督