指令遵循

英文:Instruction Following 分类:foundation

基本释义

模型准确理解和执行用户指令的能力,包括约束遵守(格式、长度)、多步任务执行与拒绝不当请求。它是对话产品体验的基础,通过指令微调与对齐训练强化。

技术要点

实现:指令数据(多样化任务+严格约束)、SFT+RLHF/DPO 训练、评测(IFEval 等约束遵循基准);难点是"过度遵循"(执行有害指令)与"灵活遵循"(理解隐含意图)的平衡,以及长指令与复杂约束的稳定性。

应用场景

用于对话助手、API 调用(输出格式约束)、Agent 任务执行与自动化;指令遵循质量直接决定用户对"听话"的感知,是产品体验的底层能力。

返回AI百科目录 · AI最前沿首页

相关词条:Transformer · 注意力机制 · 自注意力 · 推理能力 · 交叉注意力