指令微调

英文:Instruction Tuning 分类:training

基本释义

用大量"指令-回答"样本训练模型遵循自然语言指令的方法:将各类任务统一为指令形式("请总结…""翻译…"),显著提升模型的零样本泛化能力,是 InstructGPT/ChatGPT 对齐的核心步骤。

技术要点

数据:指令多样化(FLAN 收集 60+ 任务模板)、任务统一(输出格式一致);训练:SFT 方式(指令→回答监督学习);效果:跨任务泛化(未见过的指令也能理解)、格式遵循(JSON/步骤化输出);扩展:多语言、多模态指令数据。

应用场景

用于通用助手开发(对齐基础模型)、任务型模型(总结/翻译/问答一体化)、企业指令集定制与模型能力评测(指令遵循率)。

返回AI百科目录 · AI最前沿首页

相关词条:微调 · 监督微调 · 持续预训练 · 监督微调 · 持续预训练