监督微调

英文:Supervised Fine-Tuning 分类:training

基本释义

使用标注数据(输入-期望输出对)对预训练模型进行有监督训练的阶段:大模型训练流水线(预训练→SFT→RLHF)中的关键环节,让模型学会"按指令产出正确回答"。

技术要点

数据:指令-回答对(人工编写/筛选高质量样本,数万至数十万条);训练:交叉熵损失、低学习率、多轮 epoch(防过拟合);目标:格式对齐(遵循指令格式)、能力激活(调用预训练中已学的知识);质量:数据多样性>数量(覆盖任务类型)。

应用场景

用于基础模型对齐(ChatGPT 类 SFT 阶段)、企业专属助手(行业问答对训练)、对话能力增强(多轮交互数据)与模型底座二次开发。

返回AI百科目录 · AI最前沿首页

相关词条:微调 · 指令微调 · 持续预训练 · 微调 · 指令微调