英文:Fine-Tuning 分类:training
在预训练模型基础上,用目标任务的数据继续训练(更新全部或部分参数),使模型适配特定任务/领域的技术;预训练提供通用知识,微调负责"最后一步"的能力对齐。
形式:全参数微调(更新所有权重)、参数高效微调(LoRA/Adapter 只更新少量参数);关键:学习率(通常远小于预训练)、数据质量与规模(数千-数万条即可显著提效)、灾难性遗忘(需平衡通用与专用能力);流程:准备任务数据→低学习率训练→评估验证。
用于垂直领域适配(医疗/法律/金融术语)、企业私有模型(数据不出域)、风格/任务对齐(客服话术、写作风格)与小型部署(微调后模型更小更准)。