英文:Multi-Task Learning 分类:foundation
让模型同时学习多个相关任务,通过共享表示提升各任务性能的技术。共享学习迫使模型提取通用特征,相互补充数据,减少过拟合。
实现方式:共享底层表示+任务专属头(经典范式)、任务间注意力/门控共享、多任务微调大模型(指令混合训练);需权衡任务间的冲突(负迁移)与数据配比。评测看各任务独立指标与平均增益。
用于 NLP 多任务(分类+抽取+生成统一模型)、推荐(点击+转化多目标)、自动驾驶多任务感知与语音多语言识别;大模型的指令微调本质是多任务学习。
相关词条:Transformer · 注意力机制 · 自注意力 · 分布外泛化 · 领域泛化