英文:Adapter 分类:frontier
插入冻结模型层间的少量可训练模块(瓶颈结构:降维-激活-升维),通过只训练适配器完成新任务适配,是参数高效微调的代表技术之一。
结构:残差瓶颈(先降维再升维,参数少量);训练:冻结基座只训适配器;变体:串行适配器、并行适配器(LoRA 类)、多任务适配器(共享+专有);优势:任务切换快(换适配器即可)、防遗忘;代表:AdapterHub。
用于多任务微调(一基座多适配器)、领域适配(各行业专属)、持续学习(新任务不覆盖旧任务)与边缘部署(小体积增量);适配器是"即插即用"的任务模块。