上下文学习

英文:In-Context Learning 分类:foundation

基本释义

大模型无需更新权重、仅通过在提示中提供示例(演示)就能学会执行新任务的能力:把任务示范放在上下文里,模型"现学现用",是提示工程的基础机制。

技术要点

原理:预训练中见过大量"示例模式"(少样本模式),推理时模式匹配;形式:零样本(指令)、少样本(示例)、思维链示范(推理引导);影响因素:示例数量/质量/顺序、格式一致性;研究:ICL 机制(注意力/归纳头)。

应用场景

用于少样本任务适配(无需微调)、提示工程(示例设计)、模型能力评测(ICL 基准)与快速原型;上下文学习是"开箱即用"的模型能力。

返回AI百科目录 · AI最前沿首页

相关词条:Transformer · 注意力机制 · 自注意力 · 基础模型 · 零样本学习