英文：Long Context 分类：architecture
模型一次处理的输入长度，扩展到数万至百万 Token 的能力。长上下文让"整本书、整个代码库、整场会议"进入模型视野，是 Agent 与 RAG 的强替代/补充能力。
技术栈：注意力优化（FlashAttention、稀疏/线性注意力）、位置外推（RoPE 插值）、KV 缓存压缩（量化、驱逐、共享）与训练/评测（大海捞针、长文档基准）；成本随长度上升，需按任务选择"长上下文 vs 检索"策略。
用于超长文档分析、代码仓库级 Agent、长视频理解与复杂多轮任务；主流模型（GPT、Claude、Gemini、Qwen）已支持 128K-2M Token。