英文：Relative Positional Encoding 分类：architecture
编码 Token 之间的相对偏移而非绝对位置的位置机制，如"相隔 3 个词"。它对序列长度变化更稳健，位置信息与内容交互更自然。
代表：T5 的相对偏置（桶化偏移）、ALiBi（线性衰减偏置，零参数外推）、RoPE（旋转矩阵编码相对位置，Llama/Qwen 采用）；相对编码天然支持长度外推，配合插值可扩展到极长上下文。
用于长上下文大模型（RoPE 系）、翻译与摘要模型（T5）与需要长度泛化的场景；是现代位置编码的主流方向。