英文：联合嵌入预测架构（JEPA） 分类：foundation
联合嵌入预测架构（JEPA）是 Yann LeCun 提出的自监督学习范式：不直接预测像素级的未来图像，而是在高维抽象表示空间中预测"下一状态的嵌入"。它避免了生成模型（扩散/VAE）在像素级重建上浪费算力与细节，让模型专注学习环境的语义结构与因果规律，被 LeCun 视为通向"世界模型"与通用人工智能的重要路线。
JEPA 的核心由三部分组成：①编码器——把观测映射到抽象嵌入空间；②预测器——给定当前嵌入与动作/上下文，预测未来嵌入；③目标编码器——提供稳定的预测目标（通常为 EMA 滑动平均的在线编码器）。关键设计是"在表示空间预测而非像素空间预测"，并通过对比学习或正则化防止模型塌缩（所有输入映射到同一向量）。i-JEPA（图像版）与 V-JEPA（视频版）已在视频预测与机器人规划任务上验证有效。
2022 年 LeCun 在 Meta FAIR 提出 JEPA 路线，与扩散模型路线形成鲜明对比；2023-2024 年 i-JEPA、V-JEPA 相继开源，证明抽象预测在下游任务上的竞争力；2025-2026 年随着世界模型与具身智能成为热点，JEPA 路线被视为与 Sora 式像素级世界模型互补的另一极，在机器人仿真与自动驾驶场景受到关注。
机器人操作规划（预测未来状态表示以辅助决策）、视频理解与动作识别、 representation learning 预训练、作为具身智能世界模型的轻量替代方案。
相关词条：Transformer · 注意力机制 · 自注意力 · Test-Time Compute