嵌入向量

英文：Embedding Vector　分类：foundation

基本释义

将离散对象（词、文档、图像、用户）映射为稠密实数向量，向量间的距离与相似度反映对象语义关系。它与"嵌入"同源，特指作为检索与表示基础的向量化结果，是向量数据库与 RAG 的核心数据形态。

技术要点

生成方式包括预训练词嵌入（Word2Vec、GloVe）、大模型上下文表示（如 BERT 的 CLS、LLM 的隐藏层输出）与专用嵌入模型（如 text-embedding、OpenAI embedding API）。向量维度通常 256-8192，通过余弦相似度或点积度量相关性，维度越高表示越精细但存储与计算成本越大。

发展脉络

从 2013 年 Word2Vec 开创静态词向量，到 2018 年 BERT 引入上下文相关表示，再到 2022 年后嵌入模型成为 RAG 与语义检索的标准组件，嵌入向量驱动的向量检索成为生成式 AI 应用的基础设施。

应用场景

向量数据库检索（如 Milvus、Pinecone、pgvector）、RAG 知识库、推荐召回、去重聚类与语义搜索；工程上关注嵌入模型版本一致性、向量索引（HNSW、IVF）与相似度阈值选择。

返回AI百科目录 · AI最前沿首页

相关词条：Transformer · 注意力机制 · 自注意力 · 轮次 · 向量数据库