AI百科（AI术语词典）

AI最前沿收录 963 个AI领域专业术语词条，每个词条包含【基本释义】【技术要点】【发展脉络】【应用场景】四个模块。

词条分类

【基础概念】大模型的地基：注意力、Token、嵌入、预训练与上下文等最核心的概念。 · 【模型架构】决定模型如何组织参数与计算的网络结构，从 Transformer 到 MoE、Mamba 与扩散模型。 · 【训练与优化】预训练之后如何让模型更听话、更省：微调、对齐算法、量化、剪枝与缩放定律。 · 【推理与部署】把模型真正跑起来的技术：KV Cache、批处理、投机解码、并行策略与推理框架。 · 【智能体与推理链】让模型从回答问题走向自主完成任务：思维链、工具调用、MCP、多智能体与上下文工程。 · 【多模态与生成】跨模态理解与生成：VLM、CLIP、语音合成与识别、文生图、视频生成与世界模型。 · 【具身智能与机器人】让智能走出屏幕：VLA 模型、空间智能、物理 AI、人形机器人与灵巧操作。 · 【算力与基础设施】支撑大模型训练的硬件与工程底座：GPU/TPU/NPU、HBM、NVLink、超节点与液冷。 · 【对齐与安全】让 AI 行为符合人类意图并可控：对齐、红队、越狱、幻觉、可解释性与 AI 治理。 · 【评测与数据】衡量模型到底有多强、数据从哪里来：基准测试、排行榜、合成数据与数据飞轮。 · 【前沿与新生】正在发生的新范式与新名词：推理时计算、递归自我改进、AI 科学家、神经形态计算等。 · 【应用与落地】技术变成产品的形态：AIGC、AI 编程、MaaS、AI 搜索、数字人与智能体平台。 · 【AI编程】让 AI 写代码的产品与技术：编程助手、代码智能体、vibe coding、代码生成与开发者工作流。 · 【AI科研】用 AI 加速科学发现：蛋白质结构、药物设计、材料模拟、气候预测、数学定理与自动化科研。

全部词条

物理AI （embodied）
由黄仁勋在NVIDIA多次主题演讲中倡导的理念：让AI从数字世界走入物理世界，把感知、决策与身体执行结合，使模型能够理解并作用于真实物理环境，是具身智能、机器人…
词元服务 （infra）
面向大模型训练与推理、以"高质量词元（Token）"为核心商品的专业化数据服务，对应2026年中国人工智能产业十大关键词中的"高质量词元服务"。它把语料清洗、去…
智能体终端 （application）
2026年产业关键词之一，指以智能体（Agent）为核心交互与执行单元的新一代终端形态：手机、PC、汽车、穿戴设备不再只是"装App的屏幕"，而是常驻Agent…
模型自进化 （frontier）
指模型在人类设定的边界闭环内，借助前沿模型加速对自身研发流程的改进，包括自动提出假设、生成与筛选训练数据、设计训练目标、微调与评测反馈，从而持续提升自身能力。当…
Agent Harness （agent）
包裹在大语言模型（大脑）之外、负责把意图转化为可执行动作并管理整个任务循环的软件外壳（执行外壳）。可把 Harness 理解为智能体的「操作系统/运行时」：大脑…
结果工程 （application）
2026年行业提出的一种方法论转向：把关注重心从「模型输出了什么内容」转向「最终达成了什么可衡量的结果」，围绕交付一个可验收的业务结果来组织提示、工具、流程与人…
Transformer （foundation）
谷歌 2017 年论文「Attention Is All You Need」提出的神经网络架构，用自注意力机制完全取代循环（RNN）与卷积（CNN）结构。它让序…
注意力机制 （foundation）
让模型在处理序列中某个位置时，按相关性给其他所有位置分配不同权重的机制。它使任意两个词元之间的依赖可以被直接建模，不再受距离限制，是 Transformer 的…
自注意力 （foundation）
注意力机制的一种特殊形式：序列中的每个位置同时充当查询、键和值，从而在同一序列内部建立全局依赖关系。它让模型能够根据上下文动态理解每个词的含义，例如区分"银行"…
Token （foundation）
模型处理文本的最小单位，由分词器把原始文本切成词、子词或字符得到。中文一个词可能对应一个或多个 Token，英文常见单词通常 1-2 个 Token。上下文长度…
分词（foundation）
把原始文本切成 Token 序列的预处理步骤，是模型理解文本的第一道工序。主流方案有 BPE、WordPiece 与 SentencePiece，它们把词表控制…
嵌入（foundation）
把离散符号（词、Token、实体）映射为稠密低维实数向量的表示方法，是深度学习处理离散数据的基本手段。语义相近的符号在向量空间中距离更近，例如"猫"与"狗"的向…
预训练 （foundation）
在大规模无标注语料上训练模型基础能力的阶段，与下游微调相对。预训练让模型学习语言规律、世界知识与推理能力，是"先用海量数据打底、再按任务精修"这一现代 AI 范…
上下文窗口 （foundation）
模型一次能处理的 Token 总数上限，即"一次性看完"的文本长度。窗口越长，模型能吸收的书籍、论文、代码与对话历史就越多，直接决定可处理任务的复杂度与使用体验…
大语言模型 （foundation）
大语言模型（Large Language Model，LLM）是基于Transformer架构、在海量文本语料上进行大规模预训练得到的超大规模神经网络模型，通过…
基础模型 （foundation）
在海量数据上大规模预训练而成、具备广泛通用能力的模型，可作为各类下游任务的底座。它不针对单一任务，而是通过微调、提示或对齐适配到对话、写作、代码、翻译等多种场景…
上下文学习 （foundation）
大模型无需更新权重、仅通过在提示中提供示例（演示）就能学会执行新任务的能力：把任务示范放在上下文里，模型"现学现用"，是提示工程的基础机制。
零样本学习 （foundation）
模型在没有见过任何该任务示例的情况下直接执行的能力：仅凭指令/描述理解任务并完成（如"翻译这句话"），体现模型对任务理解与知识迁移的深度。
少样本学习 （foundation）
仅用少量示例（通常 1-数十个）就能让模型学会新任务的学习范式：在提示中放入示例（少样本 ICL）或小规模微调，适应标注稀缺的场景。
提示词 （foundation）
用户输入给大模型的指令文本，包含任务描述、上下文、示例与格式要求等，是人与模型交互的接口。提示词的质量直接决定输出质量，"如何提问"本身就是一项重要的工程能力，…
潜在空间 （foundation）
模型内部用于表示数据的低维连续向量空间。原始数据（图像、文本、音频）被编码器压缩为潜在向量，这些向量承载数据的关键语义信息，是生成模型与表示学习的中枢：在潜在空…
MoE 路由 （architecture）
混合专家模型中决定每个 Token 由哪些专家处理的门控机制。路由的质量决定专家利用率、负载均衡与整体效果，是 MoE 设计的核心。
多头注意力 （architecture）
把注意力拆成多个并行的「头」，每个头在不同子空间学习不同的关注模式，再把结果拼接投影。它让模型能同时关注语法、指代与语义等多种关系，是 Transformer …
分组查询注意力 （architecture）
让多个查询头共享同一组键值头的注意力结构（GQA）。相比每头独立 KV（MHA），KV 缓存显著减小；相比全共享（MQA），质量损失更小，是长上下文推理的主流折…
旋转位置编码 （architecture）
用旋转矩阵把位置信息注入注意力的相对位置编码方案，实现简单且天然表达相对距离。通过调高旋转底数即可把上下文窗口外推到更长，是长上下文模型的标准组件。
状态空间模型 （architecture）
基于线性状态空间方程建模序列的模型家族，将序列变换表示为可递推的动态系统。SSM 以恒定内存流式处理任意长序列，是注意力之外的重要架构路线。
扩散模型 （multimodal）
一类生成模型：通过学习"噪声→数据"的反向过程来生成新样本。它统治了当前图像与视频生成领域（Stable Diffusion、Sora、Midjourney）。
扩散语言模型 （architecture）
把扩散生成范式用于文本的大语言模型，通过多轮并行去噪而非逐 Token 自回归来产出文本。理论上可让生成并行化、显著降低延迟，是 2025 年以来的研究热点。
生成对抗网络 （architecture）
由生成器与判别器相互博弈训练的生成模型，判别器负责分辨真假、生成器负责骗过它。它曾主导图像生成，如今多与扩散模型或超分模块结合使用。
变分自编码器 （architecture）
把输入编码为潜在分布再采样解码重建的自编码器，损失中带有对潜在分布的约束。它为扩散模型提供了压缩的潜在空间，是潜空间扩散的基础组件。
卷积神经网络 （architecture）
以卷积核在空间上共享权重、逐层提取局部特征的网络结构，具备平移不变性。它是计算机视觉的经典骨干，至今仍广泛用于检测、分割与端侧小模型。
循环神经网络 （architecture）
按时间步递归传递隐藏状态的序列模型，参数在时间上共享。它存在长程依赖梯度消失问题且无法并行训练，在主流 NLP 任务中已被 Transformer 取代。
长短期记忆网络 （architecture）
通过输入门、遗忘门与输出门控制信息流动的 RNN 变体，显著缓解了梯度消失。它长期是序列建模的主流，至今仍用于时序预测、语音与轻量端侧场景。
编码器-解码器 （architecture）
由编码器把输入压缩成表示、解码器据此生成输出的架构范式，天然适合翻译、摘要等序列到序列任务。它是 Transformer 论文最初采用的结构。
仅解码器架构 （architecture）
只保留解码器堆叠、以自回归方式预测下一个 Token 的架构，训练目标与生成方式完全一致。它是当今几乎所有主流大语言模型的标准形态。
线性注意力 （architecture）
将 Softmax 注意力替换为线性核的注意力变体，把计算复杂度从序列长度的平方降为线性，使长序列处理在计算上可行。
混合深度 （architecture）
让每个 Token 动态决定是否经过某一层计算的稀疏化架构，相当于在深度维度上做条件计算。它用更少的算力达到相近效果，是提升推理效率的架构级思路之一。
字节潜变量变换器 （architecture）
Meta 提出的无分词器架构，直接在字节序列上按信息量动态分块建模，不依赖固定词表。它绕开了分词带来的多语言不公平与拼写鲁棒性问题，是分词范式的直接挑战者。
层归一化 （architecture）
对单个样本的特征维度做归一化并学习缩放平移参数，使各层输入分布稳定。它是 Transformer 的标准组件，Pre-LN 与 RMSNorm 等变体直接影响大…
残差连接 （architecture）
把子层输入直接加到其输出上的短路连接，为梯度提供直通路径。它使上百层乃至上千层的网络可以被稳定训练，是深度学习能走向「深」的关键技巧。
微调（training）
在预训练模型基础上，用目标任务的数据继续训练（更新全部或部分参数），使模型适配特定任务/领域的技术；预训练提供通用知识，微调负责"最后一步"的能力对齐。
监督微调 （training）
使用标注数据（输入-期望输出对）对预训练模型进行有监督训练的阶段：大模型训练流水线（预训练→SFT→RLHF）中的关键环节，让模型学会"按指令产出正确回答"。
指令微调 （training）
用大量"指令-回答"样本训练模型遵循自然语言指令的方法：将各类任务统一为指令形式（"请总结…""翻译…"），显著提升模型的零样本泛化能力，是 InstructG…
持续预训练 （training）
在通用预训练之后，用领域语料继续无监督训练（自监督损失）的阶段：让模型补充学习行业知识（医学术语、法律条文、代码规范），再进入监督微调，是行业大模型的常见路径。
RLHF （training）
基于人类反馈的强化学习：先让人类对模型输出排序/打分训练奖励模型，再用强化学习（PPO 等）优化策略模型，使输出符合人类偏好（有用、无害、诚实），是 ChatG…
RLAIF （training）
基于 AI 反馈的强化学习：用 AI 模型（如 Claude 作为"法官"）替代人类为模型输出打分/排序，再以 RLHF 同类流程优化模型；Anthropic …
DPO （training）
直接偏好优化：直接从偏好数据（好/坏回答对）训练模型，无需显式奖励模型与 RL 采样循环的对齐方法；通过闭式最优策略重参数化，将 RLHF 简化为分类损失训练。
PPO （training）
近端策略优化：强化学习主流算法，用裁剪的代理目标限制策略更新幅度（clip 机制），兼顾样本效率与训练稳定性，是 RLHF/RLVR 训练语言模型的标准 RL …
GRPO （training）
Group Relative Policy Optimization：强化学习优化算法，在一个提示的多个采样输出组内做相对优势估计（无需单独价值网络），降低显存…
知识蒸馏 （training）
将大模型（教师）的知识迁移到小模型（学生）的技术：用小模型学习大模型的输出分布（软标签/概率），实现"能力压缩"，让小模型以更低成本接近大模型效果。
缩放定律 （training）
描述模型性能（损失）随参数量、数据量、算力呈幂律关系变化的经验规律：给定算力预算可预测模型效果并指导资源分配，支撑了"更大更强"的大模型路线，近年重心转向数据质…
反向传播 （training）
神经网络训练的核心算法：利用链式法则从输出层向输入层逐层计算损失对各参数的梯度，配合梯度下降更新权重；深度学习"能训练"的根本机制。
梯度下降 （training）
通过沿损失函数负梯度方向迭代更新参数来最小化损失的最优化算法：深度学习的"引擎"，配合反向传播计算梯度，衍生出 SGD、Adam 等变体。
学习率 （training）
梯度下降中每次参数更新的步长（η）：决定模型收敛速度与最终性能的关键超参数，过大导致发散/震荡，过小导致收敛缓慢，通常配合调度策略动态调整。
过拟合 （training）
模型在训练集上表现优异但泛化到新数据时表现差的现象：模型"背下"训练样本的噪声与细节而非学习通用规律，是机器学习中最常见的问题之一。
奖励模型 （training）
RLHF 中预测人类偏好得分的模型：对人类标注的偏好数据（回答对排序）训练，为强化学习提供奖励信号，是"人类价值观"的数学化代理。
RLVR （training）
基于可验证奖励的强化学习：用客观可验证的结果（数学答案、代码测试通过、事实检索）作为奖励信号，替代人类偏好打分，训练模型的推理能力（DeepSeek-R1、Op…
模型合并 （architecture）
将多个针对不同任务微调的模型权重融合为一个模型的技术，让单一模型同时具备多种能力，无需重新训练或多模型部署。
KV Cache （inference）
自回归生成时缓存已算过的键和值，避免每生成一个 Token 都重算整个前缀。它把生成复杂度从平方级降到线性级，但也让显存占用随上下文长度线性增长，是长上下文推理…
投机解码 （inference）
让一个廉价的小模型先草拟若干 Token，再让大模型一次并行校验并接受其中正确的部分。它在数学上保证输出分布不变，却能把生成速度提升数倍，是当下最主流的无损加速…
前缀缓存 （inference）
把多请求共有的提示前缀（如系统提示、长文档）的 KV Cache 复用起来，只计算各自不同的部分。在系统提示很长或多轮对话场景下能显著降低首 Token 延迟。
提示缓存 （inference）
缓存输入前缀的 KV 状态，使重复请求跳过重算的推理优化。对话延续、系统提示、RAG 文档场景收益显著，主流 API 已按缓存价格计费。
PD 分离 （inference）
把推理拆成算力密集的预填充阶段与显存密集的解码阶段，分别部署到不同机器上，各自配置最合适的硬件与并行策略。它是大规模推理集群提升利用率与稳定性的主流架构方向。
首 Token 延迟 （inference）
从发出请求到收到第一个输出 Token 的时间，直接决定用户感知的响应速度。它主要由预填充阶段决定，受输入长度、前缀缓存命中与否影响很大。
端侧AI （inference）
把模型直接跑在手机、PC、车机等终端本地，不依赖云端。它带来低延迟与数据不出设备的隐私优势，配合小模型与量化技术已在输入法、相册与语音助手等场景大规模落地。
温度采样 （inference）
在 softmax 前对 logits 除以温度系数来控制输出随机性：温度接近 0 趋于确定性输出，温度越高越发散。它是调节生成创造性与稳定性的第一旋钮。
Top-p 采样 （inference）
只从累积概率达到 p 的最小候选集合中采样，动态裁剪掉长尾低概率 Token。它比固定 Top-K 更适应不同分布的上下文，是生产环境中最常用的采样策略。
结构化输出 （inference）
约束模型严格按给定 JSON Schema 等格式输出，由解码阶段的语法约束保证字段与类型合法。它让模型输出可以直接被程序消费，是 Agent 与业务系统集成的…
模型服务 （inference）
把模型封装成可弹性扩缩、可观测、可灰度的高可用在线服务，涵盖批处理调度、显存管理、限流与多模型路由。它是模型从实验走向生产之间的工程鸿沟。
张量并行 （inference）
把单层内部的矩阵运算切分到多张卡上并行执行，用于让单层参数量超出单卡显存的大模型跑起来。它通信频繁，通常只在单机内多卡之间使用。
流水线并行 （inference）
把不同层切分到不同设备上，让多个微批次像流水线一样依次穿过各段，从而同时利用所有设备。它以少量流水线气泡换取跨机扩展能力。
数据并行 （inference）
每张卡持有完整模型副本、各自处理不同数据批次，再通过全归约同步梯度。它实现简单、扩展性好，是大模型训练最基础的并行方式。
专家并行 （architecture）
将混合专家（MoE）模型的专家层分布在多设备上、按 Token 路由计算的并行策略。它把"参数量"与"计算量"解耦，实现千亿级参数的分布式训练推理。
Agent （agent）
能自主感知环境、分解目标、规划步骤并调用工具去完成任务的 AI 系统，而不只是被动回答单轮问题。它把大模型从「对话接口」升级为「执行主体」，是 2025 年以来…
思维链 （agent）
让模型在给出答案前先输出中间推理步骤，从而显著提升数学、逻辑与多跳问答的准确率。它是推理模型的技术起点，也是「推理时计算」最直观的体现方式。
思维树 （inference）
将推理过程建模为树形搜索的策略：在每一步生成多个候选思路、评估取舍、回溯重试，比线性思维链更接近人类的复杂思考。
MCP （agent）
Anthropic 于 2024 年底开源、现已捐给 Linux 基金会的协议，用统一方式描述模型可用的工具、资源与提示。它把「每个模型对接每个工具」的 N×M…
GraphRAG （agent）
先用大模型从语料中抽取实体与关系构建知识图谱，再在图上做社区摘要与多跳检索。它擅长回答「跨多份文档、需要串联关系」的全局性问题，是向量检索的补强方案。
Agentic RAG （agent）
把固定的一次检索改成由智能体自主决策的循环：判断是否需要检索、改写查询、多轮检索、评估结果是否足够。它显著提升复杂问题的召回质量，代价是延迟与成本上升。
计算机使用 （agent）
让模型看屏幕截图、操作鼠标键盘来直接使用软件，而不依赖软件提供 API。它打开了大量没有接口的存量软件的自动化空间，但可靠性与安全性仍是主要门槛。
GUI 智能体 （agent）
专门在图形界面上工作的智能体，把界面元素识别、意图理解与点击输入动作串成闭环。它是手机与桌面自动化、跨应用流程编排的主要技术路线。
深度研究 （agent）
由智能体自动完成「拆解问题—多轮检索—交叉验证—撰写带引用的长报告」的研究流程，把原本数小时的人工调研压缩到几十分钟。它是 2025 年最先跑通商业价值的智能体…
智能体记忆 （agent）
智能体在上下文窗口之外持久保存历史交互与经验的机制，通常分为短期情景记忆与长期语义记忆。它让智能体跨会话累积经验并保持用户偏好一致，是长任务稳定性的关键。
提示工程 （agent）
通过设计指令结构、示例、角色设定与输出格式来稳定获得高质量回答的工程方法。它是成本最低的效果优化手段，在模型能力提升后其重心已从「话术技巧」转向「信息组织」。
上下文工程 （agent）
把模型每一次调用时上下文窗口里「放什么、怎么放、按什么顺序放」当作核心工程问题来设计，涵盖检索、压缩、记忆与工具返回的编排。它被认为是提示工程的升级形态，直接决…
智能体编排 （agent）
把多个模型、工具与子智能体按状态机或图结构组织起来，管理调用顺序、失败重试与人工介入点。它是把演示级 Agent 做成可控生产系统的关键工程层，代表方案包括 L…
视觉编码器 （multimodal）
把图像切成图块并编码为视觉特征序列的模块，通常基于 ViT 并使用 CLIP 或 SigLIP 预训练权重。它的分辨率与切块策略直接决定模型能否看清小字与细节。
语音合成 （multimodal）
把文本转换成自然语音的技术，基于神经网络的方案已能做到接近真人的音色、语气与情感。它支撑了有声内容、客服外呼与实时语音助手等大量应用。
语音识别 （multimodal）
把语音转写成文字的技术，主流方案已从声学模型加语言模型的两段式演进为端到端大模型。它在混合语言、口音与噪声环境下的鲁棒性决定了语音交互的可用性。
端到端语音模型 （multimodal）
直接从语音输入到语义输出的单一模型，取代"语音识别+文本理解"的级联流程。端到端建模保留语调、说话人等语音特有信息。
扩散变换器 （multimodal）
用 Transformer 替换扩散模型中常用的 U-Net 作为去噪骨干，配合分块机制统一处理图像与视频。它是当前主流视频与图像生成模型的标准架构。
流匹配 （multimodal）
一种生成框架：学习把噪声分布"流式传输"到数据分布的确定性路径（常为直线插值），训练更简单、采样更快，成为新一代扩散训练范式（SD3、Flux、Sora 采用）…
全模态模型 （multimodal）
在单一模型中端到端处理文本、图像、音频与视频的输入输出，而不是多个专用模型拼接。它降低了跨模态交互的延迟与工程复杂度，是 2025 年以来头部模型的共同方向。
世界模型 （multimodal）
学习环境动态规律、能预测未来状态的模型：给定当前状态与动作，预测下一帧/下一状态。世界模型让智能体能"在脑中预演"，用于规划、强化学习与模拟。
VLA （embodied）
把视觉观测、语言指令与机器人动作统一到一个模型中建模，直接输出可执行的末端轨迹或关节指令。它让机器人能听懂自然语言指令并泛化到未见物体与场景，是具身智能的核心模…
空间智能 （embodied）
理解与推理三维空间中物体位置、尺度、遮挡与可达性的能力，是机器人操作与导航的前提。它要求模型从二维图像中重建三维结构，并判断「从哪里抓、往哪里放」。
物理 AI （embodied）
强调 AI 必须理解并遵守真实物理规律（摩擦、重力、接触、形变）而不只是处理符号与像素。它是 NVIDIA、CES 等产业场合近两年最热的关键词，指向机器人与自…
遥操作 （embodied）
人类远程操控机器人的方式：操作者通过手柄、触觉设备或动作捕捉控制机器人的运动。它是数据采集（示教）与危险环境作业的关键手段。
仿真到现实 （embodied）
将在仿真环境中训练的策略迁移到真实机器人的技术。仿真提供无限数据与安全试错，但存在"仿真鸿沟"（物理差异），迁移需专门设计。
机器人基础模型 （embodied）
在跨本体、跨任务的大规模机器人数据上预训练，再针对具体机型与任务微调的通用机器人模型。它试图复刻语言领域「一个基础模型适配多种下游任务」的成功路径。
超节点 （infra）
把数十到上千张加速卡通过高速互联组成一个逻辑上统一的超大型计算单元，让跨卡通信带宽与延迟接近单机内部水平。它是训练十万亿参数级模型、突破「单卡算力不足」的必要形…
训练集群 （infra）
由数万张加速卡、高速互联网络、并行文件系统与调度系统组成的超大规模算力设施，用于训练前沿大模型。其有效算力利用率（MFU）与故障恢复能力比纸面峰值更重要。
算力（infra）
通常以 FLOPS 及其派生单位（如 EFLOPS）衡量，表示每秒可完成的浮点运算次数。大模型训练与推理的算力需求可用参数量、Token 数与训练时长估算，是 …
PUE （infra）
数据中心总耗电与 IT 设备耗电之比，越接近 1 越节能。在 AI 集群功耗急剧膨胀的背景下，PUE 已成为选址、供电方案与绿色指标的核心约束。
AI 工厂 （infra）
把算力基础设施当作生产「智能 Token」的工厂来建设与运营的理念，强调吞吐、良率与单位成本而非单纯的峰值算力。它由 NVIDIA 大力推广，已成为算力基建的叙…
芯粒（infra）
把大型芯片拆成多个小裸片再通过先进封装互连，以提升良率、灵活组合不同工艺与 IP。它是后摩尔时代延续算力增长的主流工程路线，也是自研 AI 芯片的常用手段。
张量核心 （infra）
GPU 内专门用于矩阵乘加运算的硬件单元，可在单指令内完成大规模混合精度矩阵运算。它的代际升级是每一代 AI 加速卡算力翻倍的主要来源。
对齐（alignment）
研究如何让 AI 系统的行为真正符合人类意图与价值观，而不只是字面完成指令。它既包括 RLHF 这类工程手段，也包括对长期失控风险的理论研究，是 AI 安全的核…
宪法 AI （alignment）
Anthropic 提出的对齐方法：给模型一份明确的原则清单（宪法），让它据此自我批评并修订回答，再用 AI 反馈做强化学习。它减少了对人工标注有害内容的依赖，…
红队测试 （alignment）
由专门团队以对抗视角主动寻找模型的安全漏洞、有害输出与能力滥用路径，再据此加固。它是模型发布前的标准安全流程，也是各国监管框架明确要求的环节。
越狱（alignment）
通过角色扮演、编码混淆、分步诱导等提示技巧绕过模型的安全限制，使其输出本应拒绝的内容。防越狱能力是模型安全评测的核心指标之一，与能力提升之间存在持续的攻防拉锯。
提示注入 （alignment）
把恶意指令藏在网页、文档或工具返回内容里，诱导智能体忽略原有目标去执行攻击者意图。它是智能体时代最严重的应用层安全风险，与传统软件的注入漏洞同源。
幻觉（alignment）
模型生成看似合理、实则与事实不符或凭空编造的内容，根源在于它优化的是「像不像真话」而非「是不是真的」。它是大模型在企业与专业场景落地的最大障碍，常用 RAG、引…
护栏（alignment）
在模型输入输出两端部署的过滤、分类与策略校验层，用于拦截有害请求与不合规输出。它独立于模型本身，可在不重训模型的前提下响应监管与业务合规要求。
AI 安全 （alignment）
研究如何避免 AI 系统造成伤害的整个领域，覆盖滥用防范、事故风险与失控风险三个层次。它与 AI 治理的区别在于更偏技术手段而非制度设计。
可解释性 （alignment）
让人类能够理解模型为何给出某个输出的研究，包括可视化注意力、分析神经元语义与构建概念解释。它既是安全审计的前提，也是提升模型可信度的基础。
机制可解释性 （alignment）
逆向工程神经网络的内部计算机制（权重、激活、电路），理解模型"如何"实现特定行为，是对齐与安全研究的前沿方向。
稀疏自编码器 （alignment）
用稀疏编码从模型激活中分解出"可解释特征"的自编码器：将稠密激活映射到高维稀疏表示（每个激活由少量特征组成），是 Anthropic 可解释性研究的核心工具。
激活引导 （alignment）
在推理时直接修改模型某一层的内部激活方向，从而增强或抑制特定行为（如拒答、谄媚、情绪）。它是无需微调即可控制模型行为的手段，也用于验证可解释性结论是否正确。
超级对齐 （alignment）
OpenAI 2023 年提出的研究方向：研究如何用弱的人类监督去对齐未来可能远超人类的超级智能。它关注可扩展监督与泛化对齐两大子问题，团队虽已解散但议题仍在推…
可扩展监督 （alignment）
当 AI 能力超过人类监督能力时仍能保持对齐的监督方法体系：用 AI 辅助人类监督（AI 批评家）、过程监督、可验证任务（代码/数学自证），是超级智能安全的关键…
AI 治理 （alignment）
政府与国际组织通过法律、标准与备案制度对 AI 研发与应用进行规范，涵盖分级分类监管、内容标识、数据合规与责任划分。它是产业合规成本与国家竞争力的共同变量。
数字水印 （alignment）
在生成内容中以人眼不可察觉的方式嵌入可检测标记，用于识别内容是否由 AI 生成。它是监管要求 AI 生成内容标识的主要技术手段，但抗改写能力仍是弱点。
大模型评审 （eval）
用能力较强的大模型按评分标准给其他模型的输出打分，替代昂贵的人工评估。它可扩展性好，但存在位置偏好、长度偏好与自我偏好等系统性偏差，需配合人工抽检校准。
聊天机器人竞技场 （eval）
由 LMSYS 运营的众包盲测平台，用户对两个匿名模型的回答投票，再用 Elo 或 Bradley-Terry 模型折算成排名。它反映真实用户的整体偏好，比静态…
数据治理 （eval）
对训练语料做去重、去毒、质量筛选、配比与课程排序的系统工程。在模型架构趋同的当下，数据质量往往比数据规模更能决定最终效果。
合成数据 （frontier）
由程序、规则或模型生成的用于训练/评估的数据（非真实采集），用于扩充稀缺场景、控制分布与降低成本，已成为大模型训练的重要数据来源。
数据飞轮 （eval）
产品使用产生真实交互数据、数据用于改进模型、更好的模型又带来更多使用的正循环。它是头部 AI 产品最难被追赶的护城河，也是「用户即标注员」的机制化表达。
评测框架 （eval）
统一的评测执行工具链，负责加载任务、控制提示模板、调用模型、解析答案与计算指标。它保证不同模型在同一条流水线上被公平比较，是评测可信度的工程前提。
数据标注 （eval）
由人工为数据打上标签、答案或偏好排序，是监督微调与 RLHF 的数据来源。标注规范的一致性、标注员的水平与多样性，直接决定模型对齐质量。
推理时计算 （inference）
在推理阶段投入更多计算换取更高质量输出的策略：多次采样、验证、搜索与反思。它是"训练时算力"之外的第二个规模轴，催生了推理模型。
长上下文 （architecture）
模型一次处理的输入长度，扩展到数万至百万 Token 的能力。长上下文让"整本书、整个代码库、整场会议"进入模型视野，是 Agent 与 RAG 的强替代/补充…
长度外推 （frontier）
让在短序列上训练的模型在远超训练长度的序列上仍然可用，典型做法是调整 RoPE 底数、位置插值与 YaRN 等缩放策略。它是把模型上下文窗口从数万扩到百万的主要…
测试时训练 （frontier）
在推理阶段针对当前输入做少量参数更新或状态适应，让模型临时记住并利用本次任务信息。它与上下文学习的区别是真正改动了权重，被视为长上下文的一种替代路线。
AI 科学家 （science）
能自主完成科学研究全流程的 AI 系统：提出假设→设计实验→执行分析→撰写论文，以"研究闭环"自动化探索科学问题（如 Sakana AI 的 AI Scient…
科学智能 （frontier）
把 AI 用于蛋白质结构预测、材料发现、气象预报与数学猜想等科学研究任务，已成为继对话与编程之后最具确定性的价值方向之一。代表成果包括 AlphaFold 与各…
神经符号 AI （frontier）
把神经网络的感知与学习能力同符号系统的逻辑推理与可验证性结合起来，试图同时获得灵活性与可靠性。它被视为降低幻觉、提升可解释性的一条互补路线。
词元经济 （frontier）
以 Token 的调用量与单价为核心计量单位的 AI 商业模式与产业观察框架，被视为智能时代的「用电量」。它同时催生了按 Token 计费、缓存折扣与推理成本工…
量子机器学习 （frontier）
探索用量子计算加速机器学习训练或推理，或用量子线路作为模型结构的研究方向。目前受限于量子比特规模与纠错能力，除少数特定问题外尚未展现实用优势。
推理模型 （frontier）
经过专门训练、能在回答前进行逐步推理（思维链、多步思考、自我验证）的模型（如 OpenAI o1/o3、DeepSeek R1），显著提升数学、编程与科学推理能…
生成式 AI （frontier）
能够生成文本、图像、音频、视频与代码等新内容而非仅做分类预测的 AI 总称。它是这一轮 AI 产业浪潮的统称，也是从辨别式模型到生成式模型的范式转折。
智能体式 AI （frontier）
强调 AI 具备目标设定、长期记忆、工具使用与自主执行能力的产业提法，用于区分「聊天机器」与「能干活的主体」。它已成为 2025 年以来厂商发布会被提及最多的关…
小语言模型 （frontier）
参数规模较小的语言模型（数亿至数十亿参数）：部署成本低、响应快、可本地化，通过蒸馏/高效训练获得接近大模型的实用能力，是边缘与降本部署的主力。
AI 原生 （foundation）
从设计之初就以 AI 为核心的产品/企业/流程：AI 不是附加功能而是基础设施（如 AI 原生产品：对话即界面、个性化生成、自主 Agent），代表新一轮技术范…
AIGC （application）
由 AI 生成的文本、图像、音频与视频内容的总称，已进入广告、影视、游戏与电商素材的日常生产流程。它的产业影响集中在内容成本结构而非单点效果。
智能助手 （application）
嵌入既有工作流、在用户操作过程中提供建议与代劳的 AI 产品形态，例如代码补全、文档撰写与客服辅助。它的关键是融入流程而非另开一个对话窗口。
AI 编程 （application）
用模型完成代码补全、生成、重构、调试与代码库问答，形态从编辑器插件演进到可自主完成整个任务的编程智能体。它是目前商业化最成功、渗透率最高的 AI 应用方向。
MaaS （application）
把大模型能力以 API 形式按量计费对外提供服务，客户无需自建算力与运维。它是大模型落地的主要商业形态，也是云厂商在 AI 时代争夺的核心入口。
企业 AI （application）
把 AI 接入企业自有数据、权限体系与业务流程，强调可控、可审计与可计量。它的难点不在模型能力，而在数据治理、权限隔离与组织流程改造。
AI PC （application）
内置 NPU 并能在本地运行模型的个人电脑，可实现离线摘要、本地知识问答与隐私保护型助手。它是芯片厂商与整机厂商共同推动的换机叙事。
数字人 （application）
由 AI 驱动形象、语音与动作的虚拟人，可用于直播带货、口播视频、客服与培训。随着语音与视频生成成本骤降，它已从定制项目变成可批量生产的标准化产品。
AI 搜索 （application）
用大模型直接给出综合答案并附引用的搜索形态，替代传统十条蓝色链接。它改变了流量分发与内容变现结构，也带来版权与准确性方面的新争议。
推荐系统 （application）
根据用户历史行为预测其偏好并排序候选内容或商品的系统，是信息流、电商与短视频的核心引擎。大模型正在把召回与排序从特征工程改造为生成式序列建模。
智能座舱 （application）
以语音助手与多模态交互为核心的汽车座舱系统，负责车控、导航、娱乐与用车问答。大模型上车后，座舱从「指令识别」升级为「自然对话与主动服务」。
AIoT （application）
把 AI 推理能力下沉到摄像头、传感器、家电与工业设备等终端，实现本地实时决策。它让海量设备在不依赖云端的条件下具备识别与响应能力。
智能体平台 （application）
提供智能体开发、编排、评测、发布与运营的一站式平台，把模型、工具与知识库封装成可交付的应用。它是大模型从「能力」变成「产品」的主要中间层。
神经网络 （foundation）
受生物神经系统启发、由大量参数化单元（神经元）分层连接而成的计算模型。每层对输入做加权求和与非线性变换，通过反向传播从数据中自动学习特征与规律，是深度学习的基本…
深度学习 （foundation）
以多层神经网络为核心、通过大量数据自动学习层次化表示的机器学习方法。它无需人工设计特征，低层学基础模式、高层学抽象语义，是当前大模型、自动驾驶、人脸识别等突破性…
机器学习 （foundation）
让计算机从数据中自动学习规律、无需显式编程即可做出预测或决策的学科。核心思想是从大量样本中归纳模式并泛化到未见数据，是人工智能的主流实现路径，深度学习是其中最成…
监督学习 （foundation）
使用带标注数据（输入-输出对）训练模型的学习范式。模型从"标准答案"中学习输入到输出的映射，训练后能对未见输入给出预测。分类（识别类别）与回归（预测数值）是它的…
无监督学习 （foundation）
在没有标注的情况下，仅从数据本身的结构中学习规律的学习范式。典型任务包括聚类（发现分组）、降维（压缩表示）与异常检测；大模型的预训练本质上就是超大规模的无监督（…
强化学习 （foundation）
智能体通过与环境的交互、依据奖励信号试错学习最优策略的机器学习范式。它不依赖标注答案，而是从"做-得到反馈-调整"中学习，是游戏 AI、机器人控制与大模型对齐（…
迁移学习 （foundation）
将模型在源任务（大规模预训练）学到的知识迁移到目标任务（小规模下游）的学习范式：预训练+微调是其典型形态，让标注稀缺的任务也能获得强大能力。
欠拟合 （foundation）
模型在训练数据上表现不佳、未能学到足够规律的状态，通常源于模型容量不足、训练不充分或特征表达欠缺。与过拟合相对，欠拟合意味着模型"过于简单"，无法捕捉数据中的真…
正则化 （foundation）
抑制模型过拟合、提升泛化能力的技术集合。通过对复杂度施加惩罚或引入随机性，正则化让模型在训练数据上"不过度记忆"噪声，从而对未见数据表现更稳定，是深度学习训练的…
激活函数 （foundation）
神经网络中给每个神经元的加权求和结果施加的非线性变换，是网络能学习复杂模式的关键。没有激活函数，多层网络会退化成单层线性变换，无法逼近任何非线性映射；常见的 R…
损失函数 （foundation）
衡量模型预测与真实目标之间差距的函数，是训练优化的唯一信号来源。模型通过最小化损失（梯度下降）调整参数。不同任务选用不同损失：分类用交叉熵、回归用均方误差、生成…
批次（foundation）
训练中一次性输入模型的样本组，梯度在整批样本的损失均值上计算后更新一次参数。批次大小（Batch Size）是训练的关键超参数，直接影响显存占用、收敛速度与模型…
轮次（foundation）
模型完整遍历一遍训练数据集称为一个轮次。训练通常进行多个轮次，每轮后模型对数据的学习更进一步；轮次数量决定"训练多久"，过多会过拟合，过少则欠拟合。
嵌入向量 （foundation）
将离散对象（词、文档、图像、用户）映射为稠密实数向量，向量间的距离与相似度反映对象语义关系。它与"嵌入"同源，特指作为检索与表示基础的向量化结果，是向量数据库与…
向量数据库 （infra）
专为向量（Embedding）存储与相似度检索设计的数据库，支持 ANN（近似最近邻）高效检索，是 RAG 与语义搜索的核心组件。
相似度搜索 （foundation）
在向量集合中查找与查询向量最接近的项的过程，是语义检索的基本操作。与关键词匹配不同，它基于向量空间的语义距离（余弦、欧氏），能命中语义相近但字面不同的内容。
特征工程 （foundation）
从原始数据中构造、选择与变换供模型学习的输入特征的实践。在传统机器学习中决定模型上限，是数据科学家的核心工作；深度学习与大模型通过表示学习自动提取特征，使特征工…
数据增强 （foundation）
通过对原始数据施加变换（旋转、裁剪、加噪、改写、回译等）生成多样新样本，扩大训练集并提升模型泛化能力的技术。它是视觉、语音、NLP 训练的标准组件，也是缓解数据…
过参数化 （foundation）
模型参数量远超训练样本量的状态。直觉上应严重过拟合，但现代神经网络在大规模过参数化下反而泛化良好，这一"过参数化之谜"是深度学习理论的核心现象，也是大模型"规模…
稀疏激活 （foundation）
模型每次推理只激活一部分参数或神经元、其余保持静默的机制。它让模型在总参数量巨大时仍保持合理计算量，是混合专家（MoE）架构与高效大模型的核心设计，兼顾容量与效…
注意力头 （architecture）
多头注意力中并行运行的注意力子模块：每个头在自己的子空间（独立 Q/K/V 投影）学习不同类型的关注模式（语法、指代、语义、位置等），多头的输出拼接后统一投影，…
位置编码 （foundation）
向模型注入序列位置信息的机制。自注意力本身不具备顺序概念，位置编码让模型知道"第几个位置"，是 Transformer 能处理有序序列的必要组件，其设计直接影响…
掩码（foundation）
在模型计算中隐藏或屏蔽部分信息的技术：编码器语言模型（如 BERT）用掩码遮住词元做预测，自回归模型用因果掩码保证只关注过去，注意力计算用填充掩码排除 padd…
前馈网络 （foundation）
Transformer 中每个注意力层之后的逐位置全连接网络，由两次线性变换夹一个激活函数构成，负责对每个位置的表示做非线性变换与信息加工。它占据 Transf…
交叉熵 （foundation）
衡量两个概率分布差异的损失函数，分类任务与语言模型的标准目标。它由信息论导出，对预测置信度敏感，梯度形式简洁，配合 Softmax 构成神经网络分类的黄金组合。
采样（foundation）
生成文本时从模型输出的概率分布中选择 Token 的策略。直接取最高概率（贪心）会单调重复，采样则引入随机性，使输出多样自然。采样策略与温度是控制生成质量与创造…
束搜索 （foundation）
在每一步保留 Top-K 个最优部分序列（束）并逐步扩展、最终选出整体得分最高完整序列的解码算法。相比贪心解码只看局部，束搜索近似全局最优，常用于机器翻译、摘要…
贪心解码 （inference）
每一步都选择概率最高的 Token 的解码方式。输出确定、实现简单、速度最快，但易陷入重复与局部最优，多样性差。
少样本提示 （foundation）
在提示词中放入少量输入-输出示例，引导模型模仿示例格式与逻辑完成任务的提示方法。它比零样本更稳定，是提示工程的基本技术，也是上下文学习的直接应用。
零样本提示 （foundation）
不提供任何示例、仅用任务描述（指令）让模型直接执行的提示方式。它依赖模型预训练积累的通用能力，是最便捷的调用方式，适合快速验证与简单任务。
人类反馈 （foundation）
以人类评价或偏好作为信号优化模型的方法，是 RLHF（基于人类反馈的强化学习）的基础。人类标注员比较模型输出、打分或修正内容，形成奖励信号引导模型对齐人类偏好，…
安全对齐 （foundation）
通过训练与防护手段确保模型行为符合人类意图、价值观与安全规范的过程。对齐不仅追求能力，更要求模型拒绝有害请求、不输出虚假或危险内容，是生成式 AI 可信落地的关…
Encoder-only （architecture）
仅使用Transformer编码器的双向模型，如BERT。适合分类与理解任务，但不适合生成。
Flash Attention （architecture）
通过分块计算与GPU显存优化加速注意力运算的算法，显著降低长序列训练的显存与时间开销。
ALiBi （architecture）
通过给注意力分数加线性偏置来外推位置的方法，使模型能处理训练时未见过的序列长度。
滑动窗口注意力 （architecture）
每个Token只关注局部窗口内Token的注意力变体，如Mistral。它降低长序列计算量并支持外推。
多Query注意力 （architecture）
多个Query头共享同一组Key/Value头的注意力变体，显著加速推理。
归一化位置编码 （architecture）
同ALiBi，线性偏置位置编码。
词表（foundation）
分词器定义的所有Token集合。大模型通常使用3万至12.8万词表。
BPE （foundation）
Subword分词算法，通过合并高频字节对构建词表。GPT与LLaMA均采用。
SentencePiece （foundation）
Google开发的无预分词子词分词库，直接从原始文本训练BPE/Unigram，支持多语言。
Unigram （foundation）
一种概率子词分词模型，通过迭代删除低概率子词构建词表。
词表大小 （foundation）
模型支持的Token总数，影响嵌入层参数与OOV率。
嵌入层 （foundation）
将Token ID映射为向量表示的第一层。其参数量为词表大小×隐藏维度。

更多AI行业资讯请访问 AI最前沿。