加速卡

英文:Accelerator Card 分类:infra

基本释义

为 AI 计算设计的硬件加速设备(GPU、TPU、NPU、FPGA),以高算力密度加速矩阵运算。加速卡是 AI 算力基础设施的核心单元。

技术要点

指标:算力(TFLOPS)、显存带宽(HBM)、能效(FLOPS/W)、互联(NVLink/以太);代表:NVIDIA H100/B200、华为昇腾、寒武纪、Google TPU;选型:训练(精度+规模)vs 推理(能效+成本)。

应用场景

用于大模型训练集群、推理服务、自动驾驶训练与科学计算(超算);加速卡供应与算力成本直接决定 AI 行业的发展速度。

返回AI百科目录 · AI最前沿首页

相关词条:词元服务 · 超节点 · 训练集群 · 长程操作 · AI 芯片