芯片互联

英文:Chip Interconnect 分类:infra

基本释义

连接芯片(GPU 间、CPU-GPU、卡间、机架间)的互连技术,决定 AI 集群的通信带宽与扩展性。大模型训练高度依赖高效互连。

技术要点

层次:片内(NoC)、卡间(NVLink/PCIe/UALink)、机间(InfiniBand/以太网 RoCE);指标:带宽(GB/s)、延迟、拓扑(全连接/环/胖树);趋势:Scale-up 专网(NVLink+Switch、UALink)+Scale-out 以太网。

应用场景

用于大模型分布式训练(数据/张量并行通信)、推理集群(多卡协同)与超算互连;芯片互联是"算力集群化"的神经系统。

返回AI百科目录 · AI最前沿首页

相关词条:词元服务 · 超节点 · 训练集群 · CoWoS · UALink