排队系统

英文：Queueing System　分类：infra

基本释义

任务在资源不足时按队列等待执行的系统：定义任务如何排队、优先级如何、何时被调度，是算力调度与作业管理的核心组件。

技术要点

要素：队列定义（按优先级/租户/任务类型）、调度策略（FIFO、公平、抢占）、排队指标（等待时间、队列长度）、优先级提升（老化）；工具：Slurm 分区、K8s 队列（Kueue）、云队列。

应用场景

用于训练集群（GPU 排队）、批处理作业（超算机时）、推理高峰（请求排队）与多租户调度；排队系统决定"任务的等待体验与公平性"。

返回AI百科目录 · AI最前沿首页

相关词条：词元服务 · 超节点 · 训练集群 · 资源配额 · 任务调度器