负载均衡

英文:Load Balancing 分类:infra

基本释义

将请求均匀分发到多个后端实例的技术,提升吞吐、降低延迟并实现高可用,是分布式系统的基础组件。

技术要点

策略:轮询、加权轮询、最少连接、一致性哈希(会话保持);健康检查(存活/就绪探针);层次:L4(网络层)、L7(应用层:按 URL/Header 路由);实现:Nginx、Envoy、云负载均衡器。

应用场景

用于 Web 服务、推理集群(多副本分发)、数据库读扩展与微服务网关;负载均衡是"多副本才有用"的前提机制。

返回AI百科目录 · AI最前沿首页

相关词条:词元服务 · 超节点 · 训练集群 · API网关 · 自动扩缩容