Skip to content

04 · 负载均衡:一台不够,就分给多台 ​

学完你能说出:

  • 负载均衡解决什么、不用会怎样、代价。
  • 4 种常见分配算法:轮询、加权轮询、最少连接、IP 哈希。
  • 健康检查、四层与七层的区别、会话保持与无状态,以及负载均衡器自己怎么避免单点。

先看地图 ​

从一台到多台里,应用服务器扛不住时要加机器。加了机器,请求该发给谁?这就是负载均衡。本篇讲 5 个点:

① 解决什么、不用会怎样、代价 → ② 分配算法 → ③ 健康检查 → ④ 四层与七层 → ⑤ 会话与高可用

一句话本质 ​

负载均衡器站在多台服务器前面,按规则把请求分出去,并自动绕开坏掉的机器;对用户来说,后面有几台机器是透明的。

生活类比 ​

银行大厅的取号机和大堂经理:

  • 客人取号,经理按规则分到空闲的窗口(分配算法);
  • 有的窗口柜员是老手,多分一些客人(加权);
  • 某个窗口暂停服务,经理就不往那里分(健康检查);
  • VIP 客户每次都去同一个客户经理那里(会话保持)。

一步步看 ​

1. 解决什么、不用会怎样、代价 ​

内容
解决什么一台应用服务器扛不住,加了多台以后,需要有人把请求分出去;同时某台坏了要自动绕开
不用会怎样只能让用户直接访问某一台:那一台扛不住、坏了就全站不可用;DNS 轮询虽然也能分,但无法感知机器是否健康,切换还受缓存影响
代价负载均衡器本身成了新的必经点,要做主备;应用必须无状态;多了一跳,增加一点延迟

2. 分配算法 ​

← 左右滑动看完整图 →用户请求nginx轮询 / 加权 / 最少连接健康检查应用 1正常应用 2正常应用 3挂了 → 摘除Redis共享会话四层(按 IP + 端口转发,快)vs 七层(看 HTTP 内容,能按网址路由);nginx 自己也要做主备,避免单点
负载均衡器(如 nginx)站在多台应用服务器前面:按算法把请求分出去,定期做健康检查,把挂掉的机器摘掉。应用服务器最好无状态(会话放 Redis),这样请求分给哪台都一样,加一台机器只要在负载均衡里登记一下。

3 台服务器,配置分别是 8 核、8 核、16 核:

算法做法适合
轮询1、2、3、1、2、3…… 依次分机器配置一样、请求耗时差不多
加权轮询按权重 1 : 1 : 2 分,第 3 台分到一半请求机器配置不一样
最少连接分给当前正在处理的连接数最少的那台请求耗时差别大(有的 10 毫秒,有的 10 秒)
IP 哈希按用户 IP 计算哈希,同一个 IP 总是去同一台需要会话保持、又没法让应用无状态时

3. 健康检查 ​

负载均衡器定期(比如每 5 秒)访问每台服务器的检查接口(如 /health):连续 3 次失败就把它摘掉,不再分请求;恢复后再加回来。这样一台服务器宕机,用户最多受几秒影响,而不是一直报错。

4. 四层与七层 ​

四层负载均衡七层负载均衡
看什么IP 和端口(传输层)HTTP 内容:网址、请求头、Cookie(应用层)
能做什么按连接转发按网址路由:/api/ 去后端服务、/static/ 去静态资源服务器;还能改写请求头、做 HTTPS 卸载
速度快,开销小要解析 HTTP,开销大一点
例子LVS、云厂商的网络负载均衡nginx、云厂商的应用负载均衡

(四层、七层指 OSI 网络分层 里的传输层和应用层。)常见组合:前面用四层扛大流量,后面用 nginx 做七层路由。

5. 会话与高可用 ​

会话保持 vs 无状态:用户登录后,会话如果存在 A 服务器内存里,下一次被分到 B 就要重新登录。

  • 做法一:IP 哈希或 Cookie 让同一个用户总去同一台(会话保持)。缺点:分配不均,那台挂了会话也没了。
  • 做法二(推荐):应用无状态,会话放 Redis,或用 Token(如 JWT)让客户端自己带着身份信息。分给哪台都一样。

负载均衡器自己怎么不成为单点:部署两台 nginx,一主一备,共用一个虚拟 IP(VIP)。主机挂了,备机自动接管这个 IP(常用 keepalived 实现)。云厂商的负载均衡服务本身就是高可用的。

为什么这么设计 ​

为什么需要健康检查? ​

  • 问题:不检查的话,一台服务器宕机后,负载均衡器仍然按比例往它那里分请求,三分之一的用户一直报错。
  • 方案:定期探测,失败就摘除,恢复再加回。
  • 好处:故障自动隔离,用户几乎无感知。

一句话答法

负载均衡器定期探测每台服务器,连续失败就摘掉、恢复再加回,这样一台机器宕机时请求会自动绕开,用户几乎无感知。

为什么推荐应用无状态,而不是会话保持? ​

  • 问题:会话保持让同一用户绑死在一台机器上,分配不均;那台机器挂了,上面用户的会话全丢。
  • 方案:会话放 Redis 或用 Token,应用服务器只做计算。
  • 好处:请求可以分给任意一台,扩容、缩容、故障切换都没有副作用。

一句话答法

会话保持会让分配不均、机器一挂会话就丢,所以推荐应用无状态,把会话放 Redis 或用 Token,请求分给哪台都一样,扩缩容和故障切换都方便。

为什么不同场景用不同的分配算法? ​

  • 问题:机器配置不同、请求耗时差别大时,简单轮询会让有的机器忙死、有的闲着。
  • 方案:配置不同用加权,耗时差别大用最少连接。
  • 好处:让每台机器的负载尽量接近,整体吞吐量最大。

一句话答法

配置一样用轮询,配置不同用加权轮询,请求耗时差异大用最少连接,目标是让每台机器的负载尽量接近。

英文术语拆解 ​

术语拆开看一句话意思
Load BalancerLoad 负载 + Balancer 平衡器负载均衡器
Round RobinRound 一轮 + Robin(源自轮流签名的请愿书)轮询
Weighted加权的按权重分配
Least ConnectionsLeast 最少 + Connections 连接最少连接
Health CheckHealth 健康 + Check 检查健康检查
Reverse ProxyReverse 反向 + Proxy 代理反向代理:替后端服务器接收请求
Sticky SessionSticky 粘性的 + Session 会话会话保持
VIPVirtual 虚拟 + IP虚拟 IP,主备之间漂移

面试怎么问 ​

Q:负载均衡有哪些算法?

轮询,依次分配,适合配置相同的机器;加权轮询,按机器能力分配不同比例;最少连接,分给当前连接最少的机器,适合请求耗时差异大;IP 哈希,同一 IP 固定分到同一台,用于会话保持。

Q:四层和七层负载均衡有什么区别?

四层工作在传输层,只看 IP 和端口转发连接,速度快、开销小,比如 LVS;七层工作在应用层,能解析 HTTP,按网址、请求头路由,还能做 HTTPS 卸载,比如 nginx。常见是前面四层扛流量,后面七层做路由。

Q:多台服务器之间用户登录状态怎么共享?

推荐让应用无状态:会话存到 Redis 这类共享存储,或使用 JWT 这类 Token 让客户端携带身份信息,这样请求分到任何一台都能识别用户。也可以用 IP 哈希做会话保持,但会分配不均、机器故障时会话丢失。

Q:负载均衡器自己挂了怎么办?

部署主备两台,共用一个虚拟 IP,用 keepalived 做心跳检测,主机故障时备机接管虚拟 IP;或者直接用云厂商的高可用负载均衡服务。

容易混的地方 ​

  • 反向代理 vs 正向代理:反向代理替服务器接请求(nginx 挡在后端前面);正向代理替客户端发请求(翻墙代理)。
  • 负载均衡 ≠ 一定要硬件:nginx 这种软件就能做,云上直接买服务。
  • 加机器不一定解决问题:瓶颈在数据库时,加应用服务器没用。

和其他知识的连接 ​

自测 3 问 ​

Q1:3 台服务器配置是 8 核、8 核、16 核,用什么算法?请求怎么分?

点开看答案

加权轮询,权重 1 : 1 : 2,第 3 台分到一半请求,前两台各四分之一。

Q2:一台服务器宕机了,负载均衡器怎么发现、怎么处理?

点开看答案

健康检查:定期访问每台的检查接口,连续几次失败就把它从分配列表里摘掉,不再分请求;恢复后再加回来。

Q3:想让 /api/ 的请求去后端服务、/img/ 的请求去图片服务器,要用四层还是七层?为什么?

点开看答案

七层。四层只看 IP 和端口,不知道请求的网址;七层能解析 HTTP,按路径路由。

✅ 验收清单 ​

  • 能按「解决什么 → 不用会怎样 → 代价」讲负载均衡
  • 能说出 4 种分配算法和各自适合的场景
  • 能解释健康检查的作用和做法
  • 能对比四层和七层负载均衡
  • 能说出会话共享的 2 种做法,以及负载均衡器自己的高可用方案

下一步该懂什么 ​