深色模式
04 · 负载均衡:一台不够,就分给多台
学完你能说出:
- 负载均衡解决什么、不用会怎样、代价。
- 4 种常见分配算法:轮询、加权轮询、最少连接、IP 哈希。
- 健康检查、四层与七层的区别、会话保持与无状态,以及负载均衡器自己怎么避免单点。
先看地图
从一台到多台里,应用服务器扛不住时要加机器。加了机器,请求该发给谁?这就是负载均衡。本篇讲 5 个点:
① 解决什么、不用会怎样、代价 → ② 分配算法 → ③ 健康检查 → ④ 四层与七层 → ⑤ 会话与高可用
一句话本质
负载均衡器站在多台服务器前面,按规则把请求分出去,并自动绕开坏掉的机器;对用户来说,后面有几台机器是透明的。
生活类比
银行大厅的取号机和大堂经理:
- 客人取号,经理按规则分到空闲的窗口(分配算法);
- 有的窗口柜员是老手,多分一些客人(加权);
- 某个窗口暂停服务,经理就不往那里分(健康检查);
- VIP 客户每次都去同一个客户经理那里(会话保持)。
一步步看
1. 解决什么、不用会怎样、代价
| 内容 | |
|---|---|
| 解决什么 | 一台应用服务器扛不住,加了多台以后,需要有人把请求分出去;同时某台坏了要自动绕开 |
| 不用会怎样 | 只能让用户直接访问某一台:那一台扛不住、坏了就全站不可用;DNS 轮询虽然也能分,但无法感知机器是否健康,切换还受缓存影响 |
| 代价 | 负载均衡器本身成了新的必经点,要做主备;应用必须无状态;多了一跳,增加一点延迟 |
2. 分配算法
3 台服务器,配置分别是 8 核、8 核、16 核:
| 算法 | 做法 | 适合 |
|---|---|---|
| 轮询 | 1、2、3、1、2、3…… 依次分 | 机器配置一样、请求耗时差不多 |
| 加权轮询 | 按权重 1 : 1 : 2 分,第 3 台分到一半请求 | 机器配置不一样 |
| 最少连接 | 分给当前正在处理的连接数最少的那台 | 请求耗时差别大(有的 10 毫秒,有的 10 秒) |
| IP 哈希 | 按用户 IP 计算哈希,同一个 IP 总是去同一台 | 需要会话保持、又没法让应用无状态时 |
3. 健康检查
负载均衡器定期(比如每 5 秒)访问每台服务器的检查接口(如 /health):连续 3 次失败就把它摘掉,不再分请求;恢复后再加回来。这样一台服务器宕机,用户最多受几秒影响,而不是一直报错。
4. 四层与七层
| 四层负载均衡 | 七层负载均衡 | |
|---|---|---|
| 看什么 | IP 和端口(传输层) | HTTP 内容:网址、请求头、Cookie(应用层) |
| 能做什么 | 按连接转发 | 按网址路由:/api/ 去后端服务、/static/ 去静态资源服务器;还能改写请求头、做 HTTPS 卸载 |
| 速度 | 快,开销小 | 要解析 HTTP,开销大一点 |
| 例子 | LVS、云厂商的网络负载均衡 | nginx、云厂商的应用负载均衡 |
(四层、七层指 OSI 网络分层 里的传输层和应用层。)常见组合:前面用四层扛大流量,后面用 nginx 做七层路由。
5. 会话与高可用
会话保持 vs 无状态:用户登录后,会话如果存在 A 服务器内存里,下一次被分到 B 就要重新登录。
- 做法一:IP 哈希或 Cookie 让同一个用户总去同一台(会话保持)。缺点:分配不均,那台挂了会话也没了。
- 做法二(推荐):应用无状态,会话放 Redis,或用 Token(如 JWT)让客户端自己带着身份信息。分给哪台都一样。
负载均衡器自己怎么不成为单点:部署两台 nginx,一主一备,共用一个虚拟 IP(VIP)。主机挂了,备机自动接管这个 IP(常用 keepalived 实现)。云厂商的负载均衡服务本身就是高可用的。
为什么这么设计
为什么需要健康检查?
- 问题:不检查的话,一台服务器宕机后,负载均衡器仍然按比例往它那里分请求,三分之一的用户一直报错。
- 方案:定期探测,失败就摘除,恢复再加回。
- 好处:故障自动隔离,用户几乎无感知。
一句话答法
负载均衡器定期探测每台服务器,连续失败就摘掉、恢复再加回,这样一台机器宕机时请求会自动绕开,用户几乎无感知。
为什么推荐应用无状态,而不是会话保持?
- 问题:会话保持让同一用户绑死在一台机器上,分配不均;那台机器挂了,上面用户的会话全丢。
- 方案:会话放 Redis 或用 Token,应用服务器只做计算。
- 好处:请求可以分给任意一台,扩容、缩容、故障切换都没有副作用。
一句话答法
会话保持会让分配不均、机器一挂会话就丢,所以推荐应用无状态,把会话放 Redis 或用 Token,请求分给哪台都一样,扩缩容和故障切换都方便。
为什么不同场景用不同的分配算法?
- 问题:机器配置不同、请求耗时差别大时,简单轮询会让有的机器忙死、有的闲着。
- 方案:配置不同用加权,耗时差别大用最少连接。
- 好处:让每台机器的负载尽量接近,整体吞吐量最大。
一句话答法
配置一样用轮询,配置不同用加权轮询,请求耗时差异大用最少连接,目标是让每台机器的负载尽量接近。
英文术语拆解
| 术语 | 拆开看 | 一句话意思 |
|---|---|---|
| Load Balancer | Load 负载 + Balancer 平衡器 | 负载均衡器 |
| Round Robin | Round 一轮 + Robin(源自轮流签名的请愿书) | 轮询 |
| Weighted | 加权的 | 按权重分配 |
| Least Connections | Least 最少 + Connections 连接 | 最少连接 |
| Health Check | Health 健康 + Check 检查 | 健康检查 |
| Reverse Proxy | Reverse 反向 + Proxy 代理 | 反向代理:替后端服务器接收请求 |
| Sticky Session | Sticky 粘性的 + Session 会话 | 会话保持 |
| VIP | Virtual 虚拟 + IP | 虚拟 IP,主备之间漂移 |
面试怎么问
Q:负载均衡有哪些算法?
轮询,依次分配,适合配置相同的机器;加权轮询,按机器能力分配不同比例;最少连接,分给当前连接最少的机器,适合请求耗时差异大;IP 哈希,同一 IP 固定分到同一台,用于会话保持。
Q:四层和七层负载均衡有什么区别?
四层工作在传输层,只看 IP 和端口转发连接,速度快、开销小,比如 LVS;七层工作在应用层,能解析 HTTP,按网址、请求头路由,还能做 HTTPS 卸载,比如 nginx。常见是前面四层扛流量,后面七层做路由。
Q:多台服务器之间用户登录状态怎么共享?
推荐让应用无状态:会话存到 Redis 这类共享存储,或使用 JWT 这类 Token 让客户端携带身份信息,这样请求分到任何一台都能识别用户。也可以用 IP 哈希做会话保持,但会分配不均、机器故障时会话丢失。
Q:负载均衡器自己挂了怎么办?
部署主备两台,共用一个虚拟 IP,用 keepalived 做心跳检测,主机故障时备机接管虚拟 IP;或者直接用云厂商的高可用负载均衡服务。
容易混的地方
- 反向代理 vs 正向代理:反向代理替服务器接请求(nginx 挡在后端前面);正向代理替客户端发请求(翻墙代理)。
- 负载均衡 ≠ 一定要硬件:nginx 这种软件就能做,云上直接买服务。
- 加机器不一定解决问题:瓶颈在数据库时,加应用服务器没用。
和其他知识的连接
自测 3 问
Q1:3 台服务器配置是 8 核、8 核、16 核,用什么算法?请求怎么分?
点开看答案
加权轮询,权重 1 : 1 : 2,第 3 台分到一半请求,前两台各四分之一。
Q2:一台服务器宕机了,负载均衡器怎么发现、怎么处理?
点开看答案
健康检查:定期访问每台的检查接口,连续几次失败就把它从分配列表里摘掉,不再分请求;恢复后再加回来。
Q3:想让 /api/ 的请求去后端服务、/img/ 的请求去图片服务器,要用四层还是七层?为什么?
点开看答案
七层。四层只看 IP 和端口,不知道请求的网址;七层能解析 HTTP,按路径路由。
✅ 验收清单
- 能按「解决什么 → 不用会怎样 → 代价」讲负载均衡
- 能说出 4 种分配算法和各自适合的场景
- 能解释健康检查的作用和做法
- 能对比四层和七层负载均衡
- 能说出会话共享的 2 种做法,以及负载均衡器自己的高可用方案
下一步该懂什么
- 数据库本身扛不住怎么拆 → 读写分离与分库分表