深色模式
00 · 从一台到多台:瓶颈在哪,先加什么
学完你能说出:
- 一台机器的 4 种瓶颈:CPU、内存、磁盘、网络与连接数。
- 纵向扩展和横向扩展的区别,为什么横向扩展要求「无状态」。
- 一个系统从一台机器长大的 6 步,以及每加一个组件的代价。
先看地图
这是「分布式与中间件」的导读。后端与数据库讲的是一台服务器、一个数据库的系统;用户多了以后,它会在某个地方先扛不住。本模块讲怎么拆、拆了以后用哪些组件:
⓪ 从一台到多台(本篇)
① 缓存:读太多 ② 消息队列:写太猛、链路太长
③ 对象存储与搜索引擎:文件太大、要全文搜
④ 负载均衡:一台应用不够 ⑤ 读写分离与分库分表:数据库本身扛不住每个组件都按同一个套路讲:解决什么问题 → 不用会怎样 → 代价是什么。
一句话本质
分布式 = 一台机器扛不住了,就把工作分给多台;中间件是夹在应用和数据库之间的通用组件,各自补一块短板。每加一台、一个组件,都换来容量,也换来复杂度。
生活类比
一家小饭馆生意越来越好:
- 老板一个人又炒菜又收银(一台机器);
- 请个收银员,老板专心炒菜(应用和数据库分开);
- 热门凉菜提前做好摆在柜台(缓存);
- 再开几个灶台、多请几个厨师,门口服务员分配客人(负载均衡);
- 外卖单太多,先排进订单系统,厨房按顺序做(消息队列);
- 仓库太小,再租几个分仓(分库分表)。
没人第一天就租 5 个仓库。
一步步看
1. 一台机器会在哪儿扛不住
| 瓶颈 | 现象 | 例子 |
|---|---|---|
| CPU | CPU 使用率长期 90% 以上,请求排队 | 复杂计算、序列化 JSON、加密 |
| 内存 | 频繁换页、内存溢出 | 缓存太多数据、大查询结果 |
| 磁盘 IO | 数据库响应变慢,磁盘忙 | 大量随机读写、没走索引 |
| 网络与连接数 | 连接数打满、带宽占满 | 数据库默认最大连接数通常只有几百 |
先找瓶颈再动手:数据库 CPU 才 20%,却说「数据库扛不住要分库」,就是方向错了。
2. 纵向扩展 vs 横向扩展
| 纵向扩展(Scale Up) | 横向扩展(Scale Out) | |
|---|---|---|
| 做法 | 换更强的机器:4 核变 32 核、16 GB 变 256 GB | 加更多机器:1 台变 10 台 |
| 好处 | 简单,代码不用改 | 理论上可以一直加,单台坏了不影响全局 |
| 代价 | 有上限,价格越往上越贵;还是单点 | 要负载均衡;应用要无状态;数据要拆分,带来一致性问题 |
无状态:应用服务器不在自己内存里保存用户相关的数据(比如登录会话),而是放到 Redis 这类共享存储里。这样同一个用户的请求分给哪台服务器都一样,服务器可以随时加减。
3. 系统长大的 6 步
| 步 | 加什么 | 因为什么瓶颈 | 详见 |
|---|---|---|---|
| ① | 一台机器 | 刚起步 | |
| ② | 应用和数据库分开 | 互相抢 CPU 和内存 | |
| ③ | 缓存 | 读请求太多,数据库扛不住 | 缓存 |
| ④ | 负载均衡 + 多台应用 | 一台应用服务器扛不住 | 负载均衡 |
| ⑤ | 消息队列 | 写入高峰、调用链太长 | 消息队列 |
| ⑥ | 读写分离、分库分表 | 数据库本身扛不住 | 读写分离与分库分表 |
另外两个「专用存储」按需要加:大文件放对象存储,全文搜索用搜索引擎(对象存储与搜索引擎)。
4. 拆开以后多出来的麻烦
| 麻烦 | 例子 |
|---|---|
| 网络不可靠 | 调用另一台机器可能超时、丢包,要重试,重试又要求幂等 |
| 数据有多份 | 缓存和数据库、主库和从库,可能短暂不一致 |
| 故障点变多 | 10 个组件,任何一个出问题都可能影响全局,要监控、告警、降级 |
| 排查变难 | 一个请求经过 5 台机器,要靠链路追踪和统一日志 |
分布式系统里有一个著名的取舍,叫 CAP:网络出现分区(机器之间断联)时,一致性(各处数据一样)和可用性(每个请求都有响应)只能保一个。大部分互联网业务选择可用性,再通过「最终一致」让数据过一会儿对齐。
为什么这么设计
为什么要先找瓶颈,再加组件?
- 问题:每个组件都有维护成本和一致性代价;加错地方不但没用,还把系统变复杂了。
- 方案:先看监控,找到最先满的那一项资源,再选对应的组件。
- 好处:用最少的复杂度解决真正的问题;回答面试题也有理有据。
一句话答法
每加一个组件都会带来维护成本和一致性问题,所以先看监控找到最先扛不住的那个环节,再针对它加缓存、负载均衡或拆库,而不是一上来就上全套。
为什么横向扩展要求应用无状态?
- 问题:如果用户的登录会话存在 A 服务器内存里,下一个请求被分到 B 服务器,B 不认识他,用户就被「踢下线」。
- 方案:会话、临时数据都放进 Redis 等共享存储,应用服务器只负责计算。
- 好处:请求分给哪台都一样,可以随时加机器、摘机器。
一句话答法
横向扩展时请求可能落到任意一台服务器,所以应用不能把会话存在本机内存里,要放到 Redis 这类共享存储,应用无状态才能随意加减机器。
英文术语拆解
| 术语 | 拆开看 | 一句话意思 |
|---|---|---|
| Scale Up / Scale Out | Scale 扩展 + Up 向上 / Out 向外 | 纵向扩展(换强机器)/ 横向扩展(加机器) |
| Stateless | State 状态 + less 没有 | 无状态:不在本机保存用户数据 |
| Middleware | Middle 中间 + ware 软件 | 中间件:夹在应用和底层之间的通用组件 |
| CAP | Consistency 一致性 + Availability 可用性 + Partition tolerance 分区容错 | 分区时一致性和可用性只能保一个 |
| Eventual Consistency | Eventual 最终的 + Consistency 一致性 | 最终一致:过一段时间数据会对齐 |
面试怎么问
Q:一个系统用户量从 1 万涨到 100 万,你会怎么演进架构?
先看监控找瓶颈,再逐步演进:应用和数据库分开部署;读多就加 Redis 缓存;一台应用扛不住就加负载均衡、多台应用,并把会话放到 Redis 让应用无状态;写入有高峰或调用链长就加消息队列削峰、异步;数据库本身扛不住时先读写分离,再考虑分库分表。每一步都说明解决了什么瓶颈、带来了什么代价。
Q:纵向扩展和横向扩展有什么区别?
纵向扩展是换更强的机器,简单、不改代码,但有上限、越往上越贵,而且还是单点;横向扩展是加更多机器,可以持续扩展、单台故障不影响全局,但需要负载均衡、应用无状态、数据拆分,带来一致性和运维复杂度。
容易混的地方
- 分布式 ≠ 微服务:分布式是「多台机器协作」,微服务是「按业务拆成多个独立服务」,后者是前者的一种形式。
- 加机器不一定变快:瓶颈在数据库时,加应用服务器只会让数据库更早崩。
- CAP 不是「三选二」随便选:网络分区是必然会发生的,真正的选择是分区时保一致性还是保可用性。
和其他知识的连接
- ← 来自 一次请求的完整旅程:并发上限取决于最窄的一环。
- ← 来自 数据库优化的分层答法:第 ④ 层「架构」就是本模块的内容。
- → 影响 缓存:最常加的第一个组件。
自测 3 问
Q1:说出一台机器的 4 种瓶颈,各举一个现象。
点开看答案
CPU:使用率长期 90% 以上、请求排队;内存:频繁换页或内存溢出;磁盘 IO:数据库响应变慢、磁盘一直忙;网络与连接数:连接数打满、带宽占满。
Q2:为什么用户登录后,换一台服务器处理请求就被「踢下线」?怎么解决?
点开看答案
会话存在第一台服务器的内存里,第二台不知道。把会话放到 Redis 等共享存储,让应用服务器无状态。
Q3:数据库 CPU 只有 20%,接口很慢,要不要分库?
点开看答案
不要。数据库并不忙,瓶颈在别处:先按链路分段看耗时,可能是应用代码、网络、慢 SQL 的锁等待,或者连接池太小。先定位再优化。
✅ 验收清单
- 能说出 4 种单机瓶颈和对应现象
- 能对比纵向扩展和横向扩展,并解释无状态
- 能按顺序说出系统长大的 6 步,每步说出为了解决什么瓶颈
- 能说出拆分后多出来的 3 个麻烦
下一步该懂什么
- 最常加的第一个组件 → 缓存