Skip to content

00 · 从一台到多台:瓶颈在哪,先加什么 ​

学完你能说出:

  • 一台机器的 4 种瓶颈:CPU、内存、磁盘、网络与连接数。
  • 纵向扩展和横向扩展的区别,为什么横向扩展要求「无状态」。
  • 一个系统从一台机器长大的 6 步,以及每加一个组件的代价。

先看地图 ​

这是「分布式与中间件」的导读。后端与数据库讲的是一台服务器、一个数据库的系统;用户多了以后,它会在某个地方先扛不住。本模块讲怎么拆、拆了以后用哪些组件:

⓪ 从一台到多台(本篇)
① 缓存:读太多         ② 消息队列:写太猛、链路太长
③ 对象存储与搜索引擎:文件太大、要全文搜
④ 负载均衡:一台应用不够   ⑤ 读写分离与分库分表:数据库本身扛不住

每个组件都按同一个套路讲:解决什么问题 → 不用会怎样 → 代价是什么。

一句话本质 ​

分布式 = 一台机器扛不住了,就把工作分给多台;中间件是夹在应用和数据库之间的通用组件,各自补一块短板。每加一台、一个组件,都换来容量,也换来复杂度。

生活类比 ​

一家小饭馆生意越来越好:

  1. 老板一个人又炒菜又收银(一台机器);
  2. 请个收银员,老板专心炒菜(应用和数据库分开);
  3. 热门凉菜提前做好摆在柜台(缓存);
  4. 再开几个灶台、多请几个厨师,门口服务员分配客人(负载均衡);
  5. 外卖单太多,先排进订单系统,厨房按顺序做(消息队列);
  6. 仓库太小,再租几个分仓(分库分表)。

没人第一天就租 5 个仓库。

一步步看 ​

1. 一台机器会在哪儿扛不住 ​

瓶颈现象例子
CPUCPU 使用率长期 90% 以上,请求排队复杂计算、序列化 JSON、加密
内存频繁换页、内存溢出缓存太多数据、大查询结果
磁盘 IO数据库响应变慢,磁盘忙大量随机读写、没走索引
网络与连接数连接数打满、带宽占满数据库默认最大连接数通常只有几百

先找瓶颈再动手:数据库 CPU 才 20%,却说「数据库扛不住要分库」,就是方向错了。

2. 纵向扩展 vs 横向扩展 ​

纵向扩展(Scale Up)横向扩展(Scale Out)
做法换更强的机器:4 核变 32 核、16 GB 变 256 GB加更多机器:1 台变 10 台
好处简单,代码不用改理论上可以一直加,单台坏了不影响全局
代价有上限,价格越往上越贵;还是单点要负载均衡;应用要无状态;数据要拆分,带来一致性问题

无状态:应用服务器不在自己内存里保存用户相关的数据(比如登录会话),而是放到 Redis 这类共享存储里。这样同一个用户的请求分给哪台服务器都一样,服务器可以随时加减。

3. 系统长大的 6 步 ​

← 左右滑动看完整图 →① 一台机器应用 + 数据库为什么:一切都在一起② 应用和库分开各自独占资源为什么:互相不抢 CPU 内存③ 加缓存Redis 挡住大部分读为什么:读太多 → 数据库喘口气④ 加负载均衡nginx + 多台应用为什么:一台应用扛不住⑤ 加消息队列异步、削峰为什么:写入高峰、链路太长⑥ 拆数据库读写分离 → 分库分表为什么:数据库本身扛不住原则:先找到瓶颈再加组件;能纵向加配置解决的,先不拆代价:组件越多,网络调用越多、数据有多份副本、出故障的地方越多
一个系统从一台机器长大的过程:每一步都是因为某个瓶颈扛不住了,才加上一个组件。先加缓存挡读、加负载均衡扩应用、加消息队列削峰,最后才拆数据库。每加一个组件,都多一份维护成本和一致性问题。
步加什么因为什么瓶颈详见
①一台机器刚起步
②应用和数据库分开互相抢 CPU 和内存
③缓存读请求太多,数据库扛不住缓存
④负载均衡 + 多台应用一台应用服务器扛不住负载均衡
⑤消息队列写入高峰、调用链太长消息队列
⑥读写分离、分库分表数据库本身扛不住读写分离与分库分表

另外两个「专用存储」按需要加:大文件放对象存储,全文搜索用搜索引擎(对象存储与搜索引擎)。

4. 拆开以后多出来的麻烦 ​

麻烦例子
网络不可靠调用另一台机器可能超时、丢包,要重试,重试又要求幂等
数据有多份缓存和数据库、主库和从库,可能短暂不一致
故障点变多10 个组件,任何一个出问题都可能影响全局,要监控、告警、降级
排查变难一个请求经过 5 台机器,要靠链路追踪和统一日志

分布式系统里有一个著名的取舍,叫 CAP:网络出现分区(机器之间断联)时,一致性(各处数据一样)和可用性(每个请求都有响应)只能保一个。大部分互联网业务选择可用性,再通过「最终一致」让数据过一会儿对齐。

为什么这么设计 ​

为什么要先找瓶颈,再加组件? ​

  • 问题:每个组件都有维护成本和一致性代价;加错地方不但没用,还把系统变复杂了。
  • 方案:先看监控,找到最先满的那一项资源,再选对应的组件。
  • 好处:用最少的复杂度解决真正的问题;回答面试题也有理有据。

一句话答法

每加一个组件都会带来维护成本和一致性问题,所以先看监控找到最先扛不住的那个环节,再针对它加缓存、负载均衡或拆库,而不是一上来就上全套。

为什么横向扩展要求应用无状态? ​

  • 问题:如果用户的登录会话存在 A 服务器内存里,下一个请求被分到 B 服务器,B 不认识他,用户就被「踢下线」。
  • 方案:会话、临时数据都放进 Redis 等共享存储,应用服务器只负责计算。
  • 好处:请求分给哪台都一样,可以随时加机器、摘机器。

一句话答法

横向扩展时请求可能落到任意一台服务器,所以应用不能把会话存在本机内存里,要放到 Redis 这类共享存储,应用无状态才能随意加减机器。

英文术语拆解 ​

术语拆开看一句话意思
Scale Up / Scale OutScale 扩展 + Up 向上 / Out 向外纵向扩展(换强机器)/ 横向扩展(加机器)
StatelessState 状态 + less 没有无状态:不在本机保存用户数据
MiddlewareMiddle 中间 + ware 软件中间件:夹在应用和底层之间的通用组件
CAPConsistency 一致性 + Availability 可用性 + Partition tolerance 分区容错分区时一致性和可用性只能保一个
Eventual ConsistencyEventual 最终的 + Consistency 一致性最终一致:过一段时间数据会对齐

面试怎么问 ​

Q:一个系统用户量从 1 万涨到 100 万,你会怎么演进架构?

先看监控找瓶颈,再逐步演进:应用和数据库分开部署;读多就加 Redis 缓存;一台应用扛不住就加负载均衡、多台应用,并把会话放到 Redis 让应用无状态;写入有高峰或调用链长就加消息队列削峰、异步;数据库本身扛不住时先读写分离,再考虑分库分表。每一步都说明解决了什么瓶颈、带来了什么代价。

Q:纵向扩展和横向扩展有什么区别?

纵向扩展是换更强的机器,简单、不改代码,但有上限、越往上越贵,而且还是单点;横向扩展是加更多机器,可以持续扩展、单台故障不影响全局,但需要负载均衡、应用无状态、数据拆分,带来一致性和运维复杂度。

容易混的地方 ​

  • 分布式 ≠ 微服务:分布式是「多台机器协作」,微服务是「按业务拆成多个独立服务」,后者是前者的一种形式。
  • 加机器不一定变快:瓶颈在数据库时,加应用服务器只会让数据库更早崩。
  • CAP 不是「三选二」随便选:网络分区是必然会发生的,真正的选择是分区时保一致性还是保可用性。

和其他知识的连接 ​

自测 3 问 ​

Q1:说出一台机器的 4 种瓶颈,各举一个现象。

点开看答案

CPU:使用率长期 90% 以上、请求排队;内存:频繁换页或内存溢出;磁盘 IO:数据库响应变慢、磁盘一直忙;网络与连接数:连接数打满、带宽占满。

Q2:为什么用户登录后,换一台服务器处理请求就被「踢下线」?怎么解决?

点开看答案

会话存在第一台服务器的内存里,第二台不知道。把会话放到 Redis 等共享存储,让应用服务器无状态。

Q3:数据库 CPU 只有 20%,接口很慢,要不要分库?

点开看答案

不要。数据库并不忙,瓶颈在别处:先按链路分段看耗时,可能是应用代码、网络、慢 SQL 的锁等待,或者连接池太小。先定位再优化。

✅ 验收清单 ​

  • 能说出 4 种单机瓶颈和对应现象
  • 能对比纵向扩展和横向扩展,并解释无状态
  • 能按顺序说出系统长大的 6 步,每步说出为了解决什么瓶颈
  • 能说出拆分后多出来的 3 个麻烦

下一步该懂什么 ​

  • 最常加的第一个组件 → 缓存