Skip to content

01 · 缓存:读太多时,把热数据放进内存 ​

学完你能说出:

  • 缓存解决什么问题、不用会怎样、代价是什么;Redis 为什么快。
  • 旁路缓存(Cache Aside)的读写流程,为什么是「先更新数据库,再删缓存」。
  • 缓存穿透、击穿、雪崩各是什么、怎么解决;过期和淘汰策略。

先看地图 ​

上一篇说,系统长大时最常加的第一个组件就是缓存。本篇讲 5 个点:

① 解决什么、不用会怎样、代价 → ② Redis 为什么快 → ③ 旁路缓存的读写 → ④ 穿透、击穿、雪崩 → ⑤ 过期与淘汰

一句话本质 ​

缓存 = 把读得多、变得少的数据放在更快的地方(内存),挡住大部分读请求;代价是数据可能和数据库不一致,以及缓存出问题时请求会一下子压到数据库上。

生活类比 ​

便利店的货架和仓库:

  • 畅销的矿泉水直接摆在货架上(缓存),顾客拿了就走;
  • 冷门商品放仓库(数据库),要的时候店员去取,慢一点;
  • 货架上的价签可能还没换成新价格(不一致);
  • 某天货架突然被搬空,所有顾客都去找店员要货,店员忙不过来(击穿、雪崩)。

一步步看 ​

1. 解决什么、不用会怎样、代价 ​

内容
解决什么读请求太多:热门商品详情、首页配置、用户信息,被反复查询
不用会怎样每次都查数据库。MySQL 单机大约每秒几千到一两万次简单查询;Redis 单机可以到每秒约 10 万次。大促时读请求一涨,数据库最先被打满
代价① 数据不一致:数据库改了,缓存里还是旧值;② 多一个要维护的组件;③ 缓存失效或宕机时,请求瞬间全压到数据库

(以上 QPS 是数量级示意,实际取决于机器和查询。)

2. Redis 为什么快 ​

原因说明
数据在内存里内存访问约 100 纳秒,磁盘随机读约 0.1–10 毫秒
单线程执行命令没有线程切换和加锁的开销(6.0 之后网络读写可以多线程,命令执行仍是单线程)
IO 多路复用一个线程用 epoll 同时照看上万个连接,见 IO 模型
数据结构高效字符串、哈希、列表、集合、有序集合(跳表)都针对内存优化过

3. 旁路缓存(Cache Aside) ​

← 左右滑动看完整图 →应用Redis 缓存约 1 msMySQL约 10 ms① 先查缓存② 没命中再查库③ 回填写:先更新数据库,再删除缓存下次读时自然回填最新值;删除而不是更新缓存,避免并发写时缓存里留下旧值穿透查根本不存在的数据(例:id = -1 每次都打到库)解法:缓存空值、布隆过滤器、参数校验击穿一个热点 key 刚过期(例:1 万个请求同时查同一件商品)解法:互斥锁只让一个去查库、热点不过期雪崩大量 key 同时过期或 Redis 宕机(例:凌晨统一设的过期时间同时到点)解法:过期时间加随机值、Redis 集群、限流降级
旁路缓存(Cache Aside):读时先查缓存,没有再查数据库并回填;写时先更新数据库,再删缓存。下面三种问题都是「请求绕过缓存、直接压到数据库」:穿透是查不存在的数据,击穿是一个热点 key 过期,雪崩是大量 key 同时过期或缓存整体宕机。

读:

  1. 先查 Redis:有就直接返回(命中);
  2. 没有就查 MySQL;
  3. 把查到的结果写回 Redis,并设过期时间(比如 30 分钟)。

写:先更新数据库,再删除缓存。下次读的时候自然会把新值回填进来。

为什么是「删除」而不是「更新」缓存:两个请求同时修改,A 先改库、B 后改库,但 B 先写缓存、A 后写缓存,缓存里就留下了 A 的旧值。删除就没有这个顺序问题。

为什么是「先改库再删缓存」,而不是反过来:先删缓存,再改库的那一小段时间里,另一个读请求发现缓存没有,就去读库(读到旧值)并写回缓存,旧值又进了缓存,而且要等到过期才会更新。先改库再删,出问题的时间窗口小得多。

还要兜底:删缓存失败了怎么办?可以重试(把删除操作放进消息队列),或者干脆依靠过期时间最终让数据对齐。缓存和数据库只能做到最终一致,强一致的数据(比如账户余额)不要依赖缓存。

4. 穿透、击穿、雪崩 ​

三种问题的共同点:请求绕过缓存,直接压到数据库上。

问题是什么例子解决
穿透查根本不存在的数据,缓存永远不命中,每次都打到库有人用 id = -1、随机 id 刷接口参数校验先拦住非法 id;查不到也缓存一个「空值」(设短过期,比如 1 分钟);用布隆过滤器先判断 id 是否可能存在
击穿一个热点 key 刚好过期,大量请求同时去查库秒杀商品的缓存过期那一刻,1 万个请求同时查同一行互斥锁:只让一个请求去查库并回填,其他人稍等再读缓存;热点数据不设过期,后台定时刷新
雪崩大量 key 同时过期,或 Redis 整个宕机凌晨批量加载的数据都设了 24 小时过期,第二天同一时刻集体失效过期时间加随机值(24 小时 ± 10 分钟);Redis 集群和主从保证高可用;限流、降级保护数据库

布隆过滤器:用一个很大的位数组和几个哈希函数记录「哪些 id 存在」。判断「不存在」是一定准的;判断「存在」可能误判(但概率很小)。用极少的内存挡住绝大部分非法请求。

5. 过期与淘汰 ​

  • 过期(TTL):给每个 key 设存活时间,到期自动失效。既能让数据最终对齐,也能释放内存。
  • 淘汰:内存满了以后删谁。常用 LRU(最近最少使用的先删)或 LFU(使用次数最少的先删)。Redis 可以配置只在设了过期时间的 key 里淘汰,还是在所有 key 里淘汰。

为什么这么设计 ​

为什么用旁路缓存,而且是先改库、再删缓存? ​

  • 问题:缓存和数据库是两份数据,没有办法同时原子地更新。
  • 方案:数据库为准;写时先改库,再删缓存,下次读时回填。
  • 好处:删除避免了并发写的顺序问题;先改库让不一致的窗口最小;配合过期时间兜底,最终一致。

一句话答法

缓存和数据库没法原子地同时改,所以以数据库为准:读时先查缓存、没有再查库并回填;写时先更新数据库再删缓存,用删除避免并发写的顺序问题,再用过期时间兜底,做到最终一致。

为什么击穿要用互斥锁? ​

  • 问题:热点 key 失效的瞬间,上万个请求同时发现缓存没有,同时去查库,数据库瞬间被打满。
  • 方案:只让抢到锁的那一个请求去查库并回填,其他请求等几十毫秒后重新读缓存。
  • 好处:数据库只被查一次;代价是这一小段时间里其他请求要稍等。

一句话答法

击穿是热点 key 过期时大量请求同时查库,用互斥锁只放一个请求去查库回填,其他请求稍等再读缓存,数据库只承受一次查询。

为什么过期时间要加随机值? ​

  • 问题:同一批数据设了同样的过期时间,会在同一时刻集体失效(雪崩)。
  • 方案:过期时间 = 基础时长 + 一个随机数。
  • 好处:失效时间被打散,数据库的压力被摊平。

一句话答法

同一批 key 过期时间一样会同时失效引起雪崩,给过期时间加一个随机值,把失效时刻打散,数据库压力就摊平了。

英文术语拆解 ​

术语拆开看一句话意思
Cache隐藏的储藏处缓存
RedisRemote 远程 + Dictionary 字典 + Server 服务器内存键值数据库
Cache AsideCache 缓存 + Aside 在旁边旁路缓存:应用自己管缓存和数据库
Hit / Miss命中 / 未命中缓存里有 / 没有
TTLTime 时间 + To 到 + Live 存活过期时间
LRULeast 最少 + Recently 最近 + Used 使用最近最少使用的先淘汰
Bloom FilterBloom(发明者姓氏)+ Filter 过滤器判断「一定不存在」的省内存结构
Penetration / Breakdown / Avalanche穿透 / 击穿 / 雪崩三种缓存问题

面试怎么问 ​

Q:为什么要用缓存?会带来什么问题?

读请求多时,数据库单机能扛的 QPS 有限,把热点数据放进 Redis 这类内存缓存,能挡住大部分读请求、降低延迟。代价是缓存和数据库可能不一致,多了一个要维护的组件,缓存失效或宕机时请求会瞬间压到数据库,也就是穿透、击穿、雪崩。

Q:缓存和数据库的一致性怎么保证?

常用旁路缓存:读时先查缓存,未命中再查库并回填;写时先更新数据库,再删除缓存。用删除而不是更新,避免并发写导致缓存留下旧值;先改库再删,不一致窗口最小。删除失败可以通过消息队列重试,再加过期时间兜底,做到最终一致。强一致要求的数据不走缓存。

Q:缓存穿透、击穿、雪崩分别是什么?怎么解决?

穿透是查询不存在的数据,缓存永远不命中,每次都打到库,用参数校验、缓存空值、布隆过滤器;击穿是某个热点 key 过期瞬间大量请求同时查库,用互斥锁只让一个请求回填,或热点数据不过期、后台刷新;雪崩是大量 key 同时过期或 Redis 宕机,用过期时间加随机值、Redis 集群高可用、限流降级。

Q:Redis 为什么快?

数据在内存里;命令执行是单线程,没有线程切换和锁竞争;用 epoll 这种 IO 多路复用,一个线程管理大量连接;内部数据结构针对内存做了优化。Redis 6.0 以后网络读写可以多线程,但命令执行仍是单线程。

容易混的地方 ​

  • 穿透 vs 击穿:穿透是数据根本不存在;击穿是数据存在,只是热点 key 刚过期。
  • 击穿 vs 雪崩:击穿是一个热点 key;雪崩是大量 key 或整个缓存挂了。
  • 缓存 ≠ 数据库:缓存可能丢、可能旧,数据库才是最终依据。
  • 布隆过滤器说「存在」不一定存在:它只保证说「不存在」时一定不存在。

和其他知识的连接 ​

自测 3 问 ​

Q1:写操作为什么是「先更新数据库,再删除缓存」?反过来会怎样?

点开看答案

先删缓存再改库:在改库完成前,另一个读请求发现缓存为空,去读库拿到旧值并写回缓存,旧值会一直留到过期。先改库再删缓存,不一致的窗口小得多。用删除而不是更新,是为了避免两个并发写导致缓存留下旧值。

Q2:有人用随机生成的商品 id 刷接口,数据库压力暴涨。这是哪种问题?怎么解决?

点开看答案

缓存穿透:这些 id 根本不存在,缓存永远不命中。解决:参数校验拦截非法 id;查不到也缓存空值(设短过期);用布隆过滤器先判断 id 是否可能存在。

Q3:每天凌晨 2 点批量加载 10 万个商品缓存,都设 24 小时过期。第二天 2 点会发生什么?怎么改?

点开看答案

10 万个 key 同时过期,请求集体打到数据库,形成缓存雪崩。改成过期时间 = 24 小时 + 随机几分钟,把失效时刻打散;同时做好 Redis 高可用和限流降级。

✅ 验收清单 ​

  • 能按「解决什么 → 不用会怎样 → 代价」讲缓存
  • 能说出 Redis 快的 4 个原因
  • 能画出旁路缓存的读写流程,并解释「先改库再删缓存」
  • 能区分穿透、击穿、雪崩,并各说出 2 个解法
  • 能说出 TTL 和 LRU 的作用

下一步该懂什么 ​