深色模式
01 · 缓存:读太多时,把热数据放进内存
学完你能说出:
- 缓存解决什么问题、不用会怎样、代价是什么;Redis 为什么快。
- 旁路缓存(Cache Aside)的读写流程,为什么是「先更新数据库,再删缓存」。
- 缓存穿透、击穿、雪崩各是什么、怎么解决;过期和淘汰策略。
先看地图
上一篇说,系统长大时最常加的第一个组件就是缓存。本篇讲 5 个点:
① 解决什么、不用会怎样、代价 → ② Redis 为什么快 → ③ 旁路缓存的读写 → ④ 穿透、击穿、雪崩 → ⑤ 过期与淘汰
一句话本质
缓存 = 把读得多、变得少的数据放在更快的地方(内存),挡住大部分读请求;代价是数据可能和数据库不一致,以及缓存出问题时请求会一下子压到数据库上。
生活类比
便利店的货架和仓库:
- 畅销的矿泉水直接摆在货架上(缓存),顾客拿了就走;
- 冷门商品放仓库(数据库),要的时候店员去取,慢一点;
- 货架上的价签可能还没换成新价格(不一致);
- 某天货架突然被搬空,所有顾客都去找店员要货,店员忙不过来(击穿、雪崩)。
一步步看
1. 解决什么、不用会怎样、代价
| 内容 | |
|---|---|
| 解决什么 | 读请求太多:热门商品详情、首页配置、用户信息,被反复查询 |
| 不用会怎样 | 每次都查数据库。MySQL 单机大约每秒几千到一两万次简单查询;Redis 单机可以到每秒约 10 万次。大促时读请求一涨,数据库最先被打满 |
| 代价 | ① 数据不一致:数据库改了,缓存里还是旧值;② 多一个要维护的组件;③ 缓存失效或宕机时,请求瞬间全压到数据库 |
(以上 QPS 是数量级示意,实际取决于机器和查询。)
2. Redis 为什么快
| 原因 | 说明 |
|---|---|
| 数据在内存里 | 内存访问约 100 纳秒,磁盘随机读约 0.1–10 毫秒 |
| 单线程执行命令 | 没有线程切换和加锁的开销(6.0 之后网络读写可以多线程,命令执行仍是单线程) |
| IO 多路复用 | 一个线程用 epoll 同时照看上万个连接,见 IO 模型 |
| 数据结构高效 | 字符串、哈希、列表、集合、有序集合(跳表)都针对内存优化过 |
3. 旁路缓存(Cache Aside)
读:
- 先查 Redis:有就直接返回(命中);
- 没有就查 MySQL;
- 把查到的结果写回 Redis,并设过期时间(比如 30 分钟)。
写:先更新数据库,再删除缓存。下次读的时候自然会把新值回填进来。
为什么是「删除」而不是「更新」缓存:两个请求同时修改,A 先改库、B 后改库,但 B 先写缓存、A 后写缓存,缓存里就留下了 A 的旧值。删除就没有这个顺序问题。
为什么是「先改库再删缓存」,而不是反过来:先删缓存,再改库的那一小段时间里,另一个读请求发现缓存没有,就去读库(读到旧值)并写回缓存,旧值又进了缓存,而且要等到过期才会更新。先改库再删,出问题的时间窗口小得多。
还要兜底:删缓存失败了怎么办?可以重试(把删除操作放进消息队列),或者干脆依靠过期时间最终让数据对齐。缓存和数据库只能做到最终一致,强一致的数据(比如账户余额)不要依赖缓存。
4. 穿透、击穿、雪崩
三种问题的共同点:请求绕过缓存,直接压到数据库上。
| 问题 | 是什么 | 例子 | 解决 |
|---|---|---|---|
| 穿透 | 查根本不存在的数据,缓存永远不命中,每次都打到库 | 有人用 id = -1、随机 id 刷接口 | 参数校验先拦住非法 id;查不到也缓存一个「空值」(设短过期,比如 1 分钟);用布隆过滤器先判断 id 是否可能存在 |
| 击穿 | 一个热点 key 刚好过期,大量请求同时去查库 | 秒杀商品的缓存过期那一刻,1 万个请求同时查同一行 | 互斥锁:只让一个请求去查库并回填,其他人稍等再读缓存;热点数据不设过期,后台定时刷新 |
| 雪崩 | 大量 key 同时过期,或 Redis 整个宕机 | 凌晨批量加载的数据都设了 24 小时过期,第二天同一时刻集体失效 | 过期时间加随机值(24 小时 ± 10 分钟);Redis 集群和主从保证高可用;限流、降级保护数据库 |
布隆过滤器:用一个很大的位数组和几个哈希函数记录「哪些 id 存在」。判断「不存在」是一定准的;判断「存在」可能误判(但概率很小)。用极少的内存挡住绝大部分非法请求。
5. 过期与淘汰
- 过期(TTL):给每个 key 设存活时间,到期自动失效。既能让数据最终对齐,也能释放内存。
- 淘汰:内存满了以后删谁。常用 LRU(最近最少使用的先删)或 LFU(使用次数最少的先删)。Redis 可以配置只在设了过期时间的 key 里淘汰,还是在所有 key 里淘汰。
为什么这么设计
为什么用旁路缓存,而且是先改库、再删缓存?
- 问题:缓存和数据库是两份数据,没有办法同时原子地更新。
- 方案:数据库为准;写时先改库,再删缓存,下次读时回填。
- 好处:删除避免了并发写的顺序问题;先改库让不一致的窗口最小;配合过期时间兜底,最终一致。
一句话答法
缓存和数据库没法原子地同时改,所以以数据库为准:读时先查缓存、没有再查库并回填;写时先更新数据库再删缓存,用删除避免并发写的顺序问题,再用过期时间兜底,做到最终一致。
为什么击穿要用互斥锁?
- 问题:热点 key 失效的瞬间,上万个请求同时发现缓存没有,同时去查库,数据库瞬间被打满。
- 方案:只让抢到锁的那一个请求去查库并回填,其他请求等几十毫秒后重新读缓存。
- 好处:数据库只被查一次;代价是这一小段时间里其他请求要稍等。
一句话答法
击穿是热点 key 过期时大量请求同时查库,用互斥锁只放一个请求去查库回填,其他请求稍等再读缓存,数据库只承受一次查询。
为什么过期时间要加随机值?
- 问题:同一批数据设了同样的过期时间,会在同一时刻集体失效(雪崩)。
- 方案:过期时间 = 基础时长 + 一个随机数。
- 好处:失效时间被打散,数据库的压力被摊平。
一句话答法
同一批 key 过期时间一样会同时失效引起雪崩,给过期时间加一个随机值,把失效时刻打散,数据库压力就摊平了。
英文术语拆解
| 术语 | 拆开看 | 一句话意思 |
|---|---|---|
| Cache | 隐藏的储藏处 | 缓存 |
| Redis | Remote 远程 + Dictionary 字典 + Server 服务器 | 内存键值数据库 |
| Cache Aside | Cache 缓存 + Aside 在旁边 | 旁路缓存:应用自己管缓存和数据库 |
| Hit / Miss | 命中 / 未命中 | 缓存里有 / 没有 |
| TTL | Time 时间 + To 到 + Live 存活 | 过期时间 |
| LRU | Least 最少 + Recently 最近 + Used 使用 | 最近最少使用的先淘汰 |
| Bloom Filter | Bloom(发明者姓氏)+ Filter 过滤器 | 判断「一定不存在」的省内存结构 |
| Penetration / Breakdown / Avalanche | 穿透 / 击穿 / 雪崩 | 三种缓存问题 |
面试怎么问
Q:为什么要用缓存?会带来什么问题?
读请求多时,数据库单机能扛的 QPS 有限,把热点数据放进 Redis 这类内存缓存,能挡住大部分读请求、降低延迟。代价是缓存和数据库可能不一致,多了一个要维护的组件,缓存失效或宕机时请求会瞬间压到数据库,也就是穿透、击穿、雪崩。
Q:缓存和数据库的一致性怎么保证?
常用旁路缓存:读时先查缓存,未命中再查库并回填;写时先更新数据库,再删除缓存。用删除而不是更新,避免并发写导致缓存留下旧值;先改库再删,不一致窗口最小。删除失败可以通过消息队列重试,再加过期时间兜底,做到最终一致。强一致要求的数据不走缓存。
Q:缓存穿透、击穿、雪崩分别是什么?怎么解决?
穿透是查询不存在的数据,缓存永远不命中,每次都打到库,用参数校验、缓存空值、布隆过滤器;击穿是某个热点 key 过期瞬间大量请求同时查库,用互斥锁只让一个请求回填,或热点数据不过期、后台刷新;雪崩是大量 key 同时过期或 Redis 宕机,用过期时间加随机值、Redis 集群高可用、限流降级。
Q:Redis 为什么快?
数据在内存里;命令执行是单线程,没有线程切换和锁竞争;用 epoll 这种 IO 多路复用,一个线程管理大量连接;内部数据结构针对内存做了优化。Redis 6.0 以后网络读写可以多线程,但命令执行仍是单线程。
容易混的地方
- 穿透 vs 击穿:穿透是数据根本不存在;击穿是数据存在,只是热点 key 刚过期。
- 击穿 vs 雪崩:击穿是一个热点 key;雪崩是大量 key 或整个缓存挂了。
- 缓存 ≠ 数据库:缓存可能丢、可能旧,数据库才是最终依据。
- 布隆过滤器说「存在」不一定存在:它只保证说「不存在」时一定不存在。
和其他知识的连接
- ← 来自 从一台到多台:读太多时加的第一个组件。
- ← 来自 IO 模型:Redis 快的原因之一。
- ← 来自 数据库优化的分层答法:架构层的第一招。
- → 影响 企业知识库架构:热门问题的答案也可以缓存,但 key 要带上权限范围。
- 横向对照 虚拟内存:CPU 缓存、页缓存、Buffer Pool、Redis,都是「把常用的放近处」。
自测 3 问
Q1:写操作为什么是「先更新数据库,再删除缓存」?反过来会怎样?
点开看答案
先删缓存再改库:在改库完成前,另一个读请求发现缓存为空,去读库拿到旧值并写回缓存,旧值会一直留到过期。先改库再删缓存,不一致的窗口小得多。用删除而不是更新,是为了避免两个并发写导致缓存留下旧值。
Q2:有人用随机生成的商品 id 刷接口,数据库压力暴涨。这是哪种问题?怎么解决?
点开看答案
缓存穿透:这些 id 根本不存在,缓存永远不命中。解决:参数校验拦截非法 id;查不到也缓存空值(设短过期);用布隆过滤器先判断 id 是否可能存在。
Q3:每天凌晨 2 点批量加载 10 万个商品缓存,都设 24 小时过期。第二天 2 点会发生什么?怎么改?
点开看答案
10 万个 key 同时过期,请求集体打到数据库,形成缓存雪崩。改成过期时间 = 24 小时 + 随机几分钟,把失效时刻打散;同时做好 Redis 高可用和限流降级。
✅ 验收清单
- 能按「解决什么 → 不用会怎样 → 代价」讲缓存
- 能说出 Redis 快的 4 个原因
- 能画出旁路缓存的读写流程,并解释「先改库再删缓存」
- 能区分穿透、击穿、雪崩,并各说出 2 个解法
- 能说出 TTL 和 LRU 的作用
下一步该懂什么
- 写入太猛、调用链太长怎么办 → 消息队列