缓存系统如何出错？

下图显示了缓存可能出错的 4 种典型情况及其解决方案。

01 雷群问题（Thurder Hurd）

当缓存中的大量 key 同时过期时，就会出现这种情况。然后，查询请求直接冲击数据库，导致数据库超载。

有两种方法可以缓解这一问题：

1. 避免为 key 设置相同的过期时间，在配置中添加一个随机数；
2. 只允许核心业务数据访问数据库，而在缓存恢复之前阻止非核心数据访问数据库。

02 缓存渗透（Cache Penetration）

当缓存或数据库中不存在 key 时，就会发生这种情况。应用程序无法从数据库中检索相关数据来更新缓存。这个问题给缓存和数据库都造成了很大的压力。

要解决这个问题，有两种建议。

1. 为不存在的 key 缓存一个空值，避免对数据库造成冲击。
2. 使用 bloom 过滤器先检查 key 是否存在，如果 key 不存在，我们就可以避免对数据库的访问。

03 缓存崩溃（Cache Breakdown）

这与雷群问题类似。它发生在热键过期时。大量请求会访问数据库。

解决方案：由于热键占据了 80% 的查询量，我们没有为它们设置过期时间。

04 缓存崩溃（Cache Crash）

当缓存崩溃时，所有请求都会进入数据库。

有两种方法可以解决这个问题。

1. 设置断路器 (Circuit Breaker)，当缓存宕机时，应用服务无法访问缓存或数据库。
2. 为高速缓存建立一个集群，以提高高速缓存的可用性。