Redis核心技术与实战【学习笔记】 - 14.Redis 旁路缓存的工作原理及如何选择应用系统的缓存类型

概述

我们知道，Redis 提供了高性能的数据存取功能，广泛应用在缓存场景中，既可以提升业务的响应速度，又可以避免把高并发的请求发送到数据库。

如果 Redis 做缓存时出现了问题，比如说缓存失效，那么，大量请求就会直接积压到数据库，给数据库带来巨大的压力，很可能导致数据库宕机。

正是因为 Redis 用作缓存的普遍性以及它在业务应用的重要作用，所以，我们需要系统的掌握缓存的一系列内容，包括工作原理、替换策略、异常处理和扩展机制。

具体来说，需要解决四个关键问题：

• Redis 缓存是如何工作的？
• Redis 缓存满了，该如何处理？
• 为什么会有缓存一致性、缓存穿透、缓存雪崩、缓存击穿等异常，该如何处理？
• Redis 的内存比较有限，如果用快速的固态硬盘来保存数据，可以增加缓存的数据量，那么 Redis 缓存可以使用快速固态硬盘吗？

---

1.缓存的特征

首先，你要知道，一个系统中的不同层之间的访问速度不一样，所以我们才需要缓存，这样就可以把一些需要频繁访问的数据放在缓存中，以加快他们的访问速度。

下图是计算机系统的三层存储结构，以及他们各自的常用容量和访问性能。

图中可以看到，CPU、内存、磁盘的访问速度从几十 ns 到 100ns，再到几 ms，性能差异很大。

想象一下，如果每次 CPU 都处理数据时，都要从 ms 级别的慢速磁盘中读取数据，然后再进行处理，那么，CPU 只能等磁盘的数据传输完成。这样一来，高速的 CPU 就被慢速的磁盘拖累了，整个计算机系统的运行速度就会变得非常慢。

所以，计算机系统中，默认有两种缓存：

• CPU 里面的末级缓存，即 LLC，用来缓存内存中的数据，避免每次都内存中存取数据；
• 内存中的高速页缓存，即 page cache，用来缓存磁盘中的数据，避免每次从磁盘中存取数据。

和内存相比，LLC 的访问速度更快，跟磁盘相比，内存的访问是更快的。所以，我们可以看出来缓存的第一个特征：在一个层次化的系统中，缓存一定是一个快速子系统，数据存在缓存中时，能避免每次从慢速子系统中存取数据。

对于互联网来说， Redis 就是快速子系统，而数据库就是慢速子系统了。

了解这一点，你就可以理解，为什么必须想尽办法让 Redis 提供高性能的访问。因为，如果访问速度很慢，Redis 作为缓存的价值就不大了。

再看下计算机分层结构。LLC 的大小是 MB 级别，page cache 的大小是 GB 级别，而磁盘的大小是 TB 级别。其实这包含了缓存的第二个特征：缓存系统的容量大小总是小于后端慢速系统的，我们不可能把所有数据都存放在缓存系统中。它表明缓存的容量终究是有限的，缓存中的数据量也是有限的，肯定是没有办法时刻满足访问需求的。所以，缓存和慢速系统之间，比如存在数据写回和再读取的交互过程。简单来说，缓存中的数据需要按一定的规则淘汰，写回后端系统，而新的数据又要从后端系统中读取出来，写入缓存。

Redis 本身是支持按一定的规则淘汰数据的，相当于实现了缓存的数据淘汰，其实，这也是 Redis 适合用作缓存的一个重要原因。

2.Redis 缓存处理请求的两种情况

Redis 用作缓存时，我们会把 Redis 部署在数据库的前端，业务应用在访问数据库时，会先查询 Redis 中是否保存了相应的数据。

根据数据是否在缓存中，会有两种情况。

• 缓存命中：Redis 中有相应的数据，就直接读取 Redis ，性能非常快。
• 缓存缺失：Redis 中没有数据，从后端数据库中读取数据，性能就会变慢。而且，一旦发生了缓存缺失，需要把缺失的数据写入 Redis，这个过程叫做缓存更新。缓存更新涉及到保证缓存和数据库之间数据一致性问题。

下图演示了发生缓存命中或缺失时，应用读取数据的情况。

使用 Redis 缓存时，基本有三个操作：

1. 应用读取数据时，先读取 Redis
2. 发生缓存缺失时，需要从数据库读取数据
3. 发生缓存缺失时，还要更新 Redis 数据

那么，这些操作由谁来做呢？这和 Redis 缓存的使用方式相关。接下来就分析下 Redis 作为旁路缓存的使用方式。

3.Redis作为旁路缓存的使用操作

Redis 是一个独立的系统软件，和业务应用程序是两个软件，当我们部署了 Redis 实例后，它只会被动地等待客户端发送请求，然后再进行处理。所以，如果应用程序想要使用 Redis 缓存，我们就要在程序中增加相应的代码。所以我们把 Redis 称为旁路缓存。也就是说，读取缓存、读取数据库和更新缓存的操作都是在应用程序中来完成。

使用 Redis 缓存时，我们需要在应用程序中增加三方面的代码：

• 当应用程序需要读取数据时，需要在代码中显示调用 Redis 的 GET 操作接口，进行查询；
• 如果缓存缺失，应用程序需要再和数据库连接，从数据库中读取数据。
• 当缓存中的数据需要更新时，也需要在应用程序中显示地调用 SET 操作接口，把更新的数据写入缓存。

下面是伪代码示例：

String cacheKey = "productid_1";
String cacheValue = redisCache.get(cacheKey);
if ( StringUtils.isNotEmpty(cacheValue)) {
	// 缓存命中
    return cacheValue;
}
else {
    // 缓存缺失
    cacheValue = getProductFromDB();
    // 缓存更新
    redisCache.put(cacheKey, cacheValue)  
}

可以看到，为了使用缓存，Web 应用程序需要有一个表示缓存系统的实例 redisCache，还要主动调用 Redis 的 GET 接口，并且要处理缓存命中和缓存缺失时的逻辑，例如在缓存缺失时，需要更新缓存。

需要注意的是，因为需要新增代码来使用缓存，所以 Redis 不适用于哪些无法取得源码的应用。

在使用旁路缓存时，我们需要在应用程序中增加操作代码，增加了使用 Redis 缓存的额外工作，但是正是因为 Redis 是旁路缓存，是一个独立系统，我们可以单独对 Redis 缓存进行扩容或者性能优化。而且，只要保持接口不变，应用程序中增加的代码就不用在修改了。

除了在从 Redis 缓存中查询、读取数据以外，应用程序还可能会对数据进行修改，这是，我们既可以在旁路缓存中修改，也可以在数据库中进行修改？该如何选择呢？

这涉及到了 Redis 缓存的两种类型：只读缓存和读写缓存。

• 只读缓存能加速读请求
• 读写缓存可以同时加速读写请求。而且，读写缓存又有两种数据写回策略，可以让我们根据业务需求，在保证性能和保证数据可靠性之间进行选择。

4.缓存的类型

根据 Redis 是否接收写请求，把 Redis 分成只读缓存和读写缓存。

4.1 只读缓存

Redis 用作只读缓存时，应用要读取数据的话，会先调用 Redis GET 接口，查询数据是否存在。而所有的数据写请求，会直接发往数据库，在数据库中增删改。对于，删改的数据来说，如果 Redis 已经缓存了相应的数据，应用需要把这些缓存的数据删除，Redis 中就没有这些数据了。

当应用再次读取这些数据时，会发生缓存缺失，应用会把这些数据从数据库中读出来，并写到缓存中。这样一来，后续再被读取时，就可以直接从缓存中获取了，能起到加速的效果。

假设业务应用要修改数据 A，此时数据 A 在 Redis 中也存在，那么应用会直接在数据库里修改 A，并把 Redis 中的 A 删除。等到应用需要读取数据 A 时，会发生缓存缺失，此时，应用从数据库中读取 A，并写入 Redis，以便后续请求直接从缓存中直接读取。

只读缓存在数据库中更新数据的好处是，所有最新的数据都在数据库中，而数据库是提供数据可靠性保证的，这些数据不会有丢失的风险。当我们需要缓存图片、短视频这些用户只读数据时，就可以使用只读缓存这个类型了。

4.2 读写缓存

对于读写缓存来说，除了读请求会发送到缓存进行处理（直接在缓存中查下数据是否存在），所有的写请求也会发送到缓存，在缓存中直接对数据进行增删改的操作。此时，得益于 Redis 高性能访问特性，数据库的增删改操作可以在缓存中快速完成，处理结果也会快速返回给业务应用，这就可以提升业务应用的响应速度。

但是，和只读缓存不一样的是，在使用读写缓存时，最新的数据是在 Redis 中，而 Redis 是内存数据库，一旦出现掉电或宕机，内存中的数据就会丢失。

所以，根据业务应用对数据可靠性和缓存性能的不同要求，我们会有同步直写和异步写回两种策略。学习了解这两种策略，可以帮助我们根据业务需求，做出正确的设计。

同步直写是指写请求发给缓存的同时，也会发给后端数据库进行处理，等到缓存和数据库都写完成，才返回给客户端。这样，即使缓存宕机，最新的数据仍然保存在数据库中，这就提供了数据可靠性的保证。

不过同步直写会降低缓存的访问性能。这是因为缓存中处理写请求的速度是很快的，而数据库处理写请求的速度较慢。即使缓存很快地处理了写请求，也需要等待数据库处理完所有的写请求，才能给应用返回结果，这就增加了缓存的响应延迟。

而异步写回策略，则是优先考虑了响应延迟。此时，所有写请求都先在缓存中处理。等到这些增改的数据要从缓存中淘汰出来时，缓存将它们写回后端数据库。这样一来，处理这些数据的操作是在缓存中进行的，很快就能完成。只不过，如果发生了掉电，而它们还没有被写回数据库，就会有丢失的风险了。

关于选择只读缓存，还是读写缓存，主要看我们对写请求是否有加速的需求。

• 如果需要对写请求进行加速，我们选择读写缓存。
• 如果写请求很少，或者是只需要提升读请求的响应速度的话，我们选择只读缓存。

例如，在商品大促的场景中，商品的库存信息会一直被修改。如果每次修改都需到数据库中处理，就会拖慢整个应用，此时，我们通常会选择读写缓存的模式。而在短视频 APP 的场景中，虽然视频的属性很多，但是，一般确定后，修改并不频繁，此时，在数据库中进行修改对缓存影响不大，所以只读缓存模式是一个合适的选择。