1. 什么是缓存
缓存是一种具备高效读写能力的数据暂存区域。主要作用是降低后端的负载,可以提高服务读写的响应速度。与之同时,实现缓存同时需要一定成本,主要有开发成本,运维成本和一致性问题。在真实开发中,要结合业务需要考虑缓存问题,结合实际的收支比来考虑是否需要缓存。
2. 缓存存在的问题
2.1 缓存更新策略
缓存的更新策略主要有三种 (以Redis为例):
- 内存淘汰:Redis自带一种内存淘汰机制,不需要自己维护,当内存不足时自动淘汰部分数据,下次查询时更新缓存。这种方式不需要维护成本,但是一致性较差。
- 过期淘汰:利用expire命令给数据设置过期时间,到期自动删除缓存,下次查询时更新缓存。这种方式的维护成本也不高,但保证数据一致性的性能也一般。
- 主动更新:主动完成数据库与缓存同时更新,由我们自己编写业务逻辑,在修改数据库的同时,更新缓存,这种方式维护成本较高,数据一致性也较好。
对于真实的业务场景下的策略选择:
- 对于低一致性需求:使用内存淘汰机制或者过期淘汰机制
- 对于高一致性需求:采用主动更新为主,并且使用过期淘汰方式作为兜底方案。
主动更新策略又有三种方案:
- Cache Aside Pattern:由缓存的调用者,在更新数据库的同时更新缓存 (多数选择)
- Read/Write through Pattern:缓存与数据库整合为一个服务,由服务来维护一致性,调用者调用该服务,无需关心缓存一致性问题
- Write Behind Caching Pattern:调用者只操作缓存,由其它线程异步的将缓存数据持久化到数据库,最终保持一致
2.2 缓存穿透
缓存穿透是指客户端请求的数据在缓存中和数据库中都不存在,这样就使得缓存永远都不会生效,这些请求都会打到数据库,对数据库造成极大的压力
缓存穿透的解决方案:
- 缓存空对象:指对于不存在的数据也在Redis建立缓存,缓存值为空,并且设置一个较短的TTL过期时间以节约内存。优点是实现简单,维护方便。但会增加额外的内存消耗,可能会造成短期的数据不一致问题。
- 布隆过滤:利用布隆过滤算法,在请求进入Redis之前先判断是否存在,如果不存在则直接拒绝请求。它占用内存较少,但是实现复杂,会存在误判的可能 (误判主要是判断为不存在的就一定不存在,而判断为存在的是有可能不存在的)
- 其他方式:做好数据的基础格式校验、加强用户权限校验、做好热点参数的限流…
2.3 缓存雪崩
缓存雪崩是指在同一时段大量的缓存key同时失效或者Redis服务器直接宕机,导致海量请求直接到达数据库,带来巨大压力
缓存雪崩解决方案:
- 给不同的key的TTL过期时间添加随机值,让key的过期时间分散开来
- 利用Redis集群提高服务的可用性
- 给缓存业务添加降级限流策略 (快速失败,服务拒绝等等)
- 给业务添加多级缓存 (从请求发出到请求响应建立多级的缓存)
2.4 缓存击穿
缓存击穿问题也被称作热点Key问题,就是一个高并发访问并且缓存重建业务较为复杂的key突然失效了,无数的请求访问会在瞬间给数据库带来巨大的压力
解决方案:
- 互斥锁方式:给缓存重建过程加锁,确保重建过程中只有一个线程在执行,其它线程等待。 优点是实现简单,没有额外的内存消耗,并且数据的一致性好。但是线程等待会导致性能下降,还会存在死锁风险。
- 逻辑过期:设置热点Key缓存永不过期,而是设置一个逻辑过期时间,查询到数据时通过对逻辑日期时间判断,来决定是否需要重建。在重建缓存时也需要通过互斥锁来保证单线程执行,利用独立线程异步执行,可以让其他线程无需等待,知道查询到旧的数据即可。但是这种方式不保证一致性,存在额外的内存消耗,而且实现复杂。
3.上代码
3.1 缓存穿透代码实现
// 注入Spring自带的Redis
@Resource
private StringRedisTemplate stringRedisTemplate;
// 业务场景:通过id来查询某个商铺
@Override
public Result queryById(Long id) {
// 1.从redis查询商铺的缓存,查询到的是一个json字符串
String shopJson = stringRedisTemplate.opsForValue.get("cache:shop:" + id); // 这里建议做一下key的拼接,不要直接传入id,这样可以使redis里面的缓存结构性更强,并且对于拼接的常量可以封装成一个常量类,让代码更优雅,这里为了直观,我直接写了。
// 2.判断是否存在
if(StrUtil.isNotBlank(shopJson)){ // StrUtil是hutool提供的工具类,它里面封装了很多实用方法,后面会提供maven坐标,直接导入就可以用了
// 存在,直接返回 (记得将json字符串转为对象)
return Result.ok(JSONUtil.toBean(shopJson,Shop.class)); // JSONUtil也是hutool里面的
}
// 3. 还要进一步判断命中的是否是空值
if(shopJson != null) {
return Result.fail();
}
// 4.不存在,根据id查询数据库
Shop shop = getById(id);
// 5.判断是否为空
if(shop == null) {
// 将空值也要传入redis,并且设置一个较短的过期时间,用以解决缓存穿透问题
stringRedisTemplate.opsForValue().set("cache:shop:" +id,"",2L,TimeUnit.MINUTES);
// 返回
return Result.fail();
}
// 6.不为空,写会redis,并设置过期时间
stringTemplate.opsForValue().set("cache:shop:" + id,JSONUtil.toJSONSTR(shop),30L,TimeUnit.MINUTES);
// 7.最终返回
return Result.ok(shop);
}
3.2 缓存雪崩解决
缓存雪崩的解决方案涉及了很多SpringCloud的知识和应用,不好说不好说,这里就跳了(hhhhhh)
3.3 互斥锁解决缓存击穿
// 同样先注入redis
@Resource
private StringRedisTemplate stringRedisTemplate;
// 先创建一个线程池,后面会用到
private static final ExecutorService CACHE_REBUILD_EXECUTOR = Executors.newFixedThreadPool(10);
// 获取锁,用redis中的setnx来模拟互斥锁
private boolean tryLock(String key) {
Boolean flag = stringRedisTemplate.opsForValue().setIfAbsent(key, "1", 10, TimeUnit.SECONDS);
return BooleanUtil.isTrue(flag); // 注意不要直接返回,直接返回会执行拆箱操作,有可能出现空指针异常
}
// 释放锁
private void unlock(String key) {
stringRedisTemplate.delete(key);
}
// 业务场景 => 通过id查询某个商铺
@Override
public Result queryById(id) {
// 1.从redis查询商铺缓存
String shopJson = stringRedisTemplate.opsForValue().get("cache:shop:" + id);
// 2.判断是否存在
if (StrUtil.isNotBlank(shopJson)) {
// 3.存在,直接返回
return Result.ok(JSONUtil.toBean(shopJson, Shop.class));
}
// 还要判断命中的是否是空值
if (shopJson != null)) {
// 返回错误信息
return Result.fail();
}
// 4.实现缓存重建
// 4.1 获取互斥锁 (方法在前面有定义)
String lockKey = "lock:shop:" + id;
Shop shop = null;
try {
boolean isLock = tryLock(lockKey);
// 4.2 判断是否获取锁成功
if(!isLock) {
// 4.3 失败,则休眠重试
Thread.sleep(50);
// 重试,重新查询缓存
this.queryById(id);
}
// 4.4 获取锁成功
shop = getById(id);
// 这里模拟一个重建的延时
Thread.sleep(200);
// 5.不存在,直接返回错误
if(shop == null) {
// 将空值也要存入redis(缓存空对象)
stringRedisTemplate.opsForValue.set("cache:shop:" + id,"",2L,TimeUnit.MINUTES);
// 返回错误
return Result.fail();
}
// 6.存在,写回redis,并且设置超时时间
stringRedisTemplate.opsForValue().set("cache:shop:" + id,JSONUTIl.toJsonStr(shop),30L,TimeUnit.MINUTES);
}catch(InterruptdException e) {
throw new RuntimeException(e);
}finally{
// 7.不要忘了释放锁!!
unlock(lockKey);
}
// 8.返回
return Result.ok(shop);
}
3.4 逻辑过期解决缓存击穿
// 同样先注入redis
@Resource
private StringRedisTemplate stringRedisTemplate;
// 先创建一个线程池,后面会用到
private static final ExecutorService CACHE_REBUILD_EXECUTOR = Executors.newFixedThreadPool(10);
// 获取锁,用redis中的setnx来模拟互斥锁
private boolean tryLock(String key) {
Boolean flag = stringRedisTemplate.opsForValue().setIfAbsent(key, "1", 10, TimeUnit.SECONDS);
return BooleanUtil.isTrue(flag); // 注意不要直接返回,直接返回会执行拆箱操作,有可能出现空指针异常
}
// 释放锁
private void unlock(String key) {
stringRedisTemplate.delete(key);
}
// 业务场景 => 通过id查询某个商铺
@Override
public Result queryById(id) {
// 1.从redis查询商铺缓存
String shopJson = stringRedisTemplate.opsForValue().get("cache:shop:" + id);
// 2.判断是否存在
if (StrUtil.isBlank(shopJson)) {
// 3.不存在,直接返回
return Result.fail();
}
// 4.命中,需要先把json反序列化为对象 RedisData 是我定义的一个类,里面专门封装了过期时间(后面提供)
RedisData redisData = JSONUtil.toBean(shopJson, RedisData.class);
JSONObject data = (JSONObject) redisData.getData();
Shop shop = JSONUtil.toBean(data, Shop.class);
LocalDateTime expireTime = redisData.getExpireTime();
// 5.判断是否过期
if (expireTime.isAfter(LocalDateTime.now())) {
// 5.1.未过期,直接返回店铺信息
return Result.ok(shop);
}
// 5.2.已过期,需要缓存重建
// 6.缓存重建
// 6.1.获取互斥锁
String lockKey = "lock:shop:" + id;
boolean isLock = tryLock(lockKey);
// 6.2.判断是否获取锁成功
if (isLock) {
// 6.3.成功,开启独立线程,实现缓存重建
CACHE_REBUILD_EXECUTOR.submit(() -> {
try {
// 重建 saveShop2Redis方法在后面定义
this.saveShop2Redis(id,1800L);
} catch (Exception e) {
throw new RuntimeException(e);
}finally {
// 释放锁
unlock(lockKey);
}
});
}
// 6.4.返回过期的商铺信息
return Result.ok(shop);
}
public void saveShop2Redis(Long id,Long expireSeconds) {
// 查询店铺数据
Shop shop = getById(id);
// 封装逻辑过期时间
RedisData redisData = new RedisData();
redisData.setData(shop);
redisData.setExpireTime(LocalDateTime.now().plusSeconds(expireSeconds));
// 写入Redis
stringRedisTemplate.opsForValue().set("cache:shop:" + id,JSONUtil.toJsonStr(redisData));
}
4. 一些工具
4.1 hutool坐标
<dependency>
<groupId>cn.hutool</groupId>
<artifactId>hutool-all</artifactId>
<version>5.7.17</version>
</dependency>
4.2 RedisData
@Data
public class RedisData {
private LocalDateTime expireTime;
private Object data;
}
4.3 常量类
public class RedisConstants {
public static final String LOGIN_CODE_KEY = "login:code:";
public static final Long LOGIN_CODE_TTL = 3L;
public static final String LOGIN_USER_KEY = "login:token:";
public static final Long LOGIN_USER_TTL = 36000L;
public static final Long CACHE_NULL_TTL = 2L;
public static final Long CACHE_SHOP_TTL = 30L;
public static final String CACHE_SHOP_KEY = "cache:shop:";
public static final String LOCK_SHOP_KEY = "lock:shop:";
public static final Long LOCK_SHOP_TTL = 10L;
public static final String SECKILL_STOCK_KEY = "seckill:stock:";
public static final String BLOG_LIKED_KEY = "blog:liked:";
public static final String FEED_KEY = "feed:";
public static final String SHOP_GEO_KEY = "shop:geo:";
public static final String USER_SIGN_KEY = "sign:";
}
用来替换前面的缓存Key的前缀