1、缓存穿透
缓存穿透是指查询一个一定不存在的数据,由于不存在,缓存中肯定没有数据,然后就会到数据库查询。如果这样的请求在同一时间大量的出现,就会全部怼到数据库,导致数据库可能会挂掉。(有些黑客也会利用这个 bug 来攻击网站)。
解决方案:
- 布隆过滤器,将所有可能存在的数据哈希到一个足够大的 bitmap 中,一个一定不存在的数据会被这个bitmap 拦截掉,从而避免了对底层存储系统的查询压力。
- 另外也有一个更为简单粗暴的方法,如果一个查询返回的数据为空(不管是数据不存在,还是系统故障),我们仍然把这个空结果进行缓存,或者设置一个缺省值,并为这个键设置过期时间。
1.1 布隆过滤器
布隆过滤器是基于 bitmap 实现的。布隆过滤器的核心是将 key 进行 n 次不同的 hash 运算,得到 n 个不同的 hash 值,然后以 hash 值作为偏移量(offset) ,在 bitmap 中将偏移量(offset)对应的值标记为1。任何 key 进入判断是否存在时都会通过那些 hash 函数计算出对应的 n 个 hash 值,然后去判断 hash 值对应的偏移量(offset)的 value 是否全部等于1。如果有任何一个值为 0,则该 key 一定不存在;否则该 key可能存在。
存在问题:存在一定误判率,删除困难【升级版 --> 布谷鸟过滤器】
2、缓存击穿
参考文章:https://www.111com.net/database/207195.htm
Spring + Redission 解决缓存击穿:https://blog.csdn.net/dreaming9420/article/details/124192664
对一些热点数据设置了过期时间,恰好在这个时间点对这个 Key 有大量的并发请求过来,这些请求发现缓存过期一般都会从后端数据库加载数据并回设到缓存,这个时候大并发的请求怼到数据库,可能会瞬间把数据库压垮。
解决方案:
- 设置热点数据永不过期。
- 使用互斥锁 (mutex key)。缓存中没有这个 key 时,不是立即去数据库查找,而是尝试去加锁,就是使用 SETNX 命令向数据库添加一个键并设置键的过期时间(expire)【这个键可以是 “lock” 字符串 + 要查询的 key,反正就是要查询的 key 的一个映射,其它要查询这个 key 的线程也使用同一个键值来加锁,这样它们竞争的就是同一把锁了】如果该键不存在,则返回 1,表示加锁成功;否则返回 0,表示加锁失败。加锁成功的线程就放行去查询数据库,其他线程或者轮询不断尝试加锁,或者使用 yeil() 让出 CPU,或者休眠一段时间,这样就能保证只有一个线程去访问数据库,就不会出现缓存击穿的问题了。获得到锁的线程从数据库查询到数据后写入缓存,并且释放锁(del)。
//根据ID查询商品
@GetMapping("/{id}")
public R id(@PathVariable String id){
//先查 Redis 缓存
Object o = redisTemplate.opsForValue().get(id);
if (o != null) {
//命中缓存
System.err.println("id:"+id+",命中redis缓存...");
return R.success(o);
}
//缓存未命中,使用分布式锁 + 查询数据库
String lockKey = "lock" + id;
//加锁,10s后过期
for (;;) {
if (redisTemplate.opsForValue().setIfAbsent(lockKey, System.currentTimeMillis(), 10L, TimeUnit.SECONDS)) {
//加锁成功的线程,再次检查【类似双检锁,防止重复查询数据库】
o = redisTemplate.opsForValue().get(id);
if (o != null) {
//命中缓存
System.err.println("Thread:" + Thread.currentThread().getName() + ",id:"+id+",命中redis缓存...");
//释放锁
redisTemplate.delete(lockKey);
return R.success(o);
}
System.err.println("Thread:" + Thread.currentThread().getName() + ",id:" + id + ",查询DB...");
Goods goods = goodsMapper.selectById(id);
//结果存入Redis
redisTemplate.opsForValue().set(id, goods);
//释放锁
redisTemplate.delete(lockKey);
return R.success(goods);
}
//竞争不到锁,暂时让出CPU资源
Thread.yield();
}
}
Q1:如果线程 A 得到了锁,之后 A 线程挂掉了,没有正确地释放锁,那其他线程就永远无法获取到锁了?
A1:可以通过给锁加上过期时间 redisTemplate.opsForValue().setIfAbsent(lockKey, System.currentTimeMillis(), 10L, TimeUnit.SECONDS)【这个使用的就不是 Redission 了,没加过期时间是真的会死锁的喔!!不会有看门狗给你设置默认的过期时间】
Q2:如果线程 A 加锁成功,锁的过期时间为 10s,但是由于业务复杂,执行时间较长,10s 内线程还没有执行完任务,此时该锁已经过期自动释放掉了(del)。然后线程 B 获取到了这个锁,B 也开始执行任务,线程 A 执行到 12s 时执行完任务了,然后线程 A 吭呲吭呲地去释放锁【此时它释放的是 B 加的锁呀】,这就出现了【锁过期】以及【释放其他线程的锁】的严重问题。
A2.1:Redission 提供了一个监控锁的看门狗,它的作用就是为锁续时,如果一个拿到锁的线程执行业务代码的时间过长,那么看门狗会帮助线程延长锁的过期时间,锁不会因为过期而被释放。
- 如果我们设置了锁的过期时间,默认的过期时间就是我们设定的时间,不会自动续期。
- 如果我们没有设置锁的过期时间,就会设置默认的过期时间【lockWatchdogTimeout = 30s】,只要占锁成功,就会启动一个定时任务【看门狗每隔 10 秒就会查看当前的线程是否执行完了,没有的话,底层使用 Lua 脚本自动续期到 30s】
A2.2:为每个线程设置锁的时候,value 值设置为自己线程的 ID,这样在释放锁(del)的时候先查看(get)锁是不是自己的,如果是,然后再进行 del 操作。可以使用 Lua 脚本将这两个操作合并成一个操作,保证其原子性。
Redisson 是一个 Java Redis 客户端,与 Spring 提供给我们的 RedisTemplate 工具没有本质的区别,可以把它看做是一个功能更强大的客户端。
看门狗代码:https://blog.csdn.net/qq_26222859/article/details/79645203
3、缓存雪崩
缓存雪崩是指在我们设置缓存时采用了相同的过期时间,导致缓存的数据在某一时刻同时失效,恰好在这个时间点大量请求访问这些数据,然后这些请求又全部怼到数据库上,数据库瞬时压力过重发生雪崩。
解决方案:
- 给热点数据设置不同的过期时间,给每个 key 的失效时间加一个随机值。
- 单独处理热点数据,对于一些热点数据的持续读取,这种缓存数据可以采取定时更新的方式来刷新缓存,避免大面积的自动失效。
- 从服务器和接口来处理,如果服务器和接口设置了限流机制,就酸缓存全部失效了,但是请求的总量已经欸限制了,在可承受的范围内,这样短时间内系统的响应慢点,但不至于挂掉。