Redis缓存

文章详细阐述了Redis的更新策略,包括内存淘汰、超时剔除和主动更新,并探讨了如何在并发情况下保证Redis与MySQL的一致性,提出了延迟双删等解决方案。同时,文章讨论了缓存穿透和缓存雪崩的问题及对应的预防措施,如使用布隆过滤器和设置随机过期时间。最后,提到了Redis故障时的服务熔断和限流机制以及构建高可用集群的方法。
摘要由CSDN通过智能技术生成

目录

Redis更新策略

如何保证Redis和MySQL一致性 !!!

先删除缓存,再更新数据库

并发问题情况 

解决方案:延迟双删

先更新数据库,再删除缓存

并发问题情况

原子问题:如何保证【先更新数据库 ,再删除缓存】这两个操作能执行成功

解决方案一:重试机制

解决方案二:订阅 MySQL binlog,再操作缓存

一致性问题小结

Redis缓存穿透!!!

解决方案

Redis缓存雪崩!!!

大量数据同时过期解决方案

随机设置过期时间

互斥锁

后台更新缓存

Redis 故障宕机解决方案

服务熔断或请求限流机制

构建 Redis 缓存高可靠集群

Redis缓存击穿!!!

解决方案一:互斥锁

解决方案二:逻辑过期方案

缓存异常问题小结 


缓存数据存储于代码中,而代码运行在内存中,内存的读写性能远高于磁盘,缓存可以大大降低用户访问并发量带来的服务器读写压力

缓存模型和思路

标准的操作方式就是查询数据库之前先查询缓存,如果缓存数据存在,则直接从缓存中返回,如果缓存数据不存在,再查询数据库,然后将数据存入redis。

Redis更新策略

内存淘汰:redis自动进行,当redis内存达到咱们设定的max-memery的时候,会自动触发淘汰机制,淘汰掉一些不重要的数据(可以自己设置策略方式)

超时剔除:当我们给redis通过EXPX设置了过期时间TTL之后,redis会将超时的数据进行删除,方便咱们继续使用缓存

主动更新:我们可以手动调用方法把缓存删掉,通常用于解决缓存和数据库不一致问题

业务场景:

  • 低一致性需求:使用内存淘汰机制
  • 高一致性需求:主动更新,并以超时剔除作为兜底方案

如何保证Redis和MySQL一致性 !!!

Cache Aside 策略,也叫旁路缓存策略,确保一致性。该策略又可以细分为读策略写策略

写策略的步骤:

  • 更新数据库中的数据;
  • 删除缓存中的数据。

读策略的步骤:

  • 如果读取的数据命中了缓存,则直接返回数据;
  • 如果读取的数据没有命中缓存,则从数据库中读取数据,然后将数据写入到缓存,并且返回给用户。

先删除缓存,再更新数据库


正常情况:
<1> 线程1删除缓存
<2> 线程1更新数据库
<3> 线程2查询缓存未命中,查询数据库
<4> 线程2将数据库中的数据重新写入缓存

并发问题情况 

<1> 线程1 删除缓存 。此时,线程2查询缓存,未命中,查询数据库
<2> 线程2 读取数据库中的数据为20
<3> 线程2 更新缓存
<4> 线程1 更新数据库为10

结果:数据库和缓存中的数据不一致

解决方案:延迟双删

线程1进行延迟双删,思路如下:
线程1
加了个睡眠时间,主要是为了确保请求 线程1在睡眠的时候,线程2能够在这这一段时间完成[从数据库读取数据,再把缺失的缓存写入缓存]的操作,然后线程1 睡眠完,再删除缓存。
关键点:线程1的睡眠时间就需要大于线程2 【从数据库读取数据 + 写入缓存】的时间
自注:除去第一遍删除缓存操作,整体解决类似先更新数据库,再删缓存的思路。

#删除缓存
thread1:redis.delKey(X)
#更新数据库
thread1:db.update(X)
#睡眠
thread1.sleep(N)
#再删除缓存
thread1:redis.delKey(X)

先更新数据库,再删除缓存

正常情况:
<1> 线程2 更新数据库数据为20
<2> 线程2 删除缓存
<3> 线程1 查询缓存未命中,查询数据库
<4> 线程1 写入缓存

并发问题情况

<1> 线程1 查询缓存未命中,查询数据库值为10(旧值)。此时,线程2 更新数据库更新值为20(新值)
<2> 线程2 删除缓存
<3> 线程1写入缓存,此时写入值为10(旧值)

结果:数据库和缓存中的数据不一致

但是在实际中,这个问题出现的概率并不高因为缓存的写入通常要远远快于数据库的写入,所以在实际中很难出现线程2已经更新了数据库并且删除了缓存,线程1才更新完缓存的情况。

 为确保万无一失:可以在写入缓存时,添加过期时间进行兜底。即使出现上述情况,缓存过一段时间也会被删除,下次查询缓存未命中,查询数据库,依然可以更新为新值

原子问题:如何保证【先更新数据库 ,再删除缓存】这两个操作能执行成功

应用要把数据 X 的值从 1 更新为 2,先成功更新了数据库,然后在 Redis 缓存中删除 X 的缓存,但是这个操作却失败了,这个时候数据库中 X 的新值为 2,Redis 中的 X 的缓存值为 1,出现了数据库和缓存数据不一致的问题。

解决方案一:重试机制

引入消息队列,将第二个操作(删除缓存)要操作的数据加入到消息队列,由消费者来操作数据。

  • 如果应用删除缓存失败,可以从消息队列中重新读取数据,然后再次删除缓存,这个就是重试机制。当然,如果重试超过的一定次数,还是没有成功,我们就需要向业务层发送报错信息了。
  • 如果删除缓存成功,就要把数据从消息队列中移除,避免重复操作,否则就继续重试。
解决方案二:订阅 MySQL binlog,再操作缓存

先更新数据库,再删缓存的策略的第一步是更新数据库,那么更新数据库成功,就会产生一条变更日志,记录在 binlog 里。我们就可以通过订阅 binlog 日志,拿到具体要操作的数据,然后再执行缓存删除。

一致性问题小结

更新数据库,再更新缓存如果我们的业务对缓存命中率有很高的要求,我们可以采用 先更新数据库 + 后更新缓存 的方案,因为更新缓存并不会出现缓存未命中的情况
缺点:数据一致性差
解决方案:在更新缓存前先加个分布式锁,并且更新缓存时,加上较短的过期时间
更新缓存,再更新数据库一般不用
原因:删除一个数据,相比更新一个数据更加轻量级,出问题的概率更小
删除缓存思想对应于懒加载,适用于那些加载代价大的操作
删除缓存,再更新数据库

一般不用

先删除缓存,再更新数据库,在并发的时候,还是会出现缓存和数据库的数据不一致的问题比 【更新数据库,再删除缓存】的概率要高
因为缓存的写入通常要远远快于数据库的写入,在更新数据库时,速度过慢容易发生数据不一致问题
解决方案:延迟双删

更新数据库,再删除缓存基本上可以保证数据一致性
写入缓存时,可以加上缓存过期时间,对一致性问题进行兜底
引入消息队列进行重试机制或订阅MySQL的binlog(更新日志),确保两个操作同时成功

Redis缓存穿透!!!


缓存穿透 :缓存穿透是指客户端请求的数据在缓存中和数据库中都不存在,这样缓存永远不会生效,这些请求都会打到数据库,那么当有大量这样的请求到来时,数据库的压力骤增。

缓存穿透的发生一般有这两种情况:
<1> 业务误操作:缓存中的数据和数据库中的数据都被误删除了,所以导致缓存和数据库中都没有数据
<2> 黑客恶意攻击:故意大量访问某些读取不存在数据的业务

解决方案

应对缓存穿透的方案,常见的方案有三种。

  • 第一种方案,非法请求的限制;
  • 第二种方案,缓存空值或者默认值;
  • 第三种方案,使用布隆过滤器快速判断数据是否存在,避免通过查询数据库来判断数据是否存在

第一种方案,非法请求的限制

  • 黑客攻击,也会发生缓存穿透,因此在 API 入口处我们要判断求请求参数是否合理,请求参数是否含有非法值、请求字段是否存在,如果判断出是恶意请求就直接返回错误,避免进一步访问缓存和数据库。
  • 增强id的复杂度,避免被猜测出id规律

第二种方案,缓存空值或者默认值

针对查询的数据,在缓存中设置一个空值或者默认值,这样后续请求就可以从缓存中读取到空值或者默认值,返回给应用,而不会继续查询数据库。下图左侧为该方案的解决图解

第三种方案,布隆过滤器

上图右侧为该方案图解

布隆过滤器由【初始值都为 0 的位图数组】和【N 个哈希函数】两部分组成。当我们在写入数据库数据时,在布隆过滤器里做个标记,这样下次查询数据是否在数据库时,只需要查询布隆过滤器,如果查询到数据没有被标记,说明不在数据库中。

布隆过滤器会通过 3 个操作完成标记:

  • 第一步,使用 N 个哈希函数分别对数据做哈希计算,得到 N 个哈希值
  • 第二步,将第一步得到的 N 个哈希值对位图数组的长度取模,得到每个哈希值在位图数组的对应位置
  • 第三步,将每个哈希值在位图数组的对应位置的值设置为 1

举个例子,假设有一个位图数组长度为 8,哈希函数 3 个的布隆过滤器。

在数据库写入数据 x 后,把数据 x 标记在布隆过滤器时,数据 x 会被 3 个哈希函数分别计算出 3 个哈希值,然后在对这 3 个哈希值对 8 取模,假设取模的结果为 1、4、6,然后把位图数组的第 1、4、6 位置的值设置为 1。当应用要查询数据 x 是否数据库时,通过布隆过滤器只要查到位图数组的第 1、4、6 位置的值是否全为 1,只要有一个为 0,就认为数据 x 不在数据库中

布隆过滤器由于是基于哈希函数实现查找的,高效查找的同时存在哈希冲突的可能性,比如数据 x 和数据 y 可能都落在第 1、4、6 位置,而事实上,可能数据库中并不存在数据 y,存在误判的情况。

所以,查询布隆过滤器只能说数据存在,并不一定证明数据库中存在这个数据,但是查询到数据不存在,数据库中一定就不存在这个数据
这种方式优点在于节约内存空间,存在误判,误判原因在于:布隆过滤器是哈希思想,只要哈希思想,就可能存在哈希冲突

Redis缓存雪崩!!!

缓存雪崩是指在同一时段大量的缓存key同时失效或者Redis服务宕机,导致大量请求到达数据库,带来巨大压力。

发生缓存雪崩有两个原因:

  • 大量数据同时过期
  • Redis 故障宕机

大量数据同时过期解决方案

随机设置过期时间

如果要给缓存数据设置过期时间,应该避免将大量的数据设置成同一个过期时间。我们可以在对缓存数据设置过期时间时,给这些数据的过期时间加上一个随机数,这样就保证数据不会在同一时间过期

互斥锁

当业务线程在处理用户请求时,如果发现访问的数据不在 Redis 里,就加个互斥锁,保证同一时间内只有一个请求来构建缓存(从数据库读取数据,再将数据更新到 Redis 里),当缓存构建完成后,再释放锁。未能获取互斥锁的请求,要么等待锁释放后重新读取缓存,要么就返回空值或者默认值。

实现互斥锁的时候,最好设置超时时间,不然第一个请求拿到了锁,然后这个请求发生了某种意外而一直阻塞,一直不释放锁,这时其他请求也一直拿不到锁,整个系统就会出现无响应的现象

后台更新缓存

业务线程不再负责更新缓存,缓存也不设置有效期,而是让缓存“永久有效”,并将更新缓存的工作交由后台线程定时更新

事实上,缓存数据不设置有效期,并不是意味着数据一直能在内存里,因为当系统内存紧张的时候,有些缓存数据会被“淘汰”,而在缓存被“淘汰”到下一次后台定时更新缓存的这段时间内,业务线程读取缓存失败就返回空值,业务的视角就以为是数据丢失了。

解决上面的问题的方式有两种。

第一种方式,后台线程不仅负责定时更新缓存,而且也负责频繁地检测缓存是否有效,检测到缓存失效了,原因可能是系统紧张而被淘汰的,于是就要马上从数据库读取数据,并更新到缓存。

这种方式的检测时间间隔不能太长,太长也导致用户获取的数据是一个空值而不是真正的数据,所以检测的间隔最好是毫秒级的,但是总归是有个间隔时间,用户体验一般。

第二种方式,在业务线程发现缓存数据失效后(缓存数据被淘汰),通过消息队列发送一条消息通知后台线程更新缓存,后台线程收到消息后,在更新缓存前可以判断缓存是否存在,存在就不执行更新缓存操作;不存在就读取数据库数据,并将数据加载到缓存。这种方式相比第一种方式缓存的更新会更及时,用户体验也比较好。

在业务刚上线的时候,我们最好提前把数据缓起来,而不是等待用户访问才来触发缓存构建,这就是所谓的缓存预热,后台更新缓存的机制刚好也适合干这个事情。

Redis 故障宕机解决方案

服务熔断或请求限流机制

因为 Redis 故障宕机而导致缓存雪崩问题时,我们可以启动服务熔断机制,暂停业务应用对缓存服务的访问,直接返回错误,不用再继续访问数据库,从而降低对数据库的访问压力,保证数据库系统的正常运行,然后等到 Redis 恢复正常后,再允许业务应用访问缓存服务。

服务熔断机制是保护数据库的正常允许,但是暂停了业务应用访问缓存服系统,全部业务都无法正常工作

为了减少对业务的影响,我们可以启用请求限流机制,只将少部分请求发送到数据库进行处理,再多的请求就在入口直接拒绝服务,等到 Redis 恢复正常并把缓存预热完后,再解除请求限流的机制。

构建 Redis 缓存高可靠集群

通过主从节点的方式构建 Redis 缓存高可靠集群。如果 Redis 缓存的主节点故障宕机,从节点可以切换成为主节点,继续提供缓存服务,避免了由于 Redis 故障宕机而导致的缓存雪崩问题。

Redis缓存击穿!!!

缓存击穿问题也叫热点Key问题,就是一个被高并发访问并且缓存重建业务较复杂的key突然失效了,无数的流量大的请求访问会在瞬间给数据库带来巨大的冲击。

常见的解决方案有两种:

  • 互斥锁
  • 逻辑过期

解决方案一:互斥锁

假设现在线程1过来访问,他查询缓存没有命中,但是此时他获得到了锁的资源,那么线程1就会一个人去执行逻辑,假设现在线程2过来,线程2在执行过程中,并没有获得到锁,那么线程2就可以进行到休眠,直到线程1把锁释放后,线程2获得到锁,然后再来执行逻辑,此时就能够从缓存中拿到数据了。

因为锁能实现互斥性。假设线程过来,只能一个人一个人的来访问数据库,从而避免对于数据库访问压力过大,但这也会影响查询的性能,因为此时会让查询的性能从并行变成了串行,我们可以采用tryLock方法 + double check来解决这样的问题。

解决方案二:逻辑过期方案

我们把过期时间设置在 redis的value中假设线程1去查询缓存,然后从value中判断出来当前的数据已经过期了,此时线程1去获得互斥锁,那么其他线程会进行阻塞,获得了锁的线程他会开启一个线程去进行以前的重构数据的逻辑,直到新开的线程完成这个逻辑后,才释放锁, 而线程1直接进行返回,假设现在线程3过来访问,由于线程2持有着锁,所以线程3无法获得线程3也直接返回数据,只有等到新开的线程2把重建数据构建完后,其他线程才能走返回正确的数据。

这种方案巧妙在于,异步的构建缓存,缺点在于在构建完缓存之前,返回的都是脏数据。

缓存异常问题小结 

缓存雪崩缓存击穿主要原因是数据不在缓存中,而导致大量请求访问了数据库,数据库压力骤增

缓存穿透主要原因是数据既不在缓存也不在数据库中

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值