一、什么是缓存的雪崩问题?
如图,我们可以看出,正常的请求应该是首先访问cache层,然后如果没有访问到才去storage层获取数据,然后进行回写的过程,正常情况下应该是缓存承担了大量的请求。
如果cache层发生了宕机之类的情况,那么大流量都会流向storage层,就会给storage层造成巨大的压力。
因为storage层在设计的时候就不是为了承担大量流量的,就容易造成storage层也挂掉。
二、如何优化缓存的雪崩问题?
事前解决方案
- 将key值失效时间加上一个随机数,防止同时大部分key值都失效
- 保证缓存的高可用性:如果个别节点、个别机器、个别机房出现问题的时候,我们都要保证cache层的高可用,从而尽量避免出现雪崩问题。
- 可以使用主从搭建或者Redis Cluster、Redis Sentinel之类的工具搭建cache集群。
- 依赖隔离组件为后端限流。
- 提前演练:例如压力测试
事中解决方案
- 对缓存访问进行资源熔断
- 在缓存失效后,通过加锁或者队列来控制读数据库写缓存的线程数量。比如对某个key只允许一个线程查询数据和写缓存,其他线程等待。
更多好文
请扫描下面二维码
欢迎关注~