分布缓存
缓存雪崩
缓存雪崩我们可以简单的理解为:由于原有缓存失效,新缓存未到期间,所有原本应该访问缓存的数据都查询数据库了,而对数据库CPU和内存造成巨大压力,严重的会造成数据库的宕机,从而形成一系列的连锁反应,造成系统崩溃。即同一时间大量的键失效,而请求的数据全都落在了数据库中。一般有三种处理方法:
- 一般并发不是特别多的时候,使用最多的方法就是枷锁排队
- 给每一个缓存数据增加相应的缓存标记,记录缓存是否失效,如果缓存标记失效,则更新数据缓存。
- 为Key设置不同的缓存失效时间。
缓存穿透
缓存穿透是指用户查询数据,在数据库中没有,自然缓存中也没有,这样就导致查询时,在缓存中找不到值,每一次再去数据库中查询,然后返回空值(相当于进行了两次无用的查询),这样请求就直接绕过缓存请求数据库,这也是经常提到的缓存命中率问题。
常见的解决方法就是采用布隆过滤器,将所有可能存在的数据haxi存到一个足够大的bitmap中,一个一定不会存在的数据会被这个bitmap拦截掉,从而避免了对底层存储系统的查询压力。
另外一个简单粗暴的方法就是,如果一个查询返回的数据为空(不管是数据不存在还是系统故障),我们礽贪把这个空结果进行缓存,但它的过期时间会很短,最长不超过五分钟。这样第二次到缓冲中查询就有值了,而不会继续访问数据库。
缓存预热
缓存预热就是在系统上线后,将相关的数据直接加载到缓存系统,这样就可以避免在用户请求的时候,直接操作数据库,然后再讲数据缓存的问题了,用户直接查询已经被缓存预热的数据。
缓存更新
缓存更新除了缓存服务器自带的缓存失效策略之外,我们还可以根据具体的业务需求进行自定义的缓存淘汰,常见的策略有两种:
- 定时去清理过期的缓存;
- 当用户请求过来的时候,再判断这个请求所用到的缓存是否过期,过期的话就去底层系统得到新数据并进行缓存
缓存降级
当访问剧增、服务出现问题(如相应时间慢或不响应)或非核心服务影响到核心流程的额性能时,仍然需要保证核心服务还是可以用的,既是有损服务,系统可以根据一些关键数据进行自动降级,也可以配置开关人工降级。降级的最终目的是保证核心服务可用,即使是有损的。而且有些服务是无法降级的(如加入购物车、结算)。