前言:
设计一个缓存系统,不得不考虑的问题就是:缓存穿透,缓存击穿与失效时的雪崩效应。
缓存穿透
查询一个不存在的key,这将导致这个不存在的的数据每次请求都要到存储层去查询。在流量大时,可能DB就挂掉了,要是有人
利用不存在的key频繁攻击我们的应用,这就是漏洞。
解决方案
最常见的是利用布隆过滤器,将所有可能存在的数据hash到一个足够大的bitmap中,一个一定不存在的数据会被bitmap
拦截掉,从而避免了对底层存储系统的的查询压力。另外一个最简单粗暴的方法(我们采用的就是这种),如果一个查询返回的数据为空,我们仍然把这个空结果进行缓存,但他的过期时间会很短,最长不超过五分钟。
缓存雪崩
缓存雪崩是指在我们设置缓存时采用了相同的过期时间,导致缓存在某一时刻同时失效,请求全部转发到DB,DB瞬时
压力过重雪崩。
解决方案
缓存时间分散开,比如我们在原来的时间基础上添加一个随机值,比如1-5分钟,这样每一个缓存的过期时间重复率就会降低,
就很难引发集体失效的事件。
缓存击穿
对于一些设置了过期时间的key,如果这些key在某个时间点过期,此时恰好有大量的并发请求过来,这时就要考虑
缓存被击穿的问题。
解决方案
1、使用互斥锁(mutex key):这种解决方案思路比较简单,就是只让一个线程构建缓存,其他线程等待构建缓存的线程执行完,重新从缓存获取数据就可以了.
如果是单机,可以用synchronized或者lock来处理,如果是分布式环境可以用分布式锁就可以了(分布式锁,可以用memcache的add, redis的setnx, zookeeper的添加节点操作)。