缓存与后端系统
通常后端会采用Mysql等磁盘数据库,可以持久化但是访问慢,高并发时性能差,需要设置Nosql内存型数据库缓存:Redis等
但缓存可能出现:缓存穿透、缓存击穿、缓存雪崩等问题
认识缓存穿透、击穿、雪崩
-
热点key:常被访问的key,如热搜榜
-
缓存穿透
查找数据的顺序是:先查找缓存,再查找数据库
当查找一个数据时,缓存没有都会请求数据库,当查找的数据为热点key,高并发时缓存就起不到作用,会压垮数据库
如果黑客利用这个不存在的key进行攻击可能压垮数据库
- 缓存击穿
缓存中没有数据但数据库里有(例如缓存过期),会进入后端访问数据库并回设到缓存,高并发的请求key,会压垮数据库
- 缓存雪崩
当缓存服务器重启或者缓存短时间内大量失效,高并发时,引起数据库压力过大甚至宕机。
和缓存击穿不同的是, 缓存击穿指并发查同一条数据,缓存雪崩是不同数据都过期了,很多数据都查不到从而查数据库
缓存穿透解决方案
缓存穿透是查询不存在的数据时会访问数据库
有两种方法:
- 布隆过滤器:将数据库中的数据哈希映射到bitmap(0、1表示存在、不存在),查询时先访问bitmap,查询不存在的数据就会被bitmap拦截,就不用进入数据库查询
- 返回空值给缓存:当查询不存在数据访问数据库返回值为空,仍然将空值进行缓存(Redis中value为空值会被回收,可以设置empty字符串等),当然插入值时要替代掉空值
缓存击穿解决方案
缓存击穿是数据缓存没有而数据库有,查询时需要进入数据库查询,高并发时会压垮数据库
有两种解决方案:
- 设置热点key永不过期
- 加互斥锁(mutex key)
互斥锁:在缓存失效的时候(判断拿出来的值为空),第1个进入的线程,获取锁并从数据库去取数据,没释放锁之前,其他并行进入的线程会等待,再重新去缓存取数据
Redis:使用setnx操作去set一个mutex key,当操作返回成功时,再进行load db的操作并回设缓存;否则,就重试整个get缓存的方法。
setnx key value
:当key不存在时才设置值,key存在不操作。setnx可以实现互斥锁
通过互斥锁,高并发也仅查询一次数据库
缓存雪崩解决方案
缓存雪崩是缓存服务器重启或者大量缓存失效,引起数据库压力过大
这里的问题是多个key缓存,有两种方案:
-
尽量设置缓存失效时间均匀分布,别在短时间内大量缓存过期
-
考虑用加锁队列的方式来保证不会有大量的线程对数据库一次性进行读写,从而避免失效时大量的并发请求数据库
(在高并发下线程阻塞,用户体验差)