设计缓存系统该注意的问题

2019独角兽企业重金招聘Python工程师标准>>>

分布式缓存对应于CPU的模型有如下的关系,我们知道,CPU跟内存的关系中间还有三级高速缓存L1,L2,L3.L1最靠近CPU内核,CPU在进行数据处理的时候一般是先把内存的数据复制到L1中进行处理,把处理结果恢复到内存中,所以多CPU多线程中会有数据复制不一致的问题.

而对应于分布式缓存系统中,有着与之对应的关系(寄存器-本地内存,L1缓存-本地内存,L2缓存-本地内存,L3缓存-Redis分布式缓存,内存-数据库Mysql等).

建立分布式缓存的3种方法:1、双读双写，一般写数据库，读缓存，缓存未命中，则读取数据库，再写入缓存。2、异步更新，只读写缓存，由异步的更新服务将数据库里的变更或者新增的数据更新到缓存中。3、串联模式，直接在缓存上进行读写操作，缓存作为代理，根据需要和配置与数据库进行读写操作。

缓存穿透，缓存并发，缓存雪崩

缓存穿透是指使用不存在的key进行大量的高并发查询,导致缓存无法命中,直接穿透到后端的数据库系统进行查询,使数据库压力过大,甚至压死数据库.解决办法:存储空值,过滤规则,不符合规则的访问,直接拒绝.

缓存并发,当一个key过期时,访问这个key的请求量过大,穿透到数据库.解决办法:1,分布式锁,保证每个key同时只有一个线程去查询数据库,其他线程没有获得分布式锁的权限,只需要等待.对分布式锁的考验很大.2,本地锁,类比分布式锁,但可能会有不同节点的线程查询数据库.3,软过期,业务层处理.

缓存雪崩,缓存服务器重启或者大量缓存集中在某一个时间段内失效,给数据库造成瞬时压力.解决办法,对不同的数据使用不同的失效时间,对相同的数据,不同的请求使用不同的失效时间,过期时间采用固定时间+随机时间,有一个范围,就可以避免缓存雪崩.

转载于:https://my.oschina.net/u/3768341/blog/1840190