1 缓存处理流程
- 前台请求,后台先从缓存中取数据,取到直接返回结果,取不到时从数据库中取,数据库取到更新缓存,并返回结果,数据库也没取到,那直接返回空结果。
2 缓存穿透
2.1 描述
- 缓存穿透指查询不存在的数据,缓存层和存储层都不会命中,导致不存在的数据每次请求都要到存储层查询,可能会使后端负载增大。
2.2 解决方案
- 接口层增加校验,如用户鉴权校验,id做基础校验,id<=0的直接拦截;
- 缓存空对象,如果一个查询返回结果为 null,仍然缓存,为其设置很短的过期时间,如30秒(设置太长会导致正常情况也没法使用)。
3 缓存击穿
3.1 描述
- 对于热数据的访问量非常大,在其缓存失效的瞬间,大量请求直达存储层,导致服务崩溃。
3.2 解决方案
- 设置热点数据永远不过期。
- 加互斥锁,当一个线程访问后,缓存数据会被重建。
互斥锁参考代码如下:
3.3 说明
- 缓存中有数据,直接走上述代码13行后就返回结果了
- 缓存中没有数据,第1个进入的线程,获取锁并从数据库去取数据,没释放锁之前,其他并行进入的线程会等待100ms,再重新去缓存取数据。这样就防止都去数据库重复取数据,重复往缓存中更新数据情况出现。
- 当然这是简化处理,理论上如果能根据key值加锁就更好了,就是线程A从数据库取key1的数据并不妨碍线程B取key2的数据,上面代码明显做不到这点。
4 缓存雪崩
4.1 描述
- 缓存雪崩是指如果缓存层因为某些问题不能提供服务,所有请求都会到达存储层,对数据库造成巨大压力。
- 和缓存击穿不同的是,缓存击穿指并发查同一条数据,缓存雪崩是不同数据都过期了,很多数据都查不到从而查数据库。
4.2 解决方案
- ① 保证高可用性,使用集群。
- ② 依赖隔离组件为后端限流并降级,降级机制在高并发系统中使用普遍,例如在推荐服务中,如果个性化推荐服务不可用,可以降级补充热点数据,避免前端页面空白。
- ③ 构建多级缓存,增加本地缓存,降低请求直达存储层概率。