缓存
什么是缓存
- 缓存就是数据交换的缓冲区(Cache),是存储数据的临时地方,一般读写性能比较高
- 缓存的作用
- 降低后端负载
- 提高读写效率,降低响应时间
- 缓存的成本
- 数据一致性成本
- 代码维护成本
- 运维成本
缓存更新策略
-
业务场景
- 低一致性需求:使用内存淘汰机制。例如店铺类型查询的缓存
- 高一致性需求:主动请求,并以超时剔除作为兜底方案。例如店铺详细查询的缓存
-
主动更新策略
- Cache Aside Pattern 人工编码方式:缓存调用者在更新完数据库后再去更新缓存,也称之为双写方案
- Read/Write Through Pattern : 由系统本身完成,数据库与缓存的问题交由系统本身去处理
- Write Behind Caching Pattern :调用者只操作缓存,其他线程去异步处理数据库,实现最终一致
操作缓存和数据库时需要考虑的三个问题
- 删除缓存还是更新缓存
- 更新缓存:每次更新数据库都更新缓存,无效写操作较多 ×
- 删除操作:更新数据库时让缓存失效,查询时再更新缓存 √
- 如何保证缓存与数据库的操作同时成功或失败
- 单体系统,将缓存和数据库操作放在一个事务
- 分布式系统,利用TCC等分布式事务方案
- 先操作缓存还是先操作数据库
- 先删缓存,再操作数据库,如果多线程并行执行可能会出现缓存跟数据库内容不一致
- 先操作数据库,再删除缓存,由于缓存的读速度非常快,在这个时间段内如果想要完成数据库的更新操作的可能性非常小,所以选择这种方式
缓存更新策略的最佳实践方案
- 低一致性需求:使用Redis自带的内存淘汰机制
- 高一致性需求:主动更新,并以超时剔除作为兜底
- 读操作
- 缓存命中则直接返回
- 缓存未命中则查询数据库,并写入缓存,设定超时时间
- 写操作:
- 先写数据库,然后再删除缓存
- 要确保数据库与缓存操作的原子性
- 读操作
缓存穿透
缓存穿透是指客户端请求的数据在缓存中和数据库中都不存在,这样缓存永远不会生效,这些请求都会打到数据库,不断发起请求给数据库带来巨大的压力。
解决方案
- 缓存空对象:查询数据库后直接返回null
- 优点:实现简单,维护方便
- 缺点:存在额外的内存消耗;可能造成短期的不一致
- 布隆过滤
- 优点:内存占用较少,没有多余key
- 缺点:实现复杂;可能存在误判,仍有穿透的风险
- 增强id的复杂度,避免被猜测id规律
- 做好数据的基础格式校验
- 加强用户权限管理
- 做好热点参数的限流
缓存雪崩
缓存雪崩是指在同一时段大量的缓存key同时失效或者Redis服务宕机,导致大量请求到达数据库,带来巨大压力。
解决方案:
- 给不同的Key的TTL添加随机值
- 利用Redis集群提高服务的可用性
- 给缓存业务添加降级限流策略
- 给业务添加多级缓存
缓存击穿
缓存击穿问题也叫热点Key问题,就是一个被高并发访问并且缓存重建业务较复杂的key突然失效了,无数的请求访问会在瞬间给数据库带来巨大的冲击。
常见的解决方案有两种:
- 互斥锁
- 逻辑过期
互斥锁方案:由于保证了互斥性,所以数据一致,且实现简单,因为仅仅只需要加一把锁而已,也没其他的事情需要操心,所以没有额外的内存消耗,缺点在于有锁就有死锁问题的发生,且只能串行执行性能肯定受到影响
逻辑过期方案: 线程读取过程中不需要等待,性能好,有一个额外的线程持有锁去进行重构数据,但是在重构数据完成前,其他的线程只能返回之前的数据,且实现起来麻烦
一个是保证了一致性,一个是保证了可用性