目录
一、了解内存缓存
1、缓存使用场景
高并发查询/写入、热点数据、大对象初始化
2、使用缓存好处
提示应用程序性能、降低数据库成本、减少后端负载、性能可预测、消除数据库热点、提高读取吞吐量(IOPS)
3、缓存常用类型
内存缓存(进程内缓存)、分布式缓存、组合缓存(多级缓存)
4、缓存特点
设置存活时间、空间使用有限(淘汰策略:FIFO|LRU|LFU)、支持并发读取写入
5、缓存使用中的常见问题
缓存穿透:请求数据库中不存在的数据,导致每次都无法从缓存中命中,继而请求访问到了数据库
缓存击穿:缓存失效的同时大量并发请求访问到了数据库
缓存雪崩:由于大量缓存同时失效,导致大量请求穿过缓存全部访问到数据库
6、常用内存缓存实现方式
Java容器:JDK自带的Map容器类 HashMap、ConcurrentHashMap
Guava Cache:Google提供的Java增强工具包
Ehcache:重量级、支持二级缓存、Hibernate中默认的缓存架构
Caffeine:基于Guava API开发的高性能内存缓存,Spring5默认的内存缓存架构
二、实现简单内存缓存
1、基于ConcurrentHashMap实现并发读写
2、基于定时器实现缓存定时定期清除 ScheduledThreadPoolExecutor
3、基于队列实现缓存的FIFO淘汰策略 LinkedHashMap
三、常见开源内存缓存工具
1、Guava Cache
运行在JVM的本地缓存,提供了基于容量、时间和引用的缓存回收方式。基于容量的方式内部实现采用LRU算法,基于引用回收很好的利用了Java虚拟机的垃圾回收机制。
1.1、Guava Cache加载
加载方式一:CacheLoader
加载方式二:Callable
1.2、Guava Cache缓存回收
▶回收方式一:基于容量回收
maximumSize(long):当缓存中的元素数量超过指定值时便会回收。回收最早写入的元素。
▶回收方式二:定时回收
expireAfterAccess/Write(long,TimeUnit):缓存项在给定时间内没有被读/写访问,则回收。
▶回收方式三:基于引用回收
CacheBuilder.weakKeys():使用弱引用存储键。当key没有其它引用时,缓存项可以被垃圾回收。
CacheBuilder.weakValues():使用弱引用存储值。当value没有其它引用时,缓存项可以被垃圾回收。
CacheBuilder.softValues():使用软引用存储值。按照全局最近最少使用的顺序回收。
1.3、Guava Cache显示清除
个别清除:Cache.invalidate(key)
批量清除:Cache.invalidateAll(keys)
全部清除:Cache.invalidate()。清除所有缓存项。
Guava Cache缓存中数据存在就读取,不存在就加载数据源写入。可以利用清除,实现缓存一致性。
1.4、Guava Cache统计
2、Ehcache
是一个纯Java的进程内缓存框架,具有快速、精干等特点,是Hibernate中默认的CacheProvider。线程安全。
主要特性:
适用场景:
3、Caffeine
是Google基于Java8对GuavaCache的重写升级版本,支持丰富的缓存过期策略,采用TinyLfu淘汰算法,提供近乎最佳的命中率。(读写)性能上也足以秒杀其他一堆进程内缓存框架。Spring5放弃了Guava,采用了Caffeine。
3.1、常用淘汰算法:
3.2、Caffeine淘汰算法
3.3、Caffeine操作的原子性
GuavaCache操作是不阻塞的。