JVM内存缓存优化

一、什么是缓存

临时存储数据的高速存储层

本质是空间换时间，提升接口响应速度

硬件缓存：cpu多级缓存
客户端缓存：比如浏览器缓存
服务端缓存：内存缓存（进程内）、分布式缓存、组合缓存

二、使用场景

• 高并发查询
• 高并发写入
• 热点查询
• 热点写入

三、缓存特点

• 需要设置存活时间–过期策略
• 空间有限–淘汰策略
• 支持并发更新

四、使用缓存需要考虑的问题

缓存一致性：缓存数据和磁盘数据不同业务场景存在一致性要求；需要提供同步方案，更新操作候直接删除缓存或者利用MQ的消息一致性保证或者任务调度更新缓存
缓存穿透：请求不存在的数据，每次都无法命中缓存；加bloomFilter或默认一个null的key
缓存击穿：针对同一key的缓存（热点），在失效期间，短时间大量访问无法命中；热点数据永不过期或加互斥锁
缓存雪崩：大量的缓存在同一时间失效，而导致缓存无法命中；设置失效时间随机或永不过期

五、常用的开源内存缓存工具

1.guava cache

与ConcurrentHashMap相似，基本的区别是guava cache可以根据容量、时间、引用自动回收元素。容量回收采用的LRU算法，基于引用回收利用的是JVM垃圾回收机制。还有一些特性：
自动加载缓存：未命中缓存后，可以自定义加载缓存方式
支持监听缓存失效回调：缓存移除，提供监听处理

guava cache代码示例：

package shen.example.cache;

import com.google.common.cache.*;

import java.util.Map;
import java.util.concurrent.Callable;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.TimeUnit;

public class GuavaCache {

    public static v