使用缓存组件的场景

缓存优化的一般思路

缓存主要针对的时读操作，当你的功能遇到下面的场景是，就可以用缓存组件实现性能优化：

• 存在缓存热点，缓存的数据能够被频繁使用；
• 读操作明显比写操作多；
• 下游功能存在着比较悬殊的性能差异，下游服务能力有限；
• 加入缓存以后，不会影响程序的正确性，或者引入不可预料的复杂性。

缓存与缓冲

• 缓冲，数据一般只是用一次，等待缓冲区满了就执行flush操作；
• 缓存，数据被加载后，可以多次使用，数据将会共享多次。

缓存命中率

缓存最重要的指标就是命中率，有以下几个因素会影响命中率。

• 缓存容量
  缓存的容量总是有限制的，所以就存在一些冷数据被逐出的问题。但缓存也不是越大越好，他不能明显挤占业务的内存。
• 数据集类型
  如果缓存的数据是非热点数据，或者操作几次就不在使用的冷数据，那命中率肯定低，缓存也失去了它的作用。
• 缓存失效策略
  缓存算法也会影响命中率和性能，目前效率最高的算法是caffeine使用的W-TinyLFU算法，它的命中率非常高，内存占用也小，新版本的spring-cache已经默认支持caffeine。