【全网最新最全】一篇文章带你了解“本地缓存”

推荐优先使用Caffeine作为本地缓存，在功能上，GuavaCache支持的功能，Caffeine都支持，另外Caffeine支持异步Cache和写入外部资源，这两个Guava Cache是不支持的。Caffeine也是Spring 5中默认支持的Cache。而Caffeine在性能上要比GuavaCache好很多，主要有以下几个原因：

剔除算法，GuavaCache采用的是「LRU」算法，而Caffeine采用的是「Window TinyLFU」算法，这是两者之间最大，也是根本的区别。
立即失效，Guava会把立即失效（例如：expireAfterAccess(0) and expireAfterWrite(0)）转成设置最大Size为0，这就会导致剔除提醒的原因是SIZE而不是EXPIRED。Caffeine能正确识别这种剔除原因。
取代提醒，Guava只要数据被替换，不管什么原因，都会触发剔除监听器。而Caffeine在取代值和先前值的引用完全一样时不会触发监听器。
异步化，Caffeine的很多工作都是交给线程池去做的（默认：ForkJoinPool.commonPool()），例如：剔除监听器，刷新机制，维护工作等。

3.2 基于Caffeine实现本地缓存

import com.github.benmanes.caffeine.cache.Cache;
import com.github.benmanes.caffeine.cache.Caffeine;
import org.springframework.beans.factory.InitializingBean;
import org.springframework.stereotype.Component;

import java.util.concurrent.TimeUnit;

/**
 * 本地缓存工具
 */
@Component
public class LocalCacheManager implements InitializingBean {
    
    private Cache<String, String> localCache;
    
    /**
     * 向缓存中保存数据，如果已经存在则不覆盖
     * 
     * @param key
     * @param value
     */
    public void putIfNotExist(String key, String value) {
        if (localCache.getIfPresent(key) == null) {
            localCache.put(key, value);
        }
    }
    
    /**
     * 根据key获取缓存数据
     * 
     * @param key
     */
    public String get(String key) {
        return localCache.getIfPresent(key);
    }
    
    public void del(String key) {
        localCache.invalidate(key);
    }
    
    /**
     * 在bean初始化时，初始化本地缓存
     */
    @Override
    public void afterPropertiesSet() {
        localCache = Caffeine.newBuilder()
                .expireAfterWrite(10, TimeUnit.SECONDS)
                .expireAfterAccess(10, TimeUnit.SECONDS)
                .maximumSize(1000)
                .build();
    }
}

四、缓存失效算法

缓存失效算法主要是进行缓存失效的，当缓存中的存储的对象过多，需要通过一定的算法选择出需要被淘汰的对象，一个好的算法对缓存的命中影响是巨大的。常见的缓存失效算法有FIFO、LRU、LFU，以及Caffeine中的Window TinyLFU算法。

4.1 FIFO

FIFO算法是一种比较容易实现也最容易理解的算法。它的主要思想就是和队列是一样的，即先进先出（First In First Out）。

一般认为一个数据是最先进入的，那么可以认为在将来它被访问的可能性很小。

因为FIFO刚好符合队列的特性，所以通常FIFO的算法都是使用队列来实现的。

新数据插入到队列尾部，数据在队列中顺序移动；
淘汰队列头部的数据；

4.2 LRU&LFU

LRU（The Least Recently Used），最近最少使用，最久未被访问的数据会被最早淘汰。

LFU（Least Frequently Used），最少频次使用，访问次数最少的数据会被最早淘汰。

LRU只关注数据最近一次被使用时间（时间越久，越容易被淘汰），LFU只关注数据最近一段时间被使用的次数（次数越少，越容易被淘汰）。

假设缓存数据使用顺序如下（从左到右表示时间从晚到早）：

A、B、C、D、A、C、C、D

那么，如果按照LRU淘汰的是，就淘汰那个最近一次使用时间更早的，即D。

如果按照LFU淘汰的是，就淘汰那个使用次数最少的，即B。

LRU

LRU（The Least Recently Used，最近最少使用）是一种常见的缓存算法，在很多分布式缓存系统（如Redis, Memcached）中都有广泛使用。

LRU算法的思想是：如果一个数据在最近一段时间没有被访问到，那么可以认为在将来它被访问的可能性也很小。因此，当空间满时，最久没有访问的数据最先被淘汰。

最常见的实现是使用一个链表保存缓存数据，详细算法实现如下：

新数据插入到链表头部；
每当缓存命中，则将数据移到链表头部；
当链表满的时候，将链表尾部的数据丢弃。

LFU

LFU（Least Frequently Used，最少频次使用）也是一种常见的缓存算法。

顾名思义，LFU算法的思想是：如果一个数据在最近一段时间很少被访问到，那么可以认为在将来它被访问的可能性也很小。因此，当空间满时，最小频率访问的数据最先被淘汰。

LFU的每个数据块都有一个引用计数，所有数据块按照引用计数排序，具有相同引用计数的数据块则按照时间排序。

具体实现如下：

新加入数据插入到队列尾部（因为引用计数为1）；
队列中的数据被访问后，引用计数增加，队列重新排序；
当需要淘汰数据时，将已经排序的列表最后的数据块删除。

五、如何实现多级缓存？

多级缓存是比较常见的一种性能优化的手段，一般来说就是本地缓存 + 分布式缓存。

本地缓存一般采用Caffeine和Guava，这两种是性能比较高的本地缓存的框架。他们都提供了缓存的过期、管理等功能。

Caffeine和Guava，这两种是性能比较高的本地缓存的框架。他们都提供了缓存的过期、管理等功能。

分布式缓存一般采用Redis、Memcached等分布式缓存框架。

在做多级缓存的方案中，会先查询本地缓存，如果本地缓存查不到，再查询分布式缓存。并且在分布式缓存中查询到之后保存到本地缓存中一份。

有些特殊场景，如黑名单场景，本地缓存也会用bloom filter来充当，因为bloom filter是有假阳性的特性的，所以命中后需要再查一次分布式缓存，如果没命中则直接返回。

简单代码逻辑如下：

public String query(String key) {
    String localResult = localCache.get(key);
    if (localResult == null) {
        String remoteResult = remoteCache.get(key);
        if (remoteResult != null) {
            localCache.put(remoteResult);
        }
    }
    return localResult;
}

六、如何保证本地缓存的一致性问题？

使用多级缓存，比较大的问题就是一致性如何保证，因为用到了本地缓存，而一个集群中有很多台服务器，每个服务器上面的本地缓存内容都不一样，这就是使用本地缓存最大的劣势。

其实这个问题压根就不合理！！！

因为本地缓存就是通过牺牲一致性来提升效率的，如果他能保证一致性，那么也就没分布式缓存什么事儿了。

虽然我们可以用一定的手段在一定程度上解决，但是我要强调的是，很多方案你做了之后，本地缓存自身的优势可能也就没了。

所以，如果有一致性要求，那么就不要用本地缓存！！！

全真王重阳

关注

16
点赞
踩
6

收藏

觉得还不错? 一键收藏
打赏
0
评论
【全网最新最全】一篇文章带你了解“本地缓存”

近端缓存（Edge Cache）通常是指位于网络边缘、离用户更近的位置的缓存。它可以用于在网络上尽可能快地向用户提供内容，减少用户请求的响应时间和带宽占用。离用户更近的位置，那么首先能想到的就是CDN，其实它就是一种使用近端缓存的技术，它将内容存储在分布在全球各地的缓存服务器上，以提供更快速和可靠的内容传输服务。除了CDN以外，应用服务器相比于分布式缓存，离用户也更近一些。所以和应用服务器部署在一起的缓存有时候可以叫做是近端缓存。比如我们前面提到的本地缓存，他也是近端缓存的一种。
复制链接

扫一扫