Spring Cloud Eureka源码分析之三级缓存的设计原理及源码分析

多级缓存的意义

---

这里为什么要设计多级缓存呢？原因很简单，就是当存在大规模的服务注册和更新时，如果只是修改一个ConcurrentHashMap数据，那么势必因为锁的存在导致竞争，影响性能。

而Eureka又是AP模型，只需要满足最终可用就行。所以它在这里用到多级缓存来实现读写分离。注册方法写的时候直接写内存注册表，写完表之后主动失效读写缓存。

获取注册信息接口先从只读缓存取，只读缓存没有再去读写缓存取，读写缓存没有再去内存注册表里取（不只是取，此处较复杂）。并且，读写缓存会更新回写只读缓存

• responseCacheUpdateIntervalMs ： readOnlyCacheMap 缓存更新的定时器时间间隔，默认为30秒

• responseCacheAutoExpirationInSeconds : readWriteCacheMap 缓存过期时间，默认为 180 秒 。

缓存初始化

---

readWriteCacheMap使用的是LoadingCache对象，它是guava中提供的用来实现内存缓存的一个api。创建方式如下

LoadingCache<Long, String> cache = CacheBuilder.newBuilder()

//缓存池大小，在缓存项接近该大小时， Guava开始回收旧的缓存项

.maximumSize(10000)

//设置时间对象没有被读/写访问则对象从内存中删除(在另外的线程里面不定期维护)

.expireAfterAccess(10, TimeUnit.MINUTES)

//移除监听器,缓存项被移除时会触发

.removalListener(new RemovalListener <Long, String>() {

@Override

public void onRemoval(RemovalNotification<Long, String> rn) {

//执行逻辑操作

}

})

.recordStats()//开启Guava Cache的统计功能

.build(new CacheLoader<String, Object>() {

@Override

public Object load(String key) {

//从 SQL或者NoSql 获取对象

}

});//CacheLoader类 实现自动加载

复制代码

其中，CacheLoader是用来实现缓存自动加载的功能，当触发readWriteCacheMap.get(key)方法时，就会回调CacheLoader.load方法，根据key去服务注册信息中去查找实例数据进行缓存

ResponseCacheImpl(EurekaServerConfig serverConfig, ServerCodecs serverCodecs, AbstractInstanceRegistry registry) {

this.serverConfig = serverConfig;

this.serverCodecs = serverCodecs;

this.shouldUseReadOnlyResponseCache = serverConfig.shouldUseReadOnlyResponseCache();

this.registry = registry;

long responseCacheUpdateIntervalMs = serverConfig.getResponseCacheUpdateIntervalMs();

this.readWriteCacheMap =

CacheBuilder.newBuilder().initialCapacity(serverConfig.getInitialCapacityOfResponseCache())

.expireAfterWrite(serverConfig.getResponseCacheAutoExpirationInSeconds(), TimeUnit.SECONDS)

.removalListener(new RemovalListener<Key, Value>() {

@Override

public void onRemoval(RemovalNotification<Key, Value> notification) {

Key removedKey = notification.getKey();

if (removedKey.hasRegions()) {

Key cloneWithNoRegions = removedKey.cloneWithoutRegions();

regionSpecificKeys.remove(cloneWithNoRegions, removedKey);

}

}

})

.build(new CacheLoader<Key, Value>() {

@Override

public Value load(Key key) throws Exception {

if (key.hasRegions()) {

Key cloneWithNoRegions = key.cloneWithoutRegions();

regionSpecificKeys.put(cloneWithNoRegions, key);

}

Value value = generatePayload(key); //注意这里

return value;

}

});

复制代码

而缓存的加载，是基于generatePayload方法完成的，代码如下。

private Value generatePayload(Key key) {

Stopwatch tracer = null;

try {

String payload;

switch (key.getEntityType()) {

case Application:

boolean isRemoteRegionRequested = key.hasRegions();

if (ALL_APPS.equals(key.getName())) {

if (isRemoteRegionRequested) {

tracer = serializeAllAppsWithRemoteRegionTimer.start();

payload = getPayLoad(key, registry.getApplicationsFromMultipleRegions(key.getRegions()));

} else {

tracer = serializeAllAppsTimer.start();

payload = getPayLoad(key, registry.getApplications());

}

} else if (ALL_APPS_DELTA.equals(key.getName())) {

if (isRemoteRegionRequested) {

tracer = serializeDeltaAppsWithRemoteRegionTimer.start();

versionDeltaWithRegions.incrementAndGet();

versionDeltaWithRegionsLegacy.incrementAndGet();

payload = getPayLoad(key,

registry.getApplicationDeltasFromMultipleRegions(key.getRegions()));

} else {

tracer = serializeDeltaAppsTimer.start();

versionDelta.incrementAndGet();

versionDeltaLegacy.incrementAndGet();

payload = getPayLoad(key, registry.getApplicationDeltas());

}

} else {

tracer = serializeOneApptimer.start();

payload = getPayLoad(key, registry.getApplication(key.getName()));

}

break;

case VIP:

case SVIP:

tracer = serializeViptimer.start();

payload = getPayLoad(key, getApplicationsForVip(key, registry));

break;

default:

logger.error(“Unidentified entity type: {} found in the cache key.”, key.getEntityType());

payload = “”;

break;

}

return new Value(payload);

} finally {

if (tracer != null) {

tracer.stop();

}

}

}

复制代码

此方法接受一个 Key 类型的参数，返回一个 Value 类型。 其中 Key 中重要的字段有：

• KeyType ，表示payload文本格式，有 JSON 和 XML 两种值。

• EntityType ，表示缓存的类型，有 Application , VIP , SVIP 三种值。

• entityName ，表示缓存的名称，可能是单个应用名，也可能是 ALL_APPS 或 ALL_APPS_DELTA 。

Value 则有一个 String 类型的payload和一个 byte 数组，表示gzip压缩后的字节。

缓存同步

---

在ResponseCacheImpl这个类的构造实现中，初始化了一个定时任务，这个定时任务每个

ResponseCacheImpl(EurekaServerConfig serverConfig, ServerCodecs serverCodecs, AbstractInstanceRegistry registry) {

//省略…

if (shouldUseReadOnlyResponseCache) {

timer.schedule(getCacheUpdateTask(),

new Date(((System.currentTimeMillis() / responseCacheUpdateIntervalMs) * responseCacheUpdateIntervalMs)

• responseCacheUpdateIntervalMs),

responseCacheUpdateIntervalMs);

}

}

复制代码

Java高频面试专题合集解析：

当然在这还有更多整理总结的Java进阶学习笔记和面试题未展示，其中囊括了Dubbo、Redis、Netty、zookeeper、Spring cloud、分布式、高并发等架构资料和完整的Java架构学习进阶导图！

更多Java架构进阶资料展示

-dnazxxAJ-1723551512117)]

当然在这还有更多整理总结的Java进阶学习笔记和面试题未展示，其中囊括了Dubbo、Redis、Netty、zookeeper、Spring cloud、分布式、高并发等架构资料和完整的Java架构学习进阶导图！

[外链图片转存中…(img-rGdrPVyM-1723551512118)]

更多Java架构进阶资料展示

[外链图片转存中…(img-MDuUQ5HS-1723551512118)]

[外链图片转存中…(img-ZJaFHmml-1723551512119)]

[外链图片转存中…(img-27hnCkMP-1723551512119)]