Spring Cloud Eureka源码分析之三级缓存的设计原理及源码分析

本文详细阐述了Eureka服务发现框架如何利用多级缓存(包括readOnlyCacheMap和readWriteCacheMap)实现读写分离,以及Guava的LoadingCache在其中的作用,介绍了缓存的初始化、自动加载机制和响应缓存更新策略。
摘要由CSDN通过智能技术生成

而Eureka又是AP模型,只需要满足最终可用就行。所以它在这里用到多级缓存来实现读写分离。注册方法写的时候直接写内存注册表,写完表之后主动失效读写缓存。

获取注册信息接口先从只读缓存取,只读缓存没有再去读写缓存取,读写缓存没有再去内存注册表里取(不只是取,此处较复杂)。并且,读写缓存会更新回写只读缓存

  • responseCacheUpdateIntervalMs : readOnlyCacheMap 缓存更新的定时器时间间隔,默认为30秒

  • responseCacheAutoExpirationInSeconds : readWriteCacheMap 缓存过期时间,默认为 180 秒 。

缓存初始化


readWriteCacheMap使用的是LoadingCache对象,它是guava中提供的用来实现内存缓存的一个api。创建方式如下

LoadingCache<Long, String> cache = CacheBuilder.newBuilder()

//缓存池大小,在缓存项接近该大小时, Guava开始回收旧的缓存项

.maximumSize(10000)

//设置时间对象没有被读/写访问则对象从内存中删除(在另外的线程里面不定期维护)

.expireAfterAccess(10, TimeUnit.MINUTES)

//移除监听器,缓存项被移除时会触发

.removalListener(new RemovalListener <Long, String>() {

@Override

public void onRemoval(RemovalNotification<Long, String> rn) {

//执行逻辑操作

}

})

.recordStats()//开启Guava Cache的统计功能

.build(new CacheLoader<String, Object>() {

@Override

public Object load(String key) {

//从 SQL或者NoSql 获取对象

}

});//CacheLoader类 实现自动加载

复制代码

其中,CacheLoader是用来实现缓存自动加载的功能,当触发readWriteCacheMap.get(key)方法时,就会回调CacheLoader.load方法,根据key去服务注册信息中去查找实例数据进行缓存

ResponseCacheImpl(EurekaServerConfig serverConfig, ServerCodecs serverCodecs, AbstractInstanceRegistry registry) {

this.serverConfig = serverConfig;

this.serverCodecs = serverCodecs;

this.shouldUseReadOnlyResponseCache = serverConfig.shouldUseReadOnlyResponseCache();

this.registry = registry;

long responseCacheUpdateIntervalMs = serverConfig.getResponseCacheUpdateIntervalMs();

this.readWriteCacheMap =

CacheBuilder.newBuilder().initialCapacity(serverConfig.getInitialCapacityOfResponseCache())

.expireAfterWrite(serverConfig.getResponseCacheAutoExpirationInSeconds(), TimeUnit.SECONDS)

.removalListener(new RemovalListener<Key, Value>() {

@Override

public void onRemoval(RemovalNotification<Key, Value> notification) {

Key removedKey = notification.getKey();

if (removedKey.hasRegions()) {

Key cloneWithNoRegions = removedKey.cloneWithoutRegions();

regionSpecificKeys.remove(cloneWithNoRegions, removedKey);

}

}

})

.build(new CacheLoader<Key, Value>() {

@Override

public Value load(Key key) throws Exception {

if (key.hasRegions()) {

Key cloneWithNoRegions = key.cloneWithoutRegions();

regionSpecificKeys.put(cloneWithNoRegions, key);

}

Value value = generatePayload(key); //注意这里

return value;

}

});

复制代码

而缓存的加载,是基于generatePayload方法完成的,代码如下。

private Value generatePayload(Key key) {

Stopwatch tracer = null;

try {

String payload;

switch (key.getEntityType()) {

case Application:

boolean isRemoteRegionRequested = key.hasRegions();

if (ALL_APPS.equals(key.getName())) {

if (isRemoteRegionRequested) {

tracer = serializeAllAppsWithRemoteRegionTimer.start();

payload = getPayLoad(key, registry.getApplicationsFromMultipleRegions(key.getRegions()));

} else {

tracer = serializeAllAppsTimer.start();

payload = getPayLoad(key, registry.getApplications());

}

} else if (ALL_APPS_DELTA.equals(key.getName())) {

if (isRemoteRegionRequested) {

tracer = serializeDeltaAppsWithRemoteRegionTimer.start();

versionDeltaWithRegions.incrementAndGet();

versionDeltaWithRegionsLegacy.incrementAndGet();

payload = getPayLoad(key,

registry.getApplicationDeltasFromMultipleRegions(key.getRegions()));

} else {

tracer = serializeDeltaAppsTimer.start();

versionDelta.incrementAndGet();

versionDeltaLegacy.incrementAndGet();

payload = getPayLoad(key, registry.getApplicationDeltas());

}

} else {

tracer = serializeOneApptimer.start();

payload = getPayLoad(key, registry.getApplication(key.getName()));

}

break;

case VIP:

case SVIP:

tracer = serializeViptimer.start();

payload = getPayLoad(key, getApplicationsForVip(key, registry));

break;

default:

logger.error(“Unidentified entity type: {} found in the cache key.”, key.getEntityType());

payload = “”;

break;

}

return new Value(payload);

} finally {

if (tracer != null) {

tracer.stop();

}

}

}

复制代码

此方法接受一个 Key 类型的参数,返回一个 Value 类型。 其中 Key 中重要的字段有:

  • KeyType ,表示payload文本格式,有 JSONXML 两种值。

  • EntityType ,表示缓存的类型,有 Application , VIP , SVIP 三种值。

  • entityName ,表示缓存的名称,可能是单个应用名,也可能是 ALL_APPSALL_APPS_DELTA

Value 则有一个 String 类型的payload和一个 byte 数组,表示gzip压缩后的字节。

缓存同步


ResponseCacheImpl这个类的构造实现中,初始化了一个定时任务,这个定时任务每个

ResponseCacheImpl(EurekaServerConfig serverConfig, ServerCodecs serverCodecs, AbstractInstanceRegistry registry) {

//省略…

if (shouldUseReadOnlyResponseCache) {

timer.schedule(getCacheUpdateTask(),

new Date(((System.currentTimeMillis() / responseCacheUpdateIntervalMs) * responseCacheUpdateIntervalMs)

  • responseCacheUpdateIntervalMs),

responseCacheUpdateIntervalMs);

}

}

复制代码

自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数Java工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年Java开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Java开发知识点,真正体系化!

由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且会持续更新!

如果你觉得这些内容对你有帮助,可以扫码获取!!(备注Java获取)

img

最后

每年转战互联网行业的人很多,说白了也是冲着高薪去的,不管你是即将步入这个行业还是想转行,学习是必不可少的。作为一个Java开发,学习成了日常生活的一部分,不学习你就会被这个行业淘汰,这也是这个行业残酷的现实。

如果你对Java感兴趣,想要转行改变自己,那就要趁着机遇行动起来。或许,这份限量版的Java零基础宝典能够对你有所帮助。

《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取!
转战互联网行业的人很多,说白了也是冲着高薪去的,不管你是即将步入这个行业还是想转行,学习是必不可少的。作为一个Java开发,学习成了日常生活的一部分,不学习你就会被这个行业淘汰,这也是这个行业残酷的现实。

如果你对Java感兴趣,想要转行改变自己,那就要趁着机遇行动起来。或许,这份限量版的Java零基础宝典能够对你有所帮助。

[外链图片转存中…(img-b97CCHtj-1713392163714)]

《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取!

  • 9
    点赞
  • 25
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值