面试官:高并发下重启服务,接口调用老是超时,你有什么解决办法

今天文章内容来自一位朋友出去面试碰到的问题:

「了解 Dubbo 服务预热过程吗?详细聊聊它的原理。」

这个问题朋友没有很好答出来,因为之前也没了解过。说实话一开始我只是大概知道这块预热的代码位于何处,但是原理什么的还是没有仔细去了解。

所以这次仔细去看了下代码,查了一些 Github 这块代码提交记录,终于搞明白这块的原理,跟大家一起分享下。

预热

首先我们来看下什么是服务预热?

先举一个生活的中的例子,买过新车的同学应该知道新车都有一个磨合期的,大概开个一两千公里之后,才能达到最佳的状态。

其实服务预热也是这个意思,服务刚启动的时候将存在一段「磨合期」,这段期间服务运行状态没有达到最佳,如果一下子将服务流量提升到平常的状态,可能会存在大量的请求超时或者瞬间将系统压垮。

面试官:高并发下重启服务,接口调用老是超时,你有什么解决办法

所以服务刚启动的时候我们要慢慢增加的流量,直到一段时间后增加到阈值的上限,给系统一个「预热过程」,让其运行状态到达最佳。

面试官:高并发下重启服务,接口调用老是超时,你有什么解决办法

那为什么服务刚启动的时候系统状态没有到达最佳状态?

大概原因其实如下:

Java 应用存在一个类加载的过程,而这个过程是按需加载的。即服务刚启动时候,JVM 只加载了启动过程必需的类。

我们自己所需要的类,直到服务被调用之后才会被真正的加载。

另外对于一些「热点代码」,JVM 将会使用 JIT 编译器编译成本地代码,提高运行速度。

上面两个过程是出于 JVM 系统层面的影响。

除此之外,我们服务系统中可能会需要一些缓存资源。刚启动的时候,由于资源不存在,服务需要去加载这些资源。

Dubbo 预热实现方式

好了,了解完预热是咋回事后,我们回到正题,来看下 Dubbo 是如何实现预热的。

首先我们来看下 Dubbo 服务模型:

面试官:高并发下重启服务,接口调用老是超时,你有什么解决办法

服务提供者启动之后将会把节点相关信息注册到注册中心,服务消费者通过注册中心就可以及时获取所有的服务节点。

当服务消费者调用服务时,内部将会通过负载均衡组件选择一个节点,进行服务调用。

如上图所示,假设 B 节点服务刚启动,其需要一个预热过程,这就需要服务消费者逐渐将流量分发给 B 节点。<

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值