今天文章内容来自一位朋友出去面试碰到的问题:
「了解 Dubbo 服务预热过程吗?详细聊聊它的原理。」
这个问题朋友没有很好答出来,因为之前也没了解过。说实话一开始我只是大概知道这块预热的代码位于何处,但是原理什么的还是没有仔细去了解。
所以这次仔细去看了下代码,查了一些 Github 这块代码提交记录,终于搞明白这块的原理,跟大家一起分享下。
预热
首先我们来看下什么是服务预热?
先举一个生活的中的例子,买过新车的同学应该知道新车都有一个磨合期的,大概开个一两千公里之后,才能达到最佳的状态。
其实服务预热也是这个意思,服务刚启动的时候将存在一段「磨合期」,这段期间服务运行状态没有达到最佳,如果一下子将服务流量提升到平常的状态,可能会存在大量的请求超时或者瞬间将系统压垮。
所以服务刚启动的时候我们要慢慢增加的流量,直到一段时间后增加到阈值的上限,给系统一个「预热过程」,让其运行状态到达最佳。
那为什么服务刚启动的时候系统状态没有到达最佳状态?
大概原因其实如下:
Java 应用存在一个类加载的过程,而这个过程是按需加载的。即服务刚启动时候,JVM 只加载了启动过程必需的类。
我们自己所需要的类,直到服务被调用之后才会被真正的加载。
另外对于一些「热点代码」,JVM 将会使用 JIT 编译器编译成本地代码,提高运行速度。
上面两个过程是出于 JVM 系统层面的影响。
除此之外,我们服务系统中可能会需要一些缓存资源。刚启动的时候,由于资源不存在,服务需要去加载这些资源。
Dubbo 预热实现方式
好了,了解完预热是咋回事后,我们回到正题,来看下 Dubbo 是如何实现预热的。
首先我们来看下 Dubbo 服务模型:
服务提供者启动之后将会把节点相关信息注册到注册中心,服务消费者通过注册中心就可以及时获取所有的服务节点。
当服务消费者调用服务时,内部将会通过负载均衡组件选择一个节点,进行服务调用。
如上图所示,假设 B 节点服务刚启动,其需要一个预热过程,这就需要服务消费者逐渐将流量分发给 B 节点。<