在实现微服务的时候经常会遇到一个问题:服务消费方调用服务提供方接口的时候,第一次请求经常会超时,而之后的调用就没有问题了。
造成第一次服务调用出现失败的原因主要是Ribbon进行客户端负载均衡的Client并不是在服务启动的时候就初始化好的,而是在调用的时候才会去创建相应的Client,所以第一次调用的耗时不仅仅包含发送HTTP请求的时间,还包含了创建RibbonClient的时间,这样一来如果创建时间速度较慢,同时设置的超时时间又比较短的话,很容易就会出现上面所描述的现象。
我们可以在服务调用方aservice-rbac,通过如下的配置来解决问题:
ribbon:
eager-load:
enabled: true #开启饥饿加载
clients: aservice-sms #饥饿加载的服务
在启动的时候就会去加载Ribbon Client及被调用服务上下文,从而在实际发送请求的时候就可以直接使用,从而提高第一次服务请求的访问速度。启动时候打印日志如下:
如果不配置饥饿加载,这段日志在第一次发起远程服务调用的时候才会出现。
这里为什么说不能完全解决呢?因为在发布时流量切换的瞬间,流量太大,并不是仅仅ribbon需要初始化,hystrix、web容器线程池等都需要初始化或者扩容,这里也需要耗时,所以这里的饥饿加载仅仅只是做到了发布时减少错误数。
zuul饥饿加载
网关作为对外请求的入口,zuul内部使用Ribbon调用其他服务,Spring Cloud默认在第一次调用时懒加载Ribbon客户端。zuul同样需要维护一个相对的子应用环境的上下文,所以也需要启动时饥饿加载。
zuul:
ribbon:
eager-load:
enabled: true