前言
首先要了解Feign是如何进行远程调用的,这里面包括,注册中心、负载均衡、FeignClient之间的关系,微服务通过不论是eureka、nacos也好注册到服务端,Feign是靠Ribbon做负载的,而Ribbon需要拿到注册中心的服务列表,将服务进行负载缓存到本地,然后FeignClient客户端在进行调用,大概就是这么一个过程。
Ribbon是如何进行负载的
首先我们要清楚Ribbon是如何进行负载的,也就是如何获取nacos、eureka的服务列表,这个很关键。
RibbonClientConfiguration
RibbonClientConfiguration
类中通过LoadBalancer
,我们知道ribbon是靠LoadBalancer做负载的
无非就是ILoadBalancer
接口的方法,依次是添加新的服务、在负载均衡里选择一个服务、markServerDown
服务下线、获取服务列表、获取存活的服务器、获取所有服务器(包括健康和不健康的)
ZoneAwareLoadBalancer
loadBalancer
默认的是ZoneAwareLoadBalancer
负载均衡器,通过继承父类DynamicServerListLoadBalancer
的restOfInit
方法,里面比较重要的两个方法,enableAndInitLearnNewServersFeature
和updateListOfServers
方法
enableAndInitLearnNewServersFeature
方法里面
LOGGER.info("Using serverListUpdater {}", serverListUpdater.getClass().getSimpleName());
serverListUpdater.start(updateAction);
让我们看ServerListUpdater.start
方法的实现,通过自定义线程去拿,这就是获取服务列表;
Ribbon负载均衡策略
服务列表获取说了,当然负载均衡的策略这块也有必要讲一下,主要有七种:
RoundRobinRule
(轮询策略,按照服务顺序依次循环调用)WeightedResponseTimeRule
(权重比策略,优先选择权重比高的服务,也就是服务响应时间比较短的,响应时间越长权重比越低)RandomRule
(随机策略,服务提供者列表随机选择一个服务)BestAvailableRule
(最小连接数策略,获取服务列表中连接数最小的服务实例)RetryRule
(重试策略,重试获取已经失效的服务,指定时间没有获取到返回NULL)AvailabilityFilteringRule
(可用性敏感策略,过滤非健康服务实例,选择lianji)ZoneAvoidanceRule
(区域敏感策略)
关于自定义负载均衡策略,可以看:
“https://juejin.cn/post/7155754618486521869
Ribbon-eager-load(饥饿加载)模式
Ribbon对于负载Client是在服务启动后,发生调用的时候才会去创建Client,所以在第一次发生http请求调用的时候,不光要算上http的请求时间,还要算上Client的创建时间,所以第一次调用的时候才会很慢,写个方法调用下;
System 服务调用System2服务
@GetMapping("/requestSystem2Api")
public String requestSystem2Api(){
long startTime = System.currentTimeMillis();
R<String> stringR = iTestServiceClient.testRequestMethod();
if (null !=stringR){
log.info("接口返回:"+stringR.getMsg());
}
long needTime = System.currentTimeMillis() - startTime;
log.info("接口调用需要的时间:"+needTime);
return "";
}
从调用日志可以看出,第一次调用System2服务,Ribbon的DynamicServerListLoadBalancer
会将feign客户端进行负载,然后进行调用,第一次调用的时间就是会长一些,第二次调用直接进行请求可以看到调用时间很快。
开启Ribbon饥饿加载
ribbon:
nacos:
enabled: true # 开启naocos轮询
eager-load:
enabled: true # 开启Ribbon的饥饿加载模式(防止第一次请求超时的问题)
clients: Lxlxxx-system2 # 指定需要开启的服务(需要开启Ribbon的饥饿加载模式)
ReadTimeout: 10000
ConnectTimeout: 10000
MaxAutoRetries: 0
MaxAutoRetriesNextServer: 1
OkToRetryOnAllOperations: false
在项目启动的时候,可以从日志看到,已经把Lxlxxx-system2
服务进行加载,从而避免了第一次请求超时的情况;
总结
其实这种饥饿加载模式,类似于“客户端负载预热”的一个操作,项目启动的时候进行加载,防止服务之间调用可以因为数据量、业务逻辑处理复杂性导致接口超时,如果你的服务之间调用业务处理比较复杂、且慢,不妨可以试试这种解决方式。
来源|juejin.cn/post/7249624466150408250
推荐全新学习项目
全新基于springboot+vue+vant的前后端分离的微商城项目,包括手机端微商城项目和后台管理系统,整个电商购物流程已经能流畅支持,涵盖商品浏览、搜索、商品评论、商品规格选择、加入购物车、立即购买、下单、订单支付、后台发货、退货等。功能强大,主流技术栈,非常值得学习。
线上演示:https://www.markerhub.com/vueshop
从文档到视频、接口调试、学习看板等方面,让项目学习更加容易,内容更加沉淀。全套视频教程约35小时,共222期,讲解非常详细细腻。下面详细为大家介绍:
架构与业务
使用主流的技术架构,真正手把手教你从0到1如何搭建项目手脚架、项目架构分析、建表逻辑、业务分析、实现等。涵盖SpringBoot、Mybatis Plus、Jwt、Redis、Lombok、Hutool、Shiro、Elasticsearch、RabbitMq、Docker、Jenkins等技术。
vueshop微商城的整个购物流程已经完善,各个模块的业务都是已经实现,涵盖商品模块、搜索模块、购物车模块、订单模块、退款模块、后台权限模块、业务数据管理模块等
更多详情请查看:
手把手教学,从0开发前后端微商城项目,主流Java技术一网打尽!