目录
一,Ribbon简介
Spring Cloud NetFlix Ribbon是一个基于HTTP和TCP的客户端负载均衡器。它提供的最重要的功能就是负载均衡,它的负载均衡是基于客户端的,主要功能是提供客户端的软件负载均衡算法和服务调用。
Spring Cloud Ribbon只是一个工具类框架(只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址),基于Netflix Ribbon实现;它不像服务注册中心、配置中心、API网关那样需要独立部署;
几乎存在于每一个Spring Cloud构建的微服务和基础设施中,微服务间的调用、API网关的请求转发等内容实际上都是通过Ribbon来实现的,包括Feign也是基于Ribbon实现的工具。
两种主流的负载均衡方案:
- 集中式负载均衡:在消费者和服务提供者的中间使用独立的代理方式进行负载,由中间工具确定请求哪台服务器,硬件转发、Nginx负载均衡;
- 客户端负载均衡:客户端根据自己的请求情况做负载均衡,由客户端直接确定请求哪一台服务器,Ribbon。
客户端负载均衡和服务端负载均衡最大的不同点:服务清单所存储的位置:
- 在客户端负载均衡中,所有客户端节点都维护着自己要访问的服务端清单,而这些服务端端清单来自于服务注册中心;在调用微服务接口时候,会在注册中心上获取注册信息服务列表之后缓存到本地,从而在本地实现RPC远程服务调用技术。
- 服务器负载均衡,比如Nginx,客户端所有请求都会交给nginx,然后由nginx实现转发请求。即负载均衡是由服务端实现的。
Ribbon客户端组件提供一系列的完善的配置,如超时,重试等。通过Load Balancer获取到服务提供的所有机器实例,Ribbon会自动基于某种规则(轮询,随机)去调用这些服务。Ribbon也可以实现自定义负载均衡算法。
- 客户端的负载均衡工具,在客户端进行配置
- 在客户端通过负载均衡算法进行分配
- Ribbon可自定义负载均衡算法
执行流程:
- 启动服务消费者和服务提供者时,服务将自身注册到Nacos服务注册中心;
- 服务消费者获取服务地址列表;
- 在发送请求前,通过负载均衡算法选择一个服务提供者的地址;
客户端会有一个服务器地址列表,在发送请求前通过负载均衡算法选择一个服务器,然后进行访问。
使用流程:
- 服务提供者只要启动多个服务实例并注册到注册中心;
- 服务消费者直接通过调用被@LoadBalanced注解修饰的RestTemplate实现面向服务的接口调用。
- RestTemplate对象会使用Ribbon的自动化配置,同时通过配置@LoadBalanced还能够开启客户端负载均衡。
- 微服务间的调用、API网关的请求转发等内容实际上都是通过Ribbon来实现的,包括openFeign也是基于Ribbon实现的工具,而在使用时往往在代码中(不自定义配置的情况下)看不到Ribbon的存在。
Spring Cloud官方自己提供的客户端负载均衡器:Spring Cloud LoadBalancer, 用来替代Ribbon。但是据说没有Ribbon功能强大,所以即使Ribbon停止维护了用户更多选择Ribbon。
总之,Ribbon做了负载均衡+RestTemplate调用!
二、Nacos中使用Ribbon
1,服务提供者:提供多个相同的服务提供者 ![](https://i-blog.csdnimg.cn/blog_migrate/038819f157564e99a826f69404a953de.png)
点开详情:
2,服务消费者:Nacos中已经依赖了Ribbon
3,服务消费者:添加@LoadBalanced注解
4,服务消费者:调用服务提供者提供的服务
5,浏览器测试
三,配置负载均衡策略
1,配置类
①编写配置文件
@Configuration
public class RibbonConfig {
@Bean
public IRule iRule(){
return new RandomRule(); //这里配置负载均衡策略
}
}
注意:
注意: 不能在@SpringbootApplication注解的@CompentScan能扫描到的地方写Ribbon的配置,否则自定义的配置类就会被所有的@RibbonClients共享(全局生效),不建议这么使用。
② 使用@RibbonClient指定微服务的负载均衡策略
//指定多个微服务的多个负载均衡策略
@RibbonClients(value = {
@RibbonClient(name="stock-service",configuration = RibbonConfig.class)
},defaultConfiguration = RibbonConfig.class)
//单配置
//@RibbonClient(name="stock-service",configuration = RibbonConfig.class)
//配置其他微服务默认采用的策略
@RibbonClients(defaultConfiguration = RibbonConfig.class)
@SpringBootApplication
public class OrderApplication {
public static void main(String[] args) {
SpringApplication.run(OrderApplication.class,args);
}
}
注意:服务名是配置的被调用的服务提供者的服务名。
2,配置文件配置
在服务消费者的application.yml配置文件中,指定调用指定服务提供者所需的负载均衡策略:
3,负载均衡策略
策略 | 策略名 | 描述 | 实现说明 |
ZoneAvoidanceRule (默认)
| 区域权重策略 | 复合判断server所在区域的性能和server的可用性选择server | 使用ZoneAvoidancePredicate和AvailabilityPredicate来判断是否选择某个server,前一个判断判定一个zone的运行性能是否可用,剔除不可用的zone(的所有server),AvailabilityPredicate用于过滤掉连接数过多的Server。 |
RandomRule
| 随机策略 | 随机选择一个s服务实例 | 在index上随机,选择index对应位置的server |
RoundRobinRule
| 轮询策略 | roundRobin方式轮询选择server | 轮询index,选择index对应位置的server |
RetryRule
| 重试策略 | 对选定的负载均衡策略机上重试机制。 | 在一个配置时间段内当选择server不成功,则一直尝试使用subRule的方式选择一个可用的server |
WeightedResponseTimeRule
| 响应时间加权重策略 | 根据响应时间分配一个weight,响应时间越长,weight越小,被选中的可能性越低。 | 一个后台线程定期的从status里面读取评价响应时间,为每个server计算一个weight。Weight的计算也比较简单responsetime 减去每个server自己平均的responsetime是server的权重。当刚开始运行,没有形成status时,使用roubine策略选择server。 |
AvailabilityFilteringRule | 可用过滤策略 | 过滤掉那些因为一直连接失败的被标记为circuit tripped的后端server,并过滤掉那些高并发的的后端server(active connections 超过配置的阈值) | 使用一个AvailabilityPredicate来包含过滤server的逻辑,其实就就是检查status里记录的各个server的运行状态 |
BestAvailableRule
| 最低并发策略 | 选择一个最小的并发请求的server | 逐个考察Server,如果Server被tripped了,则忽略,在选择其中ActiveRequestsCount最小的server |