1、Ribbon
Spring Cloud Ribbon是基于Netflix Ribbon 实现的一套客户端的负载均衡工具,Ribbon客户端组件提供一系列的完善的配置,如超时,重试等。通过LoadBalancer获取到服务提供的所有机器实例,Ribbon会自动基于某种规则(轮询,随机)去调用这些服务。Ribbon也可以实现我们自己的负载均衡算法。
2、常见的负载均衡算法
如果使用的RestTemplate进行服务调用,那么创建RestTemplate的方法上面加@LoadBalanced注解就会开启Ribbon的负载均衡,Ribbon负载均衡有以下7中规则,默认轮询。
-
RoundRobinRule(轮询规则): 最简单的负载均衡策略,按照顺序循环地将请求分发到每个服务实例。每个服务实例依次接收请求,实现基本的公平分配。
-
AvailabilityFilteringRule(可用性过滤规则): 此规则会先从服务列表中过滤掉由于多次访问失败而标记为“短路”的服务实例,以及那些当前并发连接数过高的实例,然后采用轮询的方式选择一个可用的服务实例。它可以有效避免将请求分发到已知有问题的实例上。
-
WeightedResponseTimeRule(加权响应时间规则): 根据每个服务实例的历史响应时间动态调整其权重,响应时间越快的服务实例被选中的概率越高。这种方式可以逐渐将更多流量导向性能更好的服务实例。
-
RandomRule(随机规则): 随机选择一个服务实例来处理请求。虽然简单,但在某些场景下可以减少特定服务实例被连续击中的可能性。
-
BestAvailableRule(最佳可用规则): 选择当前并发请求数最少的服务实例,如果有多个这样的实例,则随机选择一个。这个策略侧重于选择当前负载较低的服务。
-
ZoneAvoidanceRule(区域避免规则): 这个规则不仅考虑实例的可用性,还会考虑网络延迟,倾向于选择同区域中表现最好的服务实例。特别适合部署在多区域环境中的服务,以减少跨区域的网络延迟。
这些规则通过实现
IRule
接口来定义,允许用户根据自己的业务需求选择合适的负载均衡策略。此外,Ribbon 还支持自定义规则,用户可以根据特定场景实现自己的负载均衡逻辑
3、Nacos中使用Rabbion
nacos-discovery已经包含Ribbon的依赖,不需要再单独引入Ribbon
4、Ribbon负载均衡策略
IRule这是所有负载均衡策略的父接口,里边的核心方法就是choose方法,用来选择一个服务实例。
5、创建工程
5.1、依赖配置
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<parent>
<groupId>com.by</groupId>
<artifactId>spring-cloud-alibaba-root</artifactId>
<version>0.0.1-SNAPSHOT</version>
<relativePath> ../pom.xml</relativePath>
</parent>
<artifactId>ribbon</artifactId>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
</dependency>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
<dependency>
<groupId>org.testng</groupId>
<artifactId>testng</artifactId>
<version>RELEASE</version>
<scope>compile</scope>
</dependency>
<dependency>
<groupId>org.springframework</groupId>
<artifactId>spring-beans</artifactId>
</dependency>
</dependencies>
<build>
<plugins>
<plugin>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-maven-plugin</artifactId>
</plugin>
</plugins>
</build>
</project>
5.2、配置信息
spring.application.name=ribbon-app
server.port=9090
spring.cloud.nacos.discovery.server-addr=192.168.11.50:8848
logging.level.root=error
# ribbon 配置
#配置具体某一个服务个性化规则
# nacos-a 服务名
# nacos-a.ribbon.NFLoadBalancerRuleClassName=com.by.rule.Myrule
##配置全局的负载均衡规则 (不生效)
# 服务名 default
default.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RoundRobinRule
#配置是否开启懒加载
ribbon.eager-load.enabled=true
ribbon.eager-load.clients=nacos-a
5.3、使用Rest Template调用服务
package com.by.config;
import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.web.client.RestTemplate;
@Configuration
public class RestTemplateConfig {
@Bean
@LoadBalanced
//http://nacos-a/api/a
//使用LoadBalanced把http请求一级目录作为服务名,然后去注册中心抓取对应的ip+port,替换一级目录,然后去调用对应的接口数据
//支持不支持跨命名空间? 不支持
//支持部支持跨组?不支持
public RestTemplate restTemplate(){
return new RestTemplate();
}
}
5.4、修改默认负载均衡策略(主要分为三种形式:①硬编码形式,②注解形式,③配置形式)
①硬编码形式:
import com.alibaba.cloud.nacos.ribbon.NacosRule;
import com.by.rule.Myrule;
import com.netflix.loadbalancer.IRule;
import com.netflix.loadbalancer.RandomRule;
import com.netflix.loadbalancer.RoundRobinRule;
import org.springframework.cloud.netflix.ribbon.RibbonClient;
import org.springframework.cloud.netflix.ribbon.RibbonClients;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
// 设置全局 负载均衡策略
//@RibbonClients(defaultConfiguration = RandomRule.class)//默认是轮询
// 指定某个服务使用的负载 均衡策略
//@RibbonClient(name = "nacos-a", configuration = Myrule.class)// 指定服务名
public class RibbonConfig {
@Bean
public IRule myRule() {
// 使用随机策略 随机
//return new RandomRule();
// 轮询
//return new RoundRobinRule();
// Nacos
//return new NacosRule();
// 自定义负载均衡器
return new Myrule();
}
}
②注解形式
两个注解选择一个
③配置形式
如果同时应用了以上两种方式去配置负载均衡,注解的优先级更高,则以注解为准.
因为配置文件的加载顺序在注解之前,后加载的配置会覆盖先前配置。
推荐使用配置文件,可以放进nacos,比较灵活。
5.5、自定义均衡策略规则
package com.by.rule;
import com.alibaba.cloud.commons.lang.StringUtils;
import com.alibaba.cloud.nacos.NacosDiscoveryProperties;
import com.alibaba.cloud.nacos.NacosServiceManager;
import com.alibaba.cloud.nacos.ribbon.ExtendBalancer;
import com.alibaba.cloud.nacos.ribbon.NacosRule;
import com.alibaba.cloud.nacos.ribbon.NacosServer;
import com.alibaba.nacos.api.naming.NamingService;
import com.alibaba.nacos.api.naming.pojo.Instance;
import com.netflix.client.config.IClientConfig;
import com.netflix.loadbalancer.AbstractLoadBalancerRule;
import com.netflix.loadbalancer.DynamicServerListLoadBalancer;
import com.netflix.loadbalancer.Server;
import lombok.extern.slf4j.Slf4j;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.util.CollectionUtils;
import java.util.Comparator;
import java.util.List;
import java.util.Objects;
import java.util.concurrent.atomic.AtomicInteger;
import java.util.stream.Collectors;
@Slf4j
public class Myrule extends AbstractLoadBalancerRule {
@Autowired
private NacosDiscoveryProperties nacosDiscoveryProperties;
@Autowired
private NacosServiceManager nacosServiceManager;
//保证多线程下的线程安全,AtomicInteger
private static AtomicInteger count = new AtomicInteger(0);
public Server choose(Object key) {
try {
String clusterName = this.nacosDiscoveryProperties.getClusterName();
String group = this.nacosDiscoveryProperties.getGroup();
DynamicServerListLoadBalancer loadBalancer = (DynamicServerListLoadBalancer)this.getLoadBalancer();
String name = loadBalancer.getName();
NamingService namingService = this.nacosServiceManager.getNamingService(this.nacosDiscoveryProperties.getNacosProperties());
List<Instance> instances = namingService.selectInstances(name, group, true);
if (CollectionUtils.isEmpty(instances)) {
log.warn("no instance in service {}", name);
return null;
}
//自己算法
//最大权重的实例
Instance max = instances.stream().max(Comparator.comparingDouble(Instance::getWeight)).get();
Instance min = instances.stream().min(Comparator.comparingDouble(Instance::getWeight)).get();
//
int i = count.incrementAndGet();
int mod = i % 5;
if (mod==0){
return new NacosServer(min);
}
return new NacosServer(max);
} catch (Exception var10) {
log.warn("NacosRule error", var10);
return null;
}
}
@Override
public void initWithNiwsConfig(IClientConfig iClientConfig) {
}
}
6、测试
6.1、准备工作,注册一个服务,供Ribbon调用。
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<parent>
<groupId>com.by</groupId>
<artifactId>spring-cloud-alibaba-root</artifactId>
<version>0.0.1-SNAPSHOT</version>
<relativePath> ../pom.xml</relativePath>
</parent>
<artifactId>nacos-config-a</artifactId>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<dependency>
<groupId>org.projectlombok</groupId>
<artifactId>lombok</artifactId>
</dependency>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<scope>test</scope>
</dependency>
</dependencies>
<build>
<plugins>
<plugin>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-maven-plugin</artifactId>
</plugin>
</plugins>
</build>
</project>
server.port=8080
#这是Nacos-Discovery的配置, 目的: 项目启动后自动把自己注册到nacos server (ip+port)
# 约定注册的使用使用的名称就是spring.application.name,所以不需要配置name
spring.application.name=nacos-a
#配置服务地址
spring.cloud.nacos.discovery.server-addr=192.168.11.91:8848
#配置命名空间(环境)
spring.cloud.nacos.discovery.namespace=dev
#配置分组
spring.cloud.nacos.discovery.group=DEFAULT_GROUP
@Configuration
public class RestTemplateA {
@Bean
@LoadBalanced
public RestTemplate restTemplate(RestTemplateBuilder builder) {
return builder.build();
}
}
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.cloud.context.config.annotation.RefreshScope;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;
@RestController
@RefreshScope
@Slf4j
public class AController {
@Value("${spring.cloud.nacos.discovery.weight}")
private String weight;
@GetMapping("/api/a")
public String test(){
log.debug("我收到了请求,我的权重是:{}", weight);
return "我是A应用返回的结果,我的权重是" + weight;
}
}
6.2、同时启动上述应用(两个)
如果在打包过程中需要将测试类屏蔽掉(删除测试类),通过cmd启动两次:
java -Dspring.cloud.nacos.discovery.weight=5 -jar nacos-discovery-A-0.0.1-SNAPSHOT.jar --server.port=8080
java -Dspring.cloud.nacos.discovery.weight=1 -jar nacos-discovery-A-0.0.1-SNAPSHOT.jar --server.port=8081
启动完成后就可以测试了:注意需要将这三种形式分开测试 主要分为三种形式:①硬编码形式,②注解形式,③配置形式
其余的一样,测试时你只需保证之开启一种类型即可。