官网
概述
Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端 负载均衡的工具。简单的说,Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项如连接超时, 重试等。简单的说,就是在配置文件中列出Load Balancer(简称LB)后面所有的机器,Ribbon会自动的帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。我们也很容易使用Ribbon实现自定义的负载均衡算法;
LB(负载均衡)
LB, 即负载均衡(Load Balance), 在微服务或分布式集群中经常用的一种应用。负载均衡简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA。常见的负载均衡有软件Nginx,LVS,硬件F5等。相应的在中间件,例如: dubbo和SpringCloud中均给我们提供了负载均衡,SpringCloud的负载均衡算法可以自定义。
集中式LB
即在服务的消费方和提供方之间使用独立的LB设施(可以是硬件,如F5,也可以是软件,如nginx), 由该设施负责把访问请求通过某种策略转发至服务的提供方;
进程内LB
将LB逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选择出一个合适的服务器。Ribbon就属于进程内LB,它只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址;
Ribbon配置初步
修改microservicecloud-consumer-dept-80工程
修改pom.xm|文件
<!-- Ribbon -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
<version>2.1.3.RELEASE</version>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
<version>2.1.3.RELEASE</version>
</dependency>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-config</artifactId>
</dependency>
修改application.yml追加eureka的服务注册地址
eureka:
#客户端注册进eureka服务列表内
client:
register-with-eureka: false
service-url:
# 单机:defaultZone: http://localhost:7001/eureka
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
ConfigBean类的getRestTemplate方法加入新注解,获得Rest时加入Ribbon的配置
@LoadBalanced
主启动类DeptConsumer80_App添加新注解
@EnableEurekaClient
修改DeptController_Consumer客户端访问类
private static final String REST_URL_PREFIX = "http://MICROSERVICECLOUD-DEPT";
测试
先启动3个eureka集群(7001,7002,7003)后,再启动microservicecloud-provider-dept-8001(微服务)并注册进eureka
启动microservicecloud-consumer-dept-80(客户端)
http://localhost/consumer/dept/list
结论
Ribbon和Eureka整合后Consumer可以直接调用服务而不用再关心地址和端口号
Ribbon负载均衡
架构说明
Ribbon在工作时分成两步:
第一步先选择EurekaServer,它优先选择在同一个区域内负载较少的server;
第二步再根据用户指定的策略,在从server取到的服务注册列表中选择一个地址;
其中Rilbbon提供了多种策略:比如轮询、随机和根据响应时间加权;
参考microservicecloud-provider-dept-8001, 新建两份,分别命名为8002,8003
pom.xml
<dependencies>
<dependency><!-- 引入自己定义的api通用包,可以使用Dept部门Entity -->
<groupId>com.javax</groupId>
<artifactId>microservicecloud-api</artifactId>
<version>${project.version}</version>
</dependency>
<!-- actuator监控信息完善 -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<!-- 将微服务provider注册进eureka -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
<!--<version>2.1.3.RELEASE</version>-->
</dependency>
<!-- https://mvnrepository.com/artifact/org.springframework.cloud/spring-cloud-starter-config -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-config</artifactId>
<!--<version>2.1.3.RELEASE</version>-->
</dependency>
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
</dependency>
<dependency>
<groupId>mysql</groupId>
<artifactId>mysql-connector-java</artifactId>
</dependency>
<dependency>
<groupId>com.alibaba</groupId>
<artifactId>druid</artifactId>
<version>1.0.31</version>
</dependency>
<dependency>
<groupId>ch.qos.logback</groupId>
<artifactId>logback-core</artifactId>
</dependency>
<dependency>
<groupId>org.mybatis.spring.boot</groupId>
<artifactId>mybatis-spring-boot-starter</artifactId>
</dependency>
<!--<dependency>
<groupId>org.mortbay.jetty</groupId>
<artifactId>spring-boot-statrter-jetty</artifactId>
<version>2.1.0.RELEASE</version>
</dependency>-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
<version>2.1.0.RELEASE</version>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
<version>2.1.0.RELEASE</version>
</dependency>
</dependencies>
新建8002/8003数据库db02/db03,各自微服务分别连各自的数据库
CREATE DATABASE db02;
DROP TABLE IF EXISTS `dept`;
CREATE TABLE `dept` (
`deptno` bigint(20) NOT NULL AUTO_INCREMENT,
`dname` varchar(60) CHARACTER SET utf8mb4 COLLATE utf8mb4_general_ci NULL DEFAULT NULL,
`db_source` varchar(60) CHARACTER SET utf8mb4 COLLATE utf8mb4_general_ci NULL DEFAULT NULL,
PRIMARY KEY (`deptno`) USING BTREE
) ENGINE = InnoDB AUTO_INCREMENT = 6 CHARACTER SET = utf8mb4 COLLATE = utf8mb4_general_ci COMMENT = '部门表' ROW_FORMAT = Dynamic;
INSERT INTO `dept` VALUES (1, '开发部', 'db02');
INSERT INTO `dept` VALUES (2, '人事部', 'db02');
INSERT INTO `dept` VALUES (3, '财务部', 'db02');
INSERT INTO `dept` VALUES (4, '市场部', 'db02');
INSERT INTO `dept` VALUES (5, '运维部', 'db02');
SET FOREIGN_KEY_CHECKS = 1;
application.yml
备注:端口,数据库连接,对外暴露的统一的服务实例名!!!
server:
#8003
port: 8002
mybatis:
# mybatis配置文件所在路径
config-location: classpath:mybatis/mybatis.cfg.xml
#所有Entity别名类所在包
type-aliases-package: com.javax.springcloud.entity
# mapper映射文件
mapper-locations:
- classpath:mybatis/mapper/**/*.xml
spring:
application:
#对外暴露的微服务名字,绝对不能改!!!
name: microservicecloud-dept
datasource:
#当前数据源操作类型
type: com.alibaba.druid.pool.DruidDataSource
# mysq1驱动包 弃用com.mysql.jdbc.Driver
driver-class-name: com.mysql.cj.jdbc.Driver
#数据库名称,db03
url: jdbc:mysql://192.***.**.**:3306/db02?useSSL=false&serverTimezone=UTC&allowPublicKeyRetrieval=true
username: ****
password: ****
dbcp2:
#数据库连接池的最小维持连接数
min-idle: 5
#初始化连接数
initial-size: 5
#最大连接数
max-total: 5
#等待连接获取的最大超时时间
max-wait-millis: 200
eureka:
#客户端注册进eureka服务列表内
client:
service-url:
# 单机:defaultZone: http://localhost:7001/eureka
defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
instance:
#自定义服务名称信息
instance-id: microservicecloud-dept8002
#访问路径可以显示IP地址
prefer-ip-address: true
info:
app.name: springcloud-microservicecloud
#公司名
company.name: springcloud
build.artifactId: $project.artifactId$
build.version: $project.version$
测试
开启7001,7002,7003,8001,8002,8003。http://localhost:8001/dept/list,http://localhost:8002/dept/list,http://localhost:8003/dept/list
结论
总结: Ribbon其实就是一个软负载均衡的客户端组件,他可以和其他所需请求的客户端结合使用,和eureka结合只是其中的一个实例;
Ribbon核心组件lRule
IRule:根据特定算法中从服务列表中选取一个要访问的服务
- RoundRobinRule:轮询(默认)
- RandomRule:随机
- AvailabilityFilteringRule:会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,还有并发的连接数量超过阈值的服务,然后对剩余的服务列表按照轮询策略进行访问;
- WeightedResponseTimeRule:根据平均响应时间计算所有服务的权重,响应时间越快服务权重越大被选中的概率越高。刚启动时如果统计信息不足,则使用RoundRobinRule策略,等统计信息足够,会切换到WeightedResponse TimeRule;
- RetryRule:先按照RoundRobinRule的策略获取服务,如果获取服务失败则在指定时间内会进行重试,获取可用的服务;
- BestAvailableRule:会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务;
- ZoneAvoidanceRule:默认规则,复合判断server所在区域的性能和server的可用性选择服务器;
使用
在microservicecloud-consumer-dept-80的ConfigBean中添加myRule();
@Bean
public IRule myRule(){
return new RandomRule();//随机算法代替默认的轮询
}
Ribbon自定义
修改microservicecloud-consumer-dept-80
在启动该微服务的时候就能去加载我们的自定义Ribbon配置类,从而使配置生效,形如:@RibbonClient(name=“MICROSERVICECLOUD-DEPT”,configuration=MySelfRule.class)
注意配置细节
这个自定义配置类不能放在@ComponentScan(@SpringBootApplication包含)所扫描的当前包下以及子包下(com.javax.springcloud),否则我们自定义的这个配置类就会被所有的Ribbon客户端所共享,也就是说我们达不到特殊化定制的目的了;
步骤
主启动类添加@RibbonClient
@RibbonClient(name="MICROSERVICECLOUD-DEPT",configuration= RandomRule_ZY.class)
新建myrule包和MySelfRule类
package com.javax.myrule;
import com.netflix.loadbalancer.IRule;
import com.netflix.loadbalancer.RandomRule;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class MySelfRule {
@Bean
public IRule myRule(){
return new RandomRule_ZY();//RandomRule_ZY参考RandomRule等源码
}
}
自定义规则解析
解析RandomRule
//
// Source code recreated from a .class file by IntelliJ IDEA
// (powered by Fernflower decompiler)
//
package com.netflix.loadbalancer;
import com.netflix.client.config.IClientConfig;
import edu.umd.cs.findbugs.annotations.SuppressWarnings;
import java.util.List;
import java.util.concurrent.ThreadLocalRandom;
public class RandomRule extends AbstractLoadBalancerRule {
public RandomRule() {
}
@SuppressWarnings({"RCN_REDUNDANT_NULLCHECK_OF_NULL_VALUE"})
public Server choose(ILoadBalancer lb, Object key) {
if (lb == null) {
return null;
} else {
Server server = null;
//线程是否被中断了
while(server == null) {
if (Thread.interrupted()) {
return null;
}
List<Server> upList = lb.getReachableServers();
List<Server> allList = lb.getAllServers();
//allList.size()有多少个server
int serverCount = allList.size();
if (serverCount == 0) {
return null;
}
//获取随机数,java.util.Random().nextInt(serverCount);
int index = this.chooseRandomInt(serverCount);
server = (Server)upList.get(index);
if (server == null) {
Thread.yield();
} else {
if (server.isAlive()) {
return server;
}
server = null;
Thread.yield();
}
}
return server;
}
}
//随机数
protected int chooseRandomInt(int serverCount) {
return ThreadLocalRandom.current().nextInt(serverCount);
}
public Server choose(Object key) {
return this.choose(this.getLoadBalancer(), key);
}
public void initWithNiwsConfig(IClientConfig clientConfig) {
}
}