Ribbon 客户端负载均衡

SpringCloud 2018

GitHub



1-Ribbon 概述

官网:https://github.com/Netflix/ribbon/wiki/Getting-Started

1.1-是什么

SpringCloud Ribbon 是基于 Netflix Ribbon 实现的一套客户端负载均衡的工具。

简单的说 Ribbon 是 Netflix 发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将 Netflix 的中间层服务连接在一起。Ribbon 客户端组件提供一系列完善的配置项如连接超时,重试等。

简单的说就是在配置文件中列出 Load Balancer(简称 LB)后面所有的机器,Ribbon 会自动的帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。我们也很容易使用 Ribbon 实现自定义的负载均衡算法。

1.1-能干嘛

LB 即负载均衡(Load Balance),在微服务或分布式集群中经常用的一种应用。负载均衡简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的 HA

常见的负载均衡有软件 Nginx、LVS、硬件 F5 等。

相应的在中间件,例如:Dubbo 和 SpringCloud 中均给我们提供了负载均衡,SpringCloud 的负载均衡算法可以自定义。

  • 集中式 LB

    即在服务的消费方和提供方之间使用独立的 LB 设施(可以是硬件,如 F5;也可以是软件,如 Nginx),由该设施负责把访问请求通过某种策略转发至服务的提供方。

  • 进程内 LB

    将 LB 逻辑集成到消费方,消费方从服务注册中心获知有哪些地址可用,然后自己再从这些地址中选择出一个合适的服务器。Ribbon 就属于进程内 LB,它只是一个类库,集成于消费方进程,消费方通过它来获取到服务提供方的地址。


2-Ribbon 集成 Eureka

2.1-配置示例

a、修改子模块 microservicecloud-consumer-dept-80 中 pom.xml
在这里插入图片描述

<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
  xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
  <modelVersion>4.0.0</modelVersion>
 
  <parent>
   <groupId>com.atguigu.springcloud</groupId>
   <artifactId>microservicecloud</artifactId>
   <version>1.0-SNAPSHOT</version>
  </parent>
 
  <artifactId>microservicecloud-consumer-dept-80</artifactId>
 
  <dependencies>
   <dependency><!-- 自己定义的api -->
     <groupId>com.atguigu.springcloud</groupId>
     <artifactId>microservicecloud-api</artifactId>
     <version>${project.version}</version>
   </dependency>
   <dependency>
     <groupId>org.springframework.boot</groupId>
     <artifactId>spring-boot-starter-web</artifactId>
   </dependency>
   <!-- 修改后立即生效,热部署 -->
   <dependency>
     <groupId>org.springframework</groupId>
     <artifactId>springloaded</artifactId>
   </dependency>
   <dependency>
     <groupId>org.springframework.boot</groupId>
     <artifactId>spring-boot-devtools</artifactId>
   </dependency>
   <!-- Ribbon相关 -->
   <dependency>
     <groupId>org.springframework.cloud</groupId>
     <artifactId>spring-cloud-starter-eureka</artifactId>
   </dependency>
   <dependency>
     <groupId>org.springframework.cloud</groupId>
     <artifactId>spring-cloud-starter-ribbon</artifactId>
   </dependency>
   <dependency>
     <groupId>org.springframework.cloud</groupId>
     <artifactId>spring-cloud-starter-config</artifactId>
   </dependency>
  </dependencies>
</project>

b、修改子模块 microservicecloud-consumer-dept-80,目录 /src/main/resources 中 application.yml
在这里插入图片描述

server:
  port: 80
 
eureka:
  client:
    register-with-eureka: false
    service-url: 
      defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/

c、修改子模块 microservicecloud-consumer-dept-80,包 com.atguigu.springcloud.cfgbeans 中 ConfigBean.java
在这里插入图片描述

package com.atguigu.springcloud.cfgbeans;

import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.web.client.RestTemplate;

@Configuration
public class ConfigBean {
    @Bean
    @LoadBalanced // 将 RestTemplate 标记为使用 RibbonLoadBalancerClient 作为负载均衡模版。
    public RestTemplate getRestTemplate() {
        return new RestTemplate();
    }
}

d、修改子模块 microservicecloud-consumer-dept-80,包 com.atguigu.springcloud 中启动类 DeptConsumer80_App.java
在这里插入图片描述

package com.atguigu.springcloud;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.netflix.eureka.EnableEurekaClient;

@SpringBootApplication
@EnableEurekaClient
public class DeptConsumer80_App {
    public static void main(String[] args) {
        SpringApplication.run(DeptConsumer80_App.class, args);
    }
}

e、修改子模块 microservicecloud-consumer-dept-80,包 com.atguigu.springcloud.controller 中 DeptController_Consumer.java
在这里插入图片描述

package com.atguigu.springcloud.controller;

import com.atguigu.springcloud.entities.Dept;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;

import java.util.List;

@RestController
public class DeptController_Consumer {
    //private static final String REST_URL_PREFIX = "http://localhost:8001";
    private static final String REST_URL_PREFIX = "http://MICROSERVICECLOUD-DEPT";

    @Autowired
    private RestTemplate restTemplate;

    @RequestMapping(value = "/consumer/dept/add")
    public boolean add(Dept dept) {
        return restTemplate.postForObject(REST_URL_PREFIX + "/dept/add", dept, Boolean.class);
    }

    @RequestMapping(value = "/consumer/dept/get/{id}")
    public Dept get(@PathVariable("id") Long id) {
        return restTemplate.getForObject(REST_URL_PREFIX + "/dept/get/" + id, Dept.class);
    }

    @SuppressWarnings("unchecked")
    @RequestMapping(value = "/consumer/dept/list")
    public List<Dept> list() {
        return restTemplate.getForObject(REST_URL_PREFIX + "/dept/list", List.class);
    }

    // 测试 @EnableDiscoveryClient 消费端可以调用服务发现
    @RequestMapping(value = "/consumer/dept/discovery")
    public Object discovery() {
        return restTemplate.getForObject(REST_URL_PREFIX + "/dept/discovery", Object.class);
    }
}

f、测试 Ribbon 集成 Eureka

2.2-配置总结

Ribbon 和 Eureka 整合后 Consumer 可以直接调用服务名称而不用再关心具体地址和端口号。
在这里插入图片描述


3-Ribbon 负载均衡

3.1-架构说明

在这里插入图片描述
Ribbon 工作时分成两步

  • 先选择 Eureka Server,它优先选择在同一个区域内负载较少的 Server。

  • 再根据用户指定的策略,再从 Server 取到的服务注册列表中选择一个地址。

其中 Ribbon 提供了多种策略:比如轮询、随机和根据响应时间加权。

3.2-配置示例

a、右击父工程 microservicecloud,新建子模块 microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003
在这里插入图片描述
在这里插入图片描述
b、新建 jdbc:mysql://localhost:3306/cloudDB02 数据库

子模块 microservicecloud-provider-dept-8002 连接 jdbc:mysql://localhost:3306/cloudDB02 数据库。

DROP DATABASE IF EXISTS cloudDB02;

CREATE DATABASE cloudDB02 CHARACTER SET UTF8;

USE cloudDB02;

CREATE TABLE dept (
	deptno BIGINT NOT NULL PRIMARY KEY AUTO_INCREMENT,
	dname VARCHAR(60),
	db_source VARCHAR(60)
);

INSERT INTO dept(dname,db_source) VALUES('开发部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('人事部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('财务部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('市场部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('运维部',DATABASE());

SELECT * FROM dept;

c、新建 jdbc:mysql://localhost:3306/cloudDB03 数据库

子模块 microservicecloud-provider-dept-8003 连接 jdbc:mysql://localhost:3306/cloudDB03 数据库。

DROP DATABASE IF EXISTS cloudDB03;

CREATE DATABASE cloudDB03 CHARACTER SET UTF8;

USE cloudDB03;

CREATE TABLE dept (
	deptno BIGINT NOT NULL PRIMARY KEY AUTO_INCREMENT,
	dname VARCHAR(60),
	db_source VARCHAR(60)
);

INSERT INTO dept(dname,db_source) VALUES('开发部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('人事部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('财务部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('市场部',DATABASE());
INSERT INTO dept(dname,db_source) VALUES('运维部',DATABASE());

SELECT * FROM dept;

d、复制子模块 microservicecloud-provider-dept-8001 中 pom.xml 到子模块 microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003

e、修改子模块 microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003 中 pom.xml
在这里插入图片描述
在这里插入图片描述
f、修改子模块 microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003,目录 /src/main/java 中新建包 com.atguigu.springcloud

g、复制子模块 microservicecloud-provider-dept-8001 中包 com.atguigu.springcloud 内容到子模块 microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003 包 com.atguigu.springcloud

h、修改子模块 microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003,包 com.atguigu.springcloud 启动类重命名为 DeptProvider8002_App.java、DeptProvider8003_App.java

i、复制子模块 microservicecloud-provider-dept-8001 中目录 /main/resources 内容到子模块 microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003 目录 /main/resources

j、修改子模块 microservicecloud-provider-dept-8002,目录 /src/main/resources 中 application.yml
在这里插入图片描述

server:
  port: 8002

eureka:
  # 客户端注册进 Eureka 服务列表内
  client:
    service-url:
      defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
  instance:
    # 自定义服务名称信息
    instance-id: microservicecloud-dept8002
    # 访问路径可以显示IP地址
    prefer-ip-address: true

info:
  app.name: atguigu-microservicecloud
  company.name: www.atguigu.com
  build.artifactId: "@project.artifactId@"
  build.version: "@project.version@"

spring:
  application:
    name: microservicecloud-dept
  datasource:
    # 数据源操作类型
    type: com.alibaba.druid.pool.DruidDataSource
    # MySQL 驱动包
    driver-class-name: org.gjt.mm.mysql.Driver
    # 数据库名称
    url: jdbc:mysql://localhost:3306/cloudDB02
    username: root
    password: 123456
    dbcp2:
      # 数据库连接池的最小维持连接数
      min-idle: 5
      # 初始化连接数
      initial-size: 5
      # 最大连接数
      max-total: 5
      # 等待连接获取的最大超时时间
      max-wait-millis: 200

mybatis:
  # Mybatis 配置文件路径
  config-location: classpath:mybatis/mybatis.cfg.xml
  # 所有 Entity 别名类所在包
  type-aliases-package: com.atguigu.springcloud.entities
  mapper-locations:
    # Mapper 映射文件
    - classpath:mybatis/mapper/**/*.xml

k、修改子模块 microservicecloud-provider-dept-8003,目录 /src/main/resources 中 application.yml
在这里插入图片描述

server:
  port: 8003

eureka:
  # 客户端注册进 Eureka 服务列表内
  client:
    service-url:
      defaultZone: http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/
  instance:
    # 自定义服务名称信息
    instance-id: microservicecloud-dept8003
    # 访问路径可以显示IP地址
    prefer-ip-address: true

info:
  app.name: atguigu-microservicecloud
  company.name: www.atguigu.com
  build.artifactId: "@project.artifactId@"
  build.version: "@project.version@"

spring:
  application:
    name: microservicecloud-dept
  datasource:
    # 数据源操作类型
    type: com.alibaba.druid.pool.DruidDataSource
    # MySQL 驱动包
    driver-class-name: org.gjt.mm.mysql.Driver
    # 数据库名称
    url: jdbc:mysql://localhost:3306/cloudDB03
    username: root
    password: 123456
    dbcp2:
      # 数据库连接池的最小维持连接数
      min-idle: 5
      # 初始化连接数
      initial-size: 5
      # 最大连接数
      max-total: 5
      # 等待连接获取的最大超时时间
      max-wait-millis: 200

mybatis:
  # Mybatis 配置文件路径
  config-location: classpath:mybatis/mybatis.cfg.xml
  # 所有 Entity 别名类所在包
  type-aliases-package: com.atguigu.springcloud.entities
  mapper-locations:
    # Mapper 映射文件
    - classpath:mybatis/mapper/**/*.xml

注意

  • 修改服务端口号、数据库连接。

  • 对外暴露的统一的服务实例名。
    在这里插入图片描述

l、测试 Ribbon 负载均衡

3.3-配置总结

Ribbon 其实就是一个软负载均衡的客户端组件,他可以和其他所需请求的客户端结合使用,和 Eureka 结合只是其中的一个实例。


4-Ribbon 核心组件 IRule

IRule:根据特定算法从服务列表中选取一个要访问的服务。

4.1-负载均衡算法

  • RoundRobinRule:轮询

  • RandomRule:随机

  • AvailabilityFilteringRule

    会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,还有并发的连接数量超过阈值的服务,然后对剩余的服务列表按照轮询策略进行访问。

  • WeightedResponseTimeRule

    根据平均响应时间计算所有服务的权重,响应时间越快服务权重越大被选中的概率越高。刚启动时如果统计信息不足,则使用RoundRobinRule 策略,等统计信息足够,会切换到 WeightedResponseTimeRule。

  • RetryRule

    先按照 RoundRobinRule 的策略获取服务,如果获取服务失败则在指定时间内会进行重试,获取可用的服务。

  • BestAvailableRule

    会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务。

  • ZoneAvoidanceRule

    默认规则:复合判断 Server 所在区域的性能和 Server 的可用性选择服务器。


4.2-自定义算法示例

a、修改子模块 microservicecloud-consumer-dept-80,目录 /src/main/java 中新建包 com.atguigu.myrule

官方文档明确给出了警告:这个自定义配置类不能放在 @ComponentScan 所扫描的当前包下以及子包下,否则自定义的配置类就会被所有的 Ribbon 客户端所共享,也就是说达不到特殊化定制的目的了。
在这里插入图片描述
b、修改子模块 microservicecloud-consumer-dept-80,包 com.atguigu.myrule 中新建类 MySelfRule.java

Robbin 自定义规则类

package com.atguigu.myrule;

import com.netflix.loadbalancer.IRule;
import com.netflix.loadbalancer.RandomRule;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class MySelfRule {
    @Bean
    public IRule myRule() {
        return new RandomRule();// Ribbon 默认是轮询,我自定义为随机
    }
}

c、修改子模块 microservicecloud-consumer-dept-80,包 com.atguigu.springcloud 中启动类 DeptConsumer80_App.java
在这里插入图片描述
子模块 microservicecloud-consumer-dept-80 启动类 DeptConsumer80_App.java 添加 @RibbonClient。在启动该微服务的时候就能去加载自定义 Ribbon 配置类,从而使配置生效。

package com.atguigu.springcloud;

import com.atguigu.myrule.MySelfRule;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.netflix.eureka.EnableEurekaClient;
import org.springframework.cloud.netflix.ribbon.RibbonClient;

@SpringBootApplication
@EnableEurekaClient
@RibbonClient(name = "MICROSERVICECLOUD-DEPT", configuration = MySelfRule.class)
public class DeptConsumer80_App {
    public static void main(String[] args) {
        SpringApplication.run(DeptConsumer80_App.class, args);
    }
}

d、测试 Ribbon 自定义算法示例

  • 启动 Eureka 集群(子模块 microservicecloud-eureka-7001、microservicecloud-eureka-7002、microservicecloud-eureka-7003)

  • 启动微服务集群(子模块 microservicecloud-provider-dept-8001、microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003)

  • 启动子模块 microservicecloud-consumer-dept-80

  • http://localhost/consumer/dept/get/1
    在这里插入图片描述
    在这里插入图片描述

4.3-自定义算法定制

算法:依旧轮询策略,但是加上新需求,每个服务器要求被调用 5 次,也即以前是每台机器一次,现在是每台机器 5 次。

a、RandomRule.java 源码解析

https://github.com/Netflix/ribbon/blob/master/ribbon-loadbalancer/src/main/java/com/netflix/loadbalancer/RandomRule.java
在这里插入图片描述
b、修改子模块 microservicecloud-consumer-dept-80,包 com.atguigu.myrule 中新建类 RandomRule_ZY.java

参考源码修改定制 RandomRule_ZY.java

package com.atguigu.myrule;

import com.netflix.client.config.IClientConfig;
import com.netflix.loadbalancer.AbstractLoadBalancerRule;
import com.netflix.loadbalancer.ILoadBalancer;
import com.netflix.loadbalancer.Server;

import java.util.List;

public class RandomRule_ZY extends AbstractLoadBalancerRule {
    private int total = 0;// 总共被调用的次数,目前要求每台被调用 5 次
    private int currentIndex = 0;// 当前提供服务的机器号

    public Server choose(ILoadBalancer lb, Object key) {
        if (lb == null) {
            return null;
        }
        Server server = null;
        while (server == null) {
            if (Thread.interrupted()) {
                return null;
            }
            List<Server> upList = lb.getReachableServers();
            List<Server> allList = lb.getAllServers();

            int serverCount = allList.size();
            if (serverCount == 0) {
                return null;
            }
            //int index = rand.nextInt(serverCount);
            //server = upList.get(index);
            if (total < 5) {
                server = upList.get(currentIndex);
                total++;
            } else {
                total = 0;
                currentIndex++;
                if (currentIndex >= upList.size()) {
                    currentIndex = 0;
                }
            }
            if (server == null) {
                Thread.yield();
                continue;
            }
            if (server.isAlive()) {
                return (server);
            }
            server = null;
            Thread.yield();
        }
        return server;
    }

    @Override
    public Server choose(Object key) {
        return choose(getLoadBalancer(), key);
    }

    @Override
    public void initWithNiwsConfig(IClientConfig clientConfig) {

    }
}

c、修改子模块 microservicecloud-consumer-dept-80,包 com.atguigu.myrule 中 MySelfRule.java
在这里插入图片描述

package com.atguigu.myrule;

import com.netflix.loadbalancer.IRule;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class MySelfRule {
    @Bean
    public IRule myRule() {
        //return new RandomRule();// Ribbon 默认是轮询,我自定义为随机
        return new RandomRule_ZY();// 我自定义为每个机器被访问 5 次
    }
}

d、测试 Ribbon 自定义算法定制

  • 启动 Eureka 集群(子模块 microservicecloud-eureka-7001、microservicecloud-eureka-7002、microservicecloud-eureka-7003)

  • 启动微服务集群(子模块 microservicecloud-provider-dept-8001、microservicecloud-provider-dept-8002、microservicecloud-provider-dept-8003)

  • 启动子模块 microservicecloud-consumer-dept-80

  • http://localhost/consumer/dept/get/1


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值