Spring Cloud 之 负载均衡 Ribbon组件

本节使用Ribbon和RestTemplate来消费服务，并且实现负载均衡。
RestTemplate是Spring Resources中的一个访问RESTFul API接口的网络请求框架。用来消费REST服务。支持常见的Http协议的请求方法。Post、Put、Get、Delete等等。
Ribbon是Netflix公司的一个开源负载均衡组件。可以和RestTemplate结合使用，也可以和Feign(服务之间相互调用接口的方式)结合使用，Feign默认集成了Ribbon。
本实例GitHub地址：https://github.com/MistraR/springCloudApplication

---

1、同个服务启动多个实例

接上篇博客的demo继续操作。Spring Cloud 之 服务注册与发现 Eureka组件
先启动eureka-server服务。然后点击如下图，修改单个服务(修改eureke-client)可以启动多个实例


去掉这个“Single instance only”。
现在eureka-client的配置文件写的端口是“8002”，启动eureka-client，然后修改端口为“8003”再启动一次。访问注册中心可以看见，在注册中心注册了2个实例：

---

2、创建Ribbon模块

新建一个model：ribbon，作为服务消费者，通过RestTemplate远程调用eureka-client(service-hello)服务的API接口“/hi”。
pom.xml(有些依赖在主工程的pom.xml里已经配置了)

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>com.server</groupId>
    <artifactId>ribbon</artifactId>
    <version>0.0.1-SNAPSHOT</version>
    <packaging>jar</packaging>

    <name>ribbon</name>
    <description>Demo project for Spring Boot</description>

    <parent>
        <groupId>com.cloud</groupId>
        <artifactId>test</artifactId>
        <version>1.0-SNAPSHOT</version>
    </parent>

    <properties>
        <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
        <project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding>
        <java.version>1.8</java.version>
        <spring-cloud.version>Finchley.RELEASE</spring-cloud.version>
    </properties>

    <dependencies>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
        </dependency>
    </dependencies>

    <dependencyManagement>
        <dependencies>
            <dependency>
                <groupId>org.springframework.cloud</groupId>
                <artifactId>spring-cloud-dependencies</artifactId>
                <version>${spring-cloud.version}</version>
                <type>pom</type>
                <scope>import</scope>
            </dependency>
        </dependencies>
    </dependencyManagement>

    <build>
        <plugins>
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
            </plugin>
        </plugins>
    </build>
</project>

配置文件application.yml

eureka:
  client:
    serviceUrl:
      defaultZone: http://localhost:7777/eureka/
server:
  port: 8004
spring:
  application:
    name: service-ribbon

在应用主类加上注解和注入RestTemplate：

@SpringBootApplication
//通过@EnableEurekaClient向服务中心注册
@EnableEurekaClient
public class RibbonApplication {

    public static void main(String[] args) {
        SpringApplication.run(RibbonApplication.class, args);
    }

    /**
     * 向程序的ioc注入一个bean: restTemplate;并通过@LoadBalanced注解表明这个restRemplate开启负载均衡的功能。
     */
    @Bean
    @LoadBalanced
    RestTemplate restTemplate(){
        return new RestTemplate();
    }
}

写一个测试类HelloService，通过之前注入ioc容器的restTemplate来消费service-hi服务的“/hi”接口。

@Service
public class HelloService {

    @Autowired
    RestTemplate restTemplate;

    public String helloService(String name) {
        return restTemplate.getForObject("http://SERVICE-HELLO/hi?name=" + name, String.class);
    }
}

controller

@RestController
@RequestMapping("/hello")
public class HelloController {

    @Autowired
    HelloService helloService;

    @RequestMapping(value = "/hi")
    public String hi(@RequestParam String name) {
        return helloService.helloService(name);
    }

}

---

3、测试

启动service-ribbon，在注册中心可以看到服务已注册：

在浏览器多次访问http://localhost:8004/hello/hi?name=mistra，将循环打印

• hi mistra,i am from port:8002
• hi mistra,i am from port:8003

负载均衡器采用轮询的方式轮流请求了eureka-client的两个实例。
负载均衡器的核心类是LoadBalancerClient，LoadBalancerClient从Eureka Client的服务注册列表中获取服务信息，并缓存一份LoadBalancerClient调用choose()方法是根据负载均衡策略选择一个服务实例。

源码

---

4、Ribbon核心解析

负载均衡的核心类是LoadBalancerClient，它可以获取负载均衡服务提供者的信息。LoadBalancerClient的choose(“eureka-client”)方法可以从Eureka Client服务注册列表轮流得到各个eureka-client服务实例的信息。根据负载均衡策略选择一个服务实例。
LoadBalancerClient继承自ServiceInstanceChooser接口，该接口有一个方法根据serviceId获取ServiceInstance，即通过服务名来选择服务实例。
LoadBalancerClient有一个实现类RibbonLoadBalancerClient。最终的负载均衡的处理请求由它来执行。它的choose()方法用于选择具体的服务实例，该方法通过getServcer()方法去获取实例，最终是交给ILoadBalancer类去选择服务实例。ILoadBalancer是一个接口，定义了一系列实现负载均衡的方法。

public interface ILoadBalancer {
    void addServers(List<Server> var1);//添加一个Server集合
    Server chooseServer(Object var1);//根据key去获取Server
    void markServerDown(Server var1);//标记某个服务下线
    List<Server> getReachableServers();//获取可用的Server集合
    List<Server> getAllServers();//获取所有的Server集合
}

ILoadBalancer的子类DynamicServerListLoadBalancer的一个构造方法：

public DynamicServerListLoadBalancer(IClientConfig clientConfig, IRule rule, IPing ping, ServerList<T> serverList, ServerListFilter<T> filter, ServerListUpdater serverListUpdater) {
        super(clientConfig, rule, ping);
        this.isSecure = false;
        this.useTunnel = false;
        this.serverListUpdateInProgress = new AtomicBoolean(false);
        this.updateAction = new UpdateAction() {
            public void doUpdate() {
                DynamicServerListLoadBalancer.this.updateListOfServers();
            }
        };
        this.serverListImpl = serverList;
        this.filter = filter;
        this.serverListUpdater = serverListUpdater;
        if (filter instanceof AbstractServerListFilter) {
            ((AbstractServerListFilter)filter).setLoadBalancerStats(this.getLoadBalancerStats());
        }

        this.restOfInit(clientConfig);
    }

用于配置一系列负载均衡的规则，IRule有7种默认实现类

分别对应7种规则：

• 选择最小请求数
• 轮询
• 随机选择一个server
• 轮询选择server
• 根据轮询的方式重试
• 根据响应时间分配一个比重，weight越低，被选择的可能性越低
• 根据server的zone区域和可用性来轮询选择

IPing用来向server发送ping(每隔10秒发送一次心跳“ping”)，俩判断server是否可用。

Ribbon负载均衡的逻辑就是：通过LoadBanlancerClient来实现的，具体交给ILoadBalancer来处理，ILoadBalancer通过配置IRule，IPing等。在初始化时向Eureka获取服务注册列表信息，并且每隔10秒向EurekaClient发送心跳“ping”，如果服务的可用性或者服务的数量与之前的不一致，则更新或重新拉取服务注册列表，ILoadBalancer根据IPing区判断服务的可用性。ILoadBalancer根据IRule的策略去路由。
RestTemplate加上@LoadBalance注解后能实现负载均衡，主要是维护了一个被@LoanBalance注解的RestTemplate列表，并给列表中的RestTemplate添加了拦截器，在拦截器方法中将远程调度方法交给了Ribbon的负载均衡器LoadBalancerClient去处理，从而达到负载均衡。

本实例GitHub地址：https://github.com/MistraR/springCloudApplication

---