7. 负载均衡——Ribbon

1. 概述

        Spring cloud Ribbon是基于Netflix Ribbon实现的一套客户端（消费者端）负载均衡的工具。
        简单的说，Ribbon是Netflix发布的开源项目，主要功能是提供客户端的软件负载均衡算法和服务调用。Ribbon客户端组件提供一系列完善的配置项如连接超时、重试等。简单的说，就是配置文件中列出LB（Load Balancer）后面所有的机器，Ribbon会自动的帮助你基于某种规则（如简单轮询，随机连接等）去连接这些机器。我们很容易使用Ribbon实现自定义的负载均衡算法。

       一句话，Ribbon就是负载均衡+RestTemplate调用

官网：https://github.com/Netflix/ribbon/wiki/Getting-Started

注意：Ribbon目前进入了维护模式

1.1 负载均衡

        就是将用户的请求平摊的分配到多个服务上，从而达到系统的HA（高可用）。常见的负载均衡有软件Nginx，LVS，硬件F等。

1.2 Ribbon能干什么了？

主要用于负载均衡（LB），分为两种，集中式LB与进程内LB

1.2.1 集中式LB

        即在服务的消费方和提供方之间使用独立的LB设施（可以是硬件，如F5，也可以是软件，如nginx），由该设施负责把访问请求通过某种策略转发至服务的提供方。

1.2.2 进程内LB

        将LB逻辑集成到消费方，消费方从服务注册中心获知有哪些地址可用，然后自己再从这些地址中选择一个合适的服务器。

Ribbon就属于进程内LB，它只是一个类库，集成于消费方进程，消费方通过它来获取到服务提供方的地址。

1.3 Ribbon与Nginx的区别

1）Nginx是服务器负载均衡，客户端所有请求都会交给nginx，然后由nginx实现转发请求。即负载均衡是由服务端实现的。Nginx负载均衡也叫作集中式LB

2）Ribbon本地负载均衡，在调用微服务接口的时候，会在注册中心上获取注册信息服务列表之后，缓存找JVM本地，从而在本地实现RPC远程服务调用技术。也叫作进程内LB

2. Ribbon负载均衡

        Ribbon就是一个软负载均衡的客户端组件，它可以和其他所需请求的客户端结合使用，和eureka结合只是其中的一个实例。

Ribbon在工作的时候，分两步：

1）选择EurekaServer，它优先选择在同一个区域内负载较少的server。

2）再根据用户指定的策略，在从server取到的服务注册列表中选择一个地址。

其中Ribbon提供了多种策略，例如；默认策略轮询、随机和根据响应时间加权策略等。

pom文件

在H版本中，cloud在eureka-client中集成了Ribbon，所以，我们开始的时候，没有引入Ribbon，也可以实现负载均衡。这就是新版的好处。

<!-- 引入eureka客户端依赖 -->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>

依赖关系如图：

当然，我们也可以手动引入ribbon的坐标，坐标如下

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
</dependency>

但是，没那个必要了，因为已经集成了。

3. Ribbon核心组件IRule

IRule根据特定算法中从服务列表中选取一个要访问的服务

3.1 Ribbon自带的7大算法

3.1.1 RoundRobinRule

        轮询算法

3.1.2 RandomRule

        随机算法

3.1.3 AvailabilityFilteringRule

        会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务，还有并发的连接数量超过阈值的服务，然后对剩余的服务列表按照轮询策略进行访问

3.1.4 WeightedResponseTimeRule

        根据平均响应时间计算所有服务的权重，响应时间越快服务权重越大被选中的概率越大。刚启动的时候，如果统计信息不足，则使用RoundRobinRule策略，等统计信息足够，就会切换到WeightedResponseTimeRule

3.1.5 RetryRule

        先按照RoundRobinRule的策略获取服务，如果获取服务失败则在指定时间内进行重试，获取可用的服务。

注意：该算法在服务状态正常的 时候采用的是轮询算法，当正在运行的某个服务出现故障了，如果是轮询算法，会在轮到该服务的时候报错，但是，该算法会跳过去。

例如：现在同时运行着的服务8001、8002、8003，其中8002突然挂掉了，那么如果是轮询算法，当访问8002的时候，会报错，而RetryRule算法会跳过8002直接访问8003。

3.1.6 BestAvailableRule

        会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务，然后选择一个并发量最小的服务

3.1.7 ZoneAvoidanceRule

        默认规则，复合判断server所在区域的性能和server的可用性选择服务器

3.2 更换默认算法

操作步骤：

1）定义配置类目录

注意：自定义配置类不能放在@ComponentScan所扫描的当前包下以及子包下，否则我们自定义的这个配置类就会被所有的Ribbon客户端所共享，达不到特殊化定制的目的了。也就是说配置类必须位于启动类的上级目录。

2）写配置类

将默认算法改成随机算法，

package com.bjc.rule;

import com.netflix.loadbalancer.IRule;
import com.netflix.loadbalancer.RandomRule;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class MyRule {
	@Bean
	public IRule myrule(){
		return new RandomRule();
	}
}

3）在启动类上添加注解@RibbonClient，并指定哪个服务应用哪个算法

测试

启动80，在浏览器访问，如图：

发现，每次访问端口随机出现。

4. Ribbon负载均衡算法（轮询）

4.1 原理

计算公式：rest接口第N次请求数 % 服务器集群总数量 = 实际调用服务器位置下标，每次服务重启后rest接口计数从1开始

什么意思了？以2个集群为例来说明

List<ServiceInstance> instances = discoveryClient.getInstances("CLOUd-PAYMENT-SERCICE"); 

当总请求数为1时候：1 % 2 = 1，则服务器为list.get(1)
当总请求数为2时候：2 % 2 = 0，则服务器为list.get(0)
当总请求数为3时候：3 % 2 = 1，则服务器为list.get(1)
当总请求数为4时候：4 % 2 = 0，则服务器为list.get(0)
当总请求数为5时候：5 % 2 = 1，则服务器为list.get(1)
...

4.2 手写一个轮询算法

操作步骤（针对80订单微服务的改造）：

1）ApplicationContextBean去掉注解@LoadBalanced

2）写一个LoadBalancer接口

package com.bjc.cloud.lb;

import org.springframework.cloud.client.ServiceInstance;

import java.util.List;

public interface LoadBalancer {
	// 得到主机集合
	ServiceInstance instances(List<ServiceInstance> serviceInstances);
}

3）实现类

package com.bjc.cloud.lb;

import org.springframework.cloud.client.ServiceInstance;
import org.springframework.stereotype.Component;

import java.util.List;
import java.util.concurrent.atomic.AtomicInteger;

@Component
public class MyLB implements LoadBalancer{
	// 定义一个原子类，用于表示机器数
	private AtomicInteger atomicInteger = new AtomicInteger(0);

	public final int getAndIncrement(){
		int current ;
		int next ;
		// 采用自旋锁代替lock
		do {
			current = this.atomicInteger.get();
			next = current >= Integer.MAX_VALUE ? 0 : current + 1;
		}while(!this.atomicInteger.compareAndSet(current,next));
		System.out.println("*******************  next = " + next);
		return next;
	}

	public ServiceInstance instances(List<ServiceInstance> serviceInstances) {
		int index = getAndIncrement() % serviceInstances.size();
		return serviceInstances.get(index);
	}
}

4）在80的controller中添加方法

@GetMapping("/consumer/order/lb")
public String getPaymentLB(){
	List<ServiceInstance> instances = client.getInstances("CLOUD-PAYMENT-SERVICE");
	ServiceInstance instance = loadBalancer.instances(instances);
	URI uri = instance.getUri();
	return restTemplate.getForObject(uri + "/payment/lb",String.class);
}

5）访问