Ribbon

Ribbon

Spring Cloud Ribbon是一个基于HTTP和TCP的客户端负载均衡工具，它基于Netflix Ribbon实现。通过Spring Cloud的封装，可以让我们轻松地将面向服务的REST模版请求自动转换成客户端负载均衡的服务调用。Spring Cloud Ribbon虽然只是一个工具类框架，它不像服务注册中心、配置中心、API网关那样需要独立部署，但是它几乎存在于每一个Spring Cloud构建的微服务和基础设施中。

LB(Load Balance) 负载均衡

简单的说负载均衡就是将用户的请求平摊的分配到多个服务上，从而达到系统的HA（高可用），负载均衡在系统架构中是一个非常重要，并且是不得不去实施的内容。因为负载均衡是对系统的高可用、网络压力的缓解和处理能力扩容的重要手段之一。我们通常所说的负载均衡都指的是服务端负载均衡，其中分为硬件负载均衡和软件负载均衡。常见的负载均衡软件有 Nginx，LVS，硬件 F5 等。

Ribbon & Nginx

Ribbon 是本地负载均衡，在调用微服务接口时候，会在注册中心上获取注册信息服务列表之后缓存到 JVM 本地，从而实现本地 RPC 远程服务调用技术。Nginx 是服务端负载均衡，客户端所有请求都会交给 Nginx，然后由 Nginx 实现转发请求，负载均衡是由服务端实现的。

集中式LB：即在服务的消费方和提供方之间独立的 LB 设施，由该设施负责把访问请求通过某种策略转发至服务的提供方。

进程内LB：将LB逻辑集成到消费方，消费方从服务注册中心获知有哪些地址可用，然后自己再从这些地址中选择出一个合适的服务器。

客户端负载均衡和服务端负载均衡最大的不同点在于上面所提到服务清单所存储的位置。在客户端负载均衡中，所有客户端节点都维护着自己要访问的服务端清单，而这些服务端端清单来自于服务注册中心。

Ribbon工作流程

1. 在集群环境下，选择在同一个区域内负载较少的注册中心。

2. 根据用户指定的策略，从注册中心获取服务注册列表，选择一个服务进行远程调用。

   其中 Ribbon 提供多种策略：轮询、随机、更具响应时间加权等。

使用

依赖坐标

<!-- ribbon -->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
</dependency>

如果使用的是 Erueka 注册中心，则自带 Ribbon 不需要自行引入

<!-- eureka client -->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>

均衡负载 + RestTemplate 调用

@Configuration
public class ApplicationContextConfig {

    @Bean
    @LoadBalanced
    public RestTemplate getRestTemplate() {
        return new RestTemplate();
    }
}

核心组件IRule

IRule 接口根据特定算法中从服务列表中选取一个要访问的服务

接口方法：

继承关系

具体实现

• RoundRobinRule：轮询。
• RandomRule：随机。
• RetryRule：先按照RoundRobinRule的策略获取服务，如果获取服务失败则在指定时间内会进行重试。
• WeightedResponseTimeRule：对RoundRobinRule的扩展，响应速度越快的实例选择权重越大，越容易被选择。
• BestAvailableRule：优先过滤由于多次访问故障而处于断路器跳闸状态的服务，然后选择一个并发量最小的服务。
• ZoneAvoidanceRule：默认规则，复合判断 Server 所在区域的性能和 Server 的可用性选择服务器。

规则替换

官方文档警告：自定义配置类不能放在@ComponentScan所扫描的当前包及子包下，否则自定义配置类会被所有的 Ribbon 客户端所共享，达不到特殊化定制的目的了。即不能放在@SpringBootApplication所在包及其子包下。

配置类

@Configuration
public class RibbonRule {

    @Bean
    public IRule myRule() {
        //随机选择规则
        return new RandomRule();
    }
}

启动类

添加@RibbonClient注解告知负载规则

name：访问的服务

configuration：配置类.class

@SpringBootApplication
@EnableEurekaClient
//负载规则
@RibbonClient(name = "PROVIDER-PAYMENT", configuration = RibbonRule.class)
public class OrderApplication80 {

    public static void main(String[] args) {
        SpringApplication.run(OrderApplication80.class, args);
    }
}

负载均衡算法

轮询

公式：rest接口第几次请求数 % 服务器集群数量 = 实际服务器下标位置

每次重启后rest接口计数从1开始

List<ServiceInstance> instances = discoveryClient.getInstances("XXXX-SERVICE");
int index = rest接口第几次请求数 % instances.size();
-------------------------------------------------------------------------------------
instances[0] --- 127.0.0.1:8001
instances[1] --- 127.0.0.1:8002

自定义轮询

在restTemplate配置中须去掉@LoadBalanced注解

@Configuration
public class ApplicationContextConfig {

    @Bean
    //@LoadBalanced
    public RestTemplate getRestTemplate() {
        return new RestTemplate();
    }
}

LoadBalancer接口

package com.study.cloud.lb;

import org.springframework.cloud.client.ServiceInstance;

import java.util.List;

/**
 * @author isharlan.hu@gmail.com
 * @date 2021/4/17 14:52
 * @desc
 */
public interface LoadBalancer {

    /**
     * 传入实例列表，获取按规则返回一个实例
     * @param serviceInstances 实例列表
     * @return 实例
     */
    ServiceInstance instances(List<ServiceInstance> serviceInstances);
}

MyLB

package com.study.cloud.lb;

import lombok.extern.slf4j.Slf4j;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.stereotype.Component;

import java.util.List;
import java.util.concurrent.atomic.AtomicInteger;

/**
 * @author isharlan.hu@gmail.com
 * @date 2021/4/17 14:56
 * @desc
 */
@Component
@Slf4j
public class MyLB implements LoadBalancer{

    private AtomicInteger current = new AtomicInteger(0);

    public final int getAndIncrement() {
        int current;
        int next;
        do {
            current = this.current.get();
            next = current >= Integer.MAX_VALUE ? 0 : current + 1;
        } while (!this.current.compareAndSet(current, next));
        log.info("next: " + next);
        return next;
    }

    @Override
    public ServiceInstance instances(List<ServiceInstance> serviceInstances) {
        int index = getAndIncrement() % serviceInstances.size();
        return serviceInstances.get(index);
    }
}

Controller

@GetMapping("/paymentPort")
public String getPaymentPort() {
    List<ServiceInstance> instances = discoveryClient.getInstances("PROVIDER-PAYMENT");
    if (instances == null || instances.isEmpty()) {
        return null;
    }
    ServiceInstance instance = loadBalancer.instances(instances);
    URI uri = instance.getUri();
    return restTemplate.getForObject(uri + "/payment/port", String.class);
}