Spring Cloud - Ribbon 负载均衡原理、负载策略、懒加载

目录

​编辑

一、Ribbon 负载均衡原理

1.1、前言

1.2、负载均衡的工作流程

二、负载均衡策略

2.1、策略原理

2.2、负载均衡自定义方式

三、Ribbon 加载方式

---

一、Ribbon 负载均衡原理

---

1.1、前言

ps：案例是上一章所讲的 “根据订单id查询订单的同时，把订单所属的用户信息一起返回”  。

上一章我们讲到 order-service（订单服务） 使用 RestTemplate 发送 Http 请求到 user-service（用户服务），同时我们使用 @LoadBalanced 注解增加负载均衡，通过负载均衡算法分配到 user-service 集群，那么中间这个负载均衡到底是什么东西在起作用？负载均衡算法到底是什么？

接下来我们就一起来了解一下吧~

1.2、负载均衡的工作流程

负载均衡的工作流程主要有以下几个过程：

1. 首先 order-service 使用 RestTemplate 发送的请求会被 Ribbon（负载均衡） 所拦截，并对请求的 url 进行解析；
2. 拿到服务名称 userservice（user-service 配置文件中服务命名） ，接着 Ribbon 会通过这个服务名称 userservice 去 eureka-server （服务注册中心）拉去服务的服务列表（要访问的主机ip和端口号）；
3. 最后 Ribbon 会通过负载均衡算法从服务列表中挑选出合适的ip+端口号，接着 Ribbon 会通过修改服务名称 userservice 为挑选出的 ip+端口号 刚刚请求到对应的服务。

Ribbon 底层源码工作流程如下图：

二、负载均衡策略

---

2.1、策略原理

负载均衡的实现主要有三种算法：轮询（默认方式）、随机、权值分配，其中轮询 ZoneAvoidanceRule 也是 @LoadBalanced 注解默认的分配策略，细节上可以分为以下几种：

内置负载均衡规则类	规则描述
RoundRobinRule	简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。
AvailabilityFilteringRule	对以下两种服务器进行忽略：  （1）在默认情况下，这台服务器如果3次连接失败，这台服务器就会被设置为“短路”状态。短路状态将持续30秒，如果再次连接失败，短路的持续时间就会几何级地增加。 （2）并发数过高的服务器。如果一个服务器的并发连接数过高，配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限，可以由客户端的<clientName>.<clientConfigNameSpace>.ActiveConnectionsLimit属性进行配置。
WeightedResponseTimeRule	为每一个服务器赋予一个权重值。服务器响应时间越长，这个服务器的权重就越小。这个规则会随机选择服务器，这个权重值会影响服务器的选择。
ZoneAvoidanceRule（默认）	以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类，这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。
BestAvailableRule	忽略那些短路的服务器，并选择并发数较低的服务器。
RandomRule	随机选择一个可用的服务器。
RetryRule	重试机制的选择逻辑

2.2、负载均衡自定义方式

负载均衡的自定义方式主要有以下两种：

1. 代码实现；
2. 配置文件。

首先，代码方式，就是在 order-service 中的 OrderApplication 类中，定义一个新的 IRule（Ribbon的负载均衡规则是一个叫做IRule的接口来定义的） ，然后加上 @Bean 注解注入到 spring 中，例如我要定义负载均衡算法为随机算法，如下：

Ps：注意 @LoadBalanced 不能缺少！

import com.netflix.loadbalancer.IRule;
import com.netflix.loadbalancer.RandomRule;
import org.mybatis.spring.annotation.MapperScan;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.context.annotation.Bean;
import org.springframework.web.client.RestTemplate;

//@MapperScan 注解的作用相当于在指定包下的所有 mapper 接口上都加上了 @mapper 注解
@MapperScan("cn.itcast.order.mapper")
@SpringBootApplication
public class OrderApplication {

    public static void main(String[] args) {
        SpringApplication.run(OrderApplication.class, args);
    }

    /**
     * 将 RestTemplate 对象注入到 spring 容器中
     * @return
     */
    @Bean
    @LoadBalanced
    public RestTemplate restTemplate() {
        return new RestTemplate();
    }

    //修改负载均衡算法为随机
    @Bean
    public IRule randomRule() {
        return new RandomRule();
    }

}

这种方法是针对与全局服务的，而以下办法为针对某一个微服务有效

另外，还有一种方式，是使用配置文件的方式，在 order-service 的 application.yml 文件中，添加新的配置规则：

userservice:
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule# 负载均衡规则 

三、Ribbon 加载方式

---

Ribbon 默认是采用懒加载的方式，也就是只有第一次访问时才会去创建 LoadBalanceClient，因此第一次请求的时间会很长~

此外，Ribbon 还有一种加载方式——饥饿加载，就是在项目启动时去创建，降低第一次访问的耗时，需要通过下面配置开启饥饿加载：

ribbon:
  eager-load:
    enabled: true # 开启饥饿加载 
    clients: userservice # 指定对userservice这个服务饥饿加载

Ps：但是值得注意的是，项目启动之初本身也是需要很大的系统开销的，某些情景下，我们将 Ribbon 修改为饥饿加载，可能会更大的加重系统的开销，所以一定要根据实际情况进行选择~