负载均衡策略

负载均衡策略

负载均衡的策略都定义在IRule接口中，IRule接口有很多实现类，如下图：

不同规则的含义如下：

内置负载均衡规则类	规则描述
RoundRobinRule	简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。
AvailabilityFilteringRule	对以下两种服务器进行忽略：（1）在默认情况下，这台服务器如果3次连接失败，这台服务器就会被设置为“短路”状态。短路状态将持续30秒，如果再次连接失败，短路的持续时间就会几何级地增加。（2）并发数过高的服务器。如果一个服务器的并发连接数过高，配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限，可以由客户端的..ActiveConnectionsLimit属性进行配置。
WeightedResponseTimeRule	为每一个服务器赋予一个权重值。服务器响应时间越长，这个服务器的权重就越小。这个规则会随机选择服务器，这个权重值会影响服务器的选择。
ZoneAvoidanceRule	以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类，这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。
BestAvailableRule	忽略那些短路的服务器，并选择并发数较低的服务器。
RandomRule	随机选择一个可用的服务器。
RetryRule	重试机制的选择逻辑

默认的实现就是ZoneAvoidanceRule，是一种轮询方案。

自定义负载均衡策略

通过定义IRule实现可以修改负载均衡规则，有两种方式：

1. 代码方式：在order-service中的OrderApplication类中，定义一个新的IRule：

@Bean
public IRule randomRule(){
    return new RandomRule();
}

2. 配置文件方式：在order-service的application.yml文件中，添加新的配置也可以修改规则：

userservice: # 给某个微服务配置负载均衡规则，这里是userservice服务
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则 

注意，一般用默认的负载均衡规则，不做修改。

修改Ribbon加载方式

Ribbon的懒加载和饥饿加载：

懒加载：只有在首次进行服务调用时，才去获取服务实例列表。优点是减少应用启动时的时间和资源消耗，但首次服务调用可能会因为获取实例列表而有一定的延迟。

饥饿加载：在应用启动时，就立即获取并加载所有可用的服务实例列表。优点是应用启动后可以立即使用完整的服务实例列表，避免在首次请求时才去获取导致的延迟，但可能会在应用启动时增加一些时间开销，特别是服务实例数量较多的情况下。

Ribbon默认是采用懒加载，即第一次访问时才会去创建，请求时间会很长。可以通过如下配置来开启饥饿加载，降低第一次访问的耗时：

ribbon:
  eager-load:
    enabled: true
    clients: userservice