SpringCloud系列（四）负载均衡—Ribbon—Feign

负载均衡

什么是负载均衡

负载均衡（ Load Balanoe )，简称LB，是在微服务或分布式集群中经常用的一种应用。

负载均衡简单的说就是将用户的请求平摊的分配到多个服务上，从而达到系统的高可用（简称HA）。

常见的负载均衡软件有nginx , LVS等，还有相应的中间件，比如dubbo 和SpringCloud中均给我们提供了负载均衡。

负载均衡的分类

负载均衡分为 集中式负载均衡 和 进程内负载均衡

Ribbon

Ribbon是什么

SpringCloud Ribbon是基于Netflix Ribbon实现的一套客户端负载均衡的工具。

简单的说，Ribbon是Netflix发布的开源项目，主要功能是提供客户端的软件负载均衡算法，将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项如连接超时，重试等。简单的说，就是在配置文件中列出LoadBalanCer（简称LB）后面所有的机器，Ribbon会自动的帮助你基于某种规则（如简单轮询，随机连接等）去连接这些机器。我们也可以使用Ribbon实现自定义的负载均衡算法。

官方资料：https://github.com/Netflix/ribbon/wiki

使用Ribbon实现负载均衡

本篇代码基于 SpringCloud系列（二）Eureka详解

1、配置Ribbon，开启负载均衡

因为Eureka中已经集成了Ribbon，所以我们无需引入新的依赖

1）修改TemplateConfig文件，添加@LoadBalanced

consumer 项目

@Bean
@LoadBalanced
public RestTemplate restTemplate() {
    return new RestTemplate(new OkHttp3ClientHttpRequestFactory());
}

2）修改调用方式，不再手动获取ip和端口，而是直接通过服务名称调用

consumer 项目 UserController

@RestController
@Scope("prototype")
public class UserController {

    // 暂时使用直接指定的方式，完成远程调用
    private static final String REST_URL_PREFIX = "http://springcloud-producer";

    @Autowired
    private RestTemplate restTemplate;

    @RequestMapping("queryUserList")
    public List queryUserList() {
        return this.restTemplate.getForObject(REST_URL_PREFIX + "/list", List.class);
    }
}

producer项目 UserController

@RestController
@Scope("prototype")
public class UserController {

    @Resource
    private UserService userService;

    @RequestMapping("list")
    public List<User> queryUserList() {
        System.out.println("调用的服务的端口为：8081");
        return userService.queryUserList();
    }
}

只添加了一个打印信息，方便我们进行测试

2、重新构建一个 producer项目

复制原本的 producer 项目，修改配置文件，改一下端口即可

server.port=8082
eureka.instance.instance-id=springcloud-producer-8082

将打印信息也修改一下

System.out.println("调用的服务的端口为：8082");

3、开启项目，进行测试

访问：http://localhost:8888/

访问：http://localhost:8080/queryUserList

可以正确得到结果

调用8次接口：

可以看出来正是轮询算法，即 Ribbon默认的负载均衡算法就是轮询算法

Ribbon重试机制

现在我们停掉一个服务

再次进行测试

你会发现，访问会有，一次成功，一次报错，轮流交替

但是，此时producer-8081 是正常的，明明有一个服务是可以正常使用的，但访问仍会出错，这显然不是我们想看到的。

因此Spring Cloud 整合了Spring Retry 来增强RestTemplate的重试能力，当一次服务调用失败后，不会立即抛出一次，而是再次重试另一个服务。

开启重试机制

修改consumer项目配置

1）添加依赖

<!-- 重试机制 -->
<dependency>
    <groupId>org.springframework.retry</groupId>
    <artifactId>spring-retry</artifactId>
</dependency>

2）添加配置信息

# SPRINGCLOUDD-PRODUCER 是服务名
# Ribbon的连接超时时间
SPRINGCLOUD-PRODUCER.ribbon.ConnectTimeout=250
# Ribbon的数据读取超时时间
SPRINGCLOUD-PRODUCER.ribbon.ReadTimeout=1000
# 是否对所有操作都进行重试
SPRINGCLOUD-PRODUCER.ribbon.OkToRetryOnAllOperations=true
# 切换实例的重试次数
SPRINGCLOUD-PRODUCER.ribbon.MaxAutoRetriesNextServer=1
# 对当前实例的重试次数
SPRINGCLOUD-PRODUCER.ribbon.MaxAutoRetries=1

测试

重启项目

再次访问 http://localhost:8080/queryUserList，即使停掉了一个producer服务，也能每次获取数据都成功

Ribbon 支持的负载均衡算法

策略名称	策略对应的类名	实现原理
轮询策略（默认）	RoundRobinRule	轮询策略表示每次都顺序取下一个 provider，比如一共有 5 个provider，第 1 次取第 1 个，第 2次取第 2 个，第 3 次取第 3 个，以此类推
权重轮询策略	WeightedResponseTimeRule	1.根据每个 provider 的响应时间分配一个权重，响应时间越长，权重越小，被选中的可能性越低。2.原理：一开始为轮询策略，并开启一个计时器，每 30 秒收集一次每个 provider 的平均响应时间，当信息足够时，每个 provider附上一个权重，并按权重随机选择provider，高权越重的 provider会被高概率选中。
随机策略	RandomRule	从 provider 列表中随机选择一个provider
最少并发数策略	BestAvailableRule	选择正在请求中的并发数最小的 provider，除非这个provider 在熔断中。
在“选定的负载均衡策略”基础上进行重试机制	RetryRule	1.“选定的负载均衡策略”这个策略是轮询策略RoundRobinRule 2.该重试策略先设定一个阈值时间段，如果在这个阈值时间段内当选择 provider 不成功，则一直尝试采用“选定的负载均衡策略：轮询策略”最后选择一个可用的provider
可用性敏感策略	AvailabilityFilteringRule	过滤性能差的 provider,有 2种：第一种：过滤掉在 eureka 中处于一直连接失败 provider 第二种：过滤掉高并发的 provider
区域敏感性策略	ZoneAvoidanceRule	1.以一个区域为单位考察可用性，对于不可用的区域整个丢弃，从剩下区域中选可用的provider2.如果这个 ip 区域内有一个或多个实例不可达或响应变慢，都会降低该 ip 区域内其他 ip 被选中的权重。

修改Ribbon使用算法的方法

1、直接在配置文件中修改

# 设置负载均衡策略 SPRINGCLOUD-PRODUCER 为调用的服务的名称
SPRINGCLOUD-PRODUCER.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RandomRule

2、使用 @Bean注入配置

// 随机策略
@Bean
public RandomRule createRule(){
    return new RandomRule();
}

Feign

Feign是什么

Feign旨在使编写Java Http客户端变得更容易。

Feign是一个声明式WebService客户端。使用Feign能让编写Web Service客户端更加简单, 它的使用方法是定义一个接口，然后在上面添加注解，同时也支持JAX-RS标准的注解。Feign也支持可拔插式的编码器和解码器。Spring Cloud对Feign进行了封装，使其支持了Spring MVC标准注解和HttpMessageConverters。Feign可以与Eureka和Ribbon组合使用以支持负载均衡。

简单理解为：Feign作用就是封装了一个注解，简化Ribbon的调用代码，让代码更加清晰，方便开发

官方文档：https://github.com/OpenFeign/feign

Feign集成了Ribbon

利用Ribbon维护了springcloud-demo-service的服务列表信息，并且通过轮询实现了客户端的负载均衡。而与Ribbon不同的是，通过feign只需要定义服务绑定接口且以声明式的方法，优雅而简单的实现了服务调用。

Feign的使用

操作consumer项目

1、引入feign的依赖

<!-- Feign -->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>

2、编写feign客户端

@FeignClient(value = "springcloud-producer")
public interface UserClient {

    @RequestMapping("/list")
    List<User> queryUserList();
}

3、修改controller

@RestController
@Scope("prototype")
public class UserController {
    @Autowired
    private UserClient userClient;

    @RequestMapping("queryUserList")
    public List queryUserList() {
        return userClient.queryUserList();
    }
}

4、修改启动类

@SpringBootApplication
@EnableEurekaClient
@EnableFeignClients // 开启Feign的功能
public class SpringCloud01Consumer {
    public static void main(String[] args) {
        System.out.println("消费者服务启动...8080");
        SpringApplication.run(SpringCloud01Consumer.class, args);
    }
}

5、测试

访问接口，可以正常获取到数据

并且负载均衡生效

小结

因为Feign整合了ribbon，所以 配置feign的方式和 ribbon的方式相同，负载均衡仍然可用

使用 Feign可以简化很多代码，并且易于维护、拓展