文章目录
负载均衡
什么是负载均衡
负载均衡( Load Balanoe ),简称LB,是在微服务或分布式集群中经常用的一种应用。
负载均衡简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的高可用(简称HA)。
常见的负载均衡软件有nginx , LVS等,还有相应的中间件,比如dubbo 和SpringCloud中均给我们提供了负载均衡。
负载均衡的分类
负载均衡分为 集中式负载均衡 和 进程内负载均衡
Ribbon
Ribbon是什么
SpringCloud Ribbon是基于Netflix Ribbon实现的一套客户端负载均衡的工具。
简单的说,Ribbon是Netflix发布的开源项目,主要功能是提供客户端的软件负载均衡算法,将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项如连接超时,重试等。简单的说,就是在配置文件中列出LoadBalanCer(简称LB)后面所有的机器,Ribbon会自动的帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。我们也可以使用Ribbon实现自定义的负载均衡算法。
官方资料:https://github.com/Netflix/ribbon/wiki
使用Ribbon实现负载均衡
本篇代码基于 SpringCloud系列(二)Eureka详解
1、配置Ribbon,开启负载均衡
因为Eureka中已经集成了Ribbon,所以我们无需引入新的依赖
1)修改TemplateConfig文件,添加@LoadBalanced
consumer 项目
@Bean
@LoadBalanced
public RestTemplate restTemplate() {
return new RestTemplate(new OkHttp3ClientHttpRequestFactory());
}
2)修改调用方式,不再手动获取ip和端口,而是直接通过服务名称调用
consumer 项目 UserController
@RestController
@Scope("prototype")
public class UserController {
// 暂时使用直接指定的方式,完成远程调用
private static final String REST_URL_PREFIX = "http://springcloud-producer";
@Autowired
private RestTemplate restTemplate;
@RequestMapping("queryUserList")
public List queryUserList() {
return this.restTemplate.getForObject(REST_URL_PREFIX + "/list", List.class);
}
}
producer项目 UserController
@RestController
@Scope("prototype")
public class UserController {
@Resource
private UserService userService;
@RequestMapping("list")
public List<User> queryUserList() {
System.out.println("调用的服务的端口为:8081");
return userService.queryUserList();
}
}
只添加了一个打印信息,方便我们进行测试
2、重新构建一个 producer项目
复制原本的 producer 项目,修改配置文件,改一下端口即可
server.port=8082
eureka.instance.instance-id=springcloud-producer-8082
将打印信息也修改一下
System.out.println("调用的服务的端口为:8082");
3、开启项目,进行测试
访问:http://localhost:8888/
访问:http://localhost:8080/queryUserList
可以正确得到结果
调用8次接口:
可以看出来正是轮询算法,即 Ribbon默认的负载均衡算法就是轮询算法
Ribbon重试机制
现在我们停掉一个服务
再次进行测试
你会发现,访问会有,一次成功,一次报错,轮流交替
但是,此时producer-8081 是正常的,明明有一个服务是可以正常使用的,但访问仍会出错,这显然不是我们想看到的。
因此Spring Cloud 整合了Spring Retry 来增强RestTemplate的重试能力,当一次服务调用失败后,不会立即抛出一次,而是再次重试另一个服务。
开启重试机制
修改consumer项目配置
1)添加依赖
<!-- 重试机制 -->
<dependency>
<groupId>org.springframework.retry</groupId>
<artifactId>spring-retry</artifactId>
</dependency>
2)添加配置信息
# SPRINGCLOUDD-PRODUCER 是服务名
# Ribbon的连接超时时间
SPRINGCLOUD-PRODUCER.ribbon.ConnectTimeout=250
# Ribbon的数据读取超时时间
SPRINGCLOUD-PRODUCER.ribbon.ReadTimeout=1000
# 是否对所有操作都进行重试
SPRINGCLOUD-PRODUCER.ribbon.OkToRetryOnAllOperations=true
# 切换实例的重试次数
SPRINGCLOUD-PRODUCER.ribbon.MaxAutoRetriesNextServer=1
# 对当前实例的重试次数
SPRINGCLOUD-PRODUCER.ribbon.MaxAutoRetries=1
测试
重启项目
再次访问 http://localhost:8080/queryUserList,即使停掉了一个producer服务,也能每次获取数据都成功
Ribbon 支持的负载均衡算法
策略名称 | 策略对应的类名 | 实现原理 |
---|---|---|
轮询策略(默认) | RoundRobinRule | 轮询策略表示每次都顺序取下一个 provider,比如一共有 5 个provider,第 1 次取第 1 个,第 2次取第 2 个,第 3 次取第 3 个,以此类推 |
权重轮询策略 | WeightedResponseTimeRule | 1.根据每个 provider 的响应时间分配一个权重,响应时间越长,权重越小,被选中的可能性越低。2.原理:一开始为轮询策略,并开启一个计时器,每 30 秒收集一次每个 provider 的平均响应时间,当信息足够时,每个 provider附上一个权重,并按权重随机选择provider,高权越重的 provider会被高概率选中。 |
随机策略 | RandomRule | 从 provider 列表中随机选择一个provider |
最少并发数策略 | BestAvailableRule | 选择正在请求中的并发数最小的 provider,除非这个provider 在熔断中。 |
在“选定的负载均衡策略”基础上进行重试机制 | RetryRule | 1.“选定的负载均衡策略”这个策略是轮询策略RoundRobinRule 2.该重试策略先设定一个阈值时间段,如果在这个阈值时间段内当选择 provider 不成功,则一直尝试采用“选定的负载均衡策略:轮询策略”最后选择一个可用的provider |
可用性敏感策略 | AvailabilityFilteringRule | 过滤性能差的 provider,有 2种:第一种:过滤掉在 eureka 中处于一直连接失败 provider 第二种:过滤掉高并发的 provider |
区域敏感性策略 | ZoneAvoidanceRule | 1.以一个区域为单位考察可用性,对于不可用的区域整个丢弃,从剩下区域中选可用的provider2.如果这个 ip 区域内有一个或多个实例不可达或响应变慢,都会降低该 ip 区域内其他 ip 被选中的权重。 |
修改Ribbon使用算法的方法
1、直接在配置文件中修改
# 设置负载均衡策略 SPRINGCLOUD-PRODUCER 为调用的服务的名称
SPRINGCLOUD-PRODUCER.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RandomRule
2、使用 @Bean注入配置
// 随机策略
@Bean
public RandomRule createRule(){
return new RandomRule();
}
Feign
Feign是什么
Feign旨在使编写Java Http客户端变得更容易。
Feign是一个声明式WebService客户端。使用Feign能让编写Web Service客户端更加简单, 它的使用方法是定义一个接口,然后在上面添加注解,同时也支持JAX-RS标准的注解。Feign也支持可拔插式的编码器和解码器。Spring Cloud对Feign进行了封装,使其支持了Spring MVC标准注解和HttpMessageConverters。Feign可以与Eureka和Ribbon组合使用以支持负载均衡。
简单理解为:Feign作用就是封装了一个注解,简化Ribbon的调用代码,让代码更加清晰,方便开发
官方文档:https://github.com/OpenFeign/feign
Feign集成了Ribbon
利用Ribbon维护了springcloud-demo-service的服务列表信息,并且通过轮询实现了客户端的负载均衡。而与Ribbon不同的是,通过feign只需要定义服务绑定接口且以声明式的方法,优雅而简单的实现了服务调用。
Feign的使用
操作consumer项目
1、引入feign的依赖
<!-- Feign -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>
2、编写feign客户端
@FeignClient(value = "springcloud-producer")
public interface UserClient {
@RequestMapping("/list")
List<User> queryUserList();
}
3、修改controller
@RestController
@Scope("prototype")
public class UserController {
@Autowired
private UserClient userClient;
@RequestMapping("queryUserList")
public List queryUserList() {
return userClient.queryUserList();
}
}
4、修改启动类
@SpringBootApplication
@EnableEurekaClient
@EnableFeignClients // 开启Feign的功能
public class SpringCloud01Consumer {
public static void main(String[] args) {
System.out.println("消费者服务启动...8080");
SpringApplication.run(SpringCloud01Consumer.class, args);
}
}
5、测试
访问接口,可以正常获取到数据
并且负载均衡生效
小结
因为Feign整合了ribbon,所以 配置feign的方式和 ribbon的方式相同,负载均衡仍然可用
使用 Feign可以简化很多代码,并且易于维护、拓展