1.负载均衡Ribbon
实际环境中,往往会开启很多个提供服务的集群。此时如何获取服务列表就会在这种情况下就需要编写负载均衡算法,在多个实例列表中进行选择。
Eureka中已经集成了负载均衡组件:Ribbon,简单修改代码即可使用。
1.1 开启Eureka Server集群
配置文件
#server:
# port: 10086
#
#spring:
# application:
# name: eureka-server # 应用名称,会在Eureka中作为服务的id标识(serviceId)
#
#eureka:
# client:
# service-url: # EurekaServer的地址,现在是自己的地址,如果是集群,需要写其它Server的地址。
# defaultZone: http://127.0.0.1:10086/eureka
#
# register-with-eureka: false # 不注册自己
# fetch-registry: false #不拉取
server:
port: ${port:10086}
spring:
application: # 应用名称,会在eureka中作为服务的id(serviceId)
name: eureka-server
eureka:
client:
service-url: # eureka服务地址;如果是集群则是其它服务器地址,后面要加/eureka
defaultZone: ${defaultZone:http://127.0.0.1:10086/eureka}
# defaultZone: http://127.0.0.1:10086/eureka
# 是否注册自己,自身不提供服务所以不注册
# register-with-eureka: false
# 是否拉取服务
# fetch-registry: false
把service-url的值改成了另外一台EurekaServer的地址,而不是自己。
所谓的高可用注册中心,其实就是把EurekaServer自己也作为一个服务,注册到其它EurekaServer上,这样多个 EurekaServer之间就能互相发现对方,从而形成集群。
1.2 开启负载均衡
因为Eureka中已经集成了Ribbon,所以我们无需引入新的依赖。
直接修改 consumer-demo\src\main\java\com\itheima\consumer\ConsumerApplication.java 在RestTemplate的配置方法上添加@LoadBalanced注解。
@Bean
@LoadBalanced
public RestTemplate restTemplate() {
return new RestTemplate();
}
@LoadBalanced
2.熔断器Hystrix
Hystrix是Netflix开源的一个延迟和容错库,用于隔离访问远程服务、第三方库防止出现级联失败。
2.1 雪崩问题
服务器支持的线程和并发数有限,请求一直阻塞,会导致服务器资源耗尽,从而导致所有其它服务都不可用,形成雪崩效应。
Hystrix解决雪崩问题的手段主要是服务降级,包括: 线程隔离,服务熔断。
2.2 线程隔离&服务降级
线程隔离:Hystrix为每个依赖服务调用分配一个小的线程池,如果线程池已满调用将被立即拒绝,默认不采用排队,加速失败判定时间。
用户的请求将不再直接访问服务,而是通过线程池中的空闲线程来访问服务,如果线程池已满,或者请求超时,则会进行降级处理,什么是服务降级?
服务降级:优先保证核心服务,而非核心服务不可用或弱可用。
服务降级虽然会导致请求失败,但是不会导致阻塞,而且最多会影响这个依赖服务对应的线程池中的资源,对其它服务没有响应。
触发Hystrix服务降级的情况: 线程池已满,请求超时。
2.3 实践
1)引入依赖
2)开启熔断
3)编写降级逻辑
当目标服务的调用出现故障,我们希望快速失败,给用户一个友好提示。因此需要提前编写好失败时的降级处理逻 辑,要使用HystrixCommand来完成。
package com.itheima.consumer.controller;
import com.netflix.hystrix.contrib.javanica.annotation.DefaultProperties;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cloud.client.discovery.DiscoveryClient;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;
@RestController
@RequestMapping("/consumer")
@Slf4j
@DefaultProperties(defaultFallback = "defaultFallback")
public class ConsumerController {
@Autowired
private RestTemplate restTemplate;
@Autowired
private DiscoveryClient discoveryClient;
@GetMapping("/{id}")
@HystrixCommand(fallbackMethod = "queryByIdFallback")
public String queryById(@PathVariable Long id){
String url = "http://localhost:9091/user/" + id;
url = "http://user-service/user/" + id;
return restTemplate.getForObject(url, String.class);
}
public String queryByIdFallback(Long id){
log.error("查询用户信息失败。id:{}", id);
return "对不起,网络太拥挤了!";
}
public String defaultFallback(){
return "默认提示:对不起,网络太拥挤了!";
}
}
4)默认的Fallback
可以把Fallback配置加在类 上,实现默认fallback;
5)超时设置
2.4 服务熔断
Hystrix的服务熔断机制,可以实现弹性容错;当服务请求情况好转之后,可以自动重连。通过断路的方式,将后续 请求直接拒绝,一段时间(默认5秒)之后允许部分请求通过,如果调用成功则回到断路器关闭状态,否则继续打 开,拒绝请求的服务。
hystrix.command.default.circuitBreaker.requestVolumeThreshold=10
hystrix.command.default.circuitBreaker.sleepWindowInMilliseconds=10000
hystrix.command.default.circuitBreaker.errorThresholdPercentage=50
hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds=2000