负载均衡Robbin
启动两个服务实例
首先我们启动两个user-service实例,一个8888,一个8889。
Eureka控制面板
开启负载均衡
因为Eureka中已经集成了Ribbon,所以我们无需引入新的依赖。直接修改代码:
在RestTemplate的配置方法上添加@LoadBalanced
注解:
@Bean
@LoadBalanced
public RestTemplate restTemplate() {
return new RestTemplate(new OkHttp3ClientHttpRequestFactory());
}
修改调用方式,不再手动获取ip和端口,而是直接通过服务名称调用:
@Service
public class UserService {
@Autowired
private RestTemplate restTemplate;
@GetMapping("{id}")
@ResponseBody
// @HystrixCommand(fallbackMethod = "helloFallbackMethod")
public String hello(@PathVariable int id) {
String url = "http://user-service/user/" + id;
log.debug(url);
String str = restTemplate.getForObject(url, String.class);
return str;
}
}
访问页面成功显示
源码跟踪
为什么我们只输入了service名称就可以访问了呢?之前还要获取ip和端口。
显然有人帮我们根据service名称,获取到了服务实例的ip和端口。它就是LoadBalancerInterceptor
我们进行源码跟踪:
继续跟入execute方法:发现获取了8082端口的服务
再跟下一次,发现获取的是8081:
Hystrix熔断
服务降级
引入依赖
因为是消费者向服务器发送请求 所以需要在消费者进行服务熔断 首先在consumer中引入Hystrix依赖:
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
改造消费者
因为只为跑通程序,所以虽然之前导入了数据库依赖却也没连接数据库,只写了一个Controller 也没编写Dao和Service
@RequestMapping("consumer")
@Controller
@Slf4j
public class ConsumerController {
@Autowired
private RestTemplate restTemplate;
@GetMapping("{id}")
@ResponseBody
@HystrixCommand(fallbackMethod = "helloFallbackMethod")
public String hello(@PathVariable int id) {
String url = "http://user-service/user/" + id;
String str = restTemplate.getForObject(url, String.class);
return str;
}
public String helloFallbackMethod(int id) {
return "服务器炸了";
}
}
@HystrixCommand(fallbackMethod="queryUserByIdFallback")
:声明一个失败回滚处理函数queryUserByIdFallback,当queryUserById执行超时(默认是1000毫秒),就会执行fallback函数,返回错误提示。- 为了方便查看熔断的触发时机,我们记录请求访问时间。
改造服务提供者
改造服务提供者,随机休眠一段时间,以触发熔断:
@Controller
@RequestMapping("user")
public class UserController {
@GetMapping("{id}")
@ResponseBody
public String hello(@PathVariable int id){
try {
Thread.sleep(2000L);
} catch (InterruptedException e) {
e.printStackTrace();
}
return id+"";
}
}
启动项目,访问页面:
优化
修改超时时间
虽然熔断实现了,但是我们的重试机制似乎没有生效,是这样吗?
其实这里是因为我们的Ribbon超时时间设置的是1000ms:
而Hystrix的超时时间默认也是1000ms,因此重试机制没有被触发,而是先触发了熔断。
所以,Ribbon的超时时间一定要小于Hystrix的超时时间。
我们可以通过修改其注解的配置,execution.isolation.thread.timeoutInMilliseconds
来设置Hystrix超时时间。
@HystrixCommand(fallbackMethod = "helloFallbackMethod",commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value = "3000")
})
也可以修改配置文件,统一修改全局配置
hystrix:
command:
default:
execution:
isolation:
thread:
timeoutInMilliseconds: 6000 # 设置hystrix的超时时间为6000ms
给所有方法编写统一的降级逻辑
原本我们是将注解@HystrixCommand
直接标注在方法上,现在将注解@DefaultProperties
标注在类上,使用defaultFallback
指定降级时调用的方法
@RequestMapping("consumer")
@Controller
@Slf4j
@DefaultProperties(defaultFallback = "helloFallbackMethod")
public class ConsumerController {
@Autowired
private RestTemplate restTemplate;
@Autowired
private DiscoveryClient discoveryClient;
@GetMapping("{id}")
@ResponseBody
@HystrixCommand(commandProperties = {
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value = "3000")
})
public String hello(@PathVariable int id) {
String url = "http://user-service/user/" + id;
String str = restTemplate.getForObject(url, String.class);
return str;
}
public String helloFallbackMethod() {
return "服务器炸了";
}
}
注意
- 当使用
@HystrixCommand
注解指定方法时,被指定的方法的返回值和参数类型必须和@HystrixCommand
标注方法一致 - 当使用
@DefaultProperties
注解指定方法时,被指定的方法不能有参数,返回值建议写通用类型 - 若同时使用了两个注解,那么
@HystrixCommand
的优先级较高
服务熔断
熔断机制的原理就类似于家里的电路熔断器,如果电路发生短路就立刻熔断电路,避免发生灾难
通过断路的方式,可以将后续请求直接拒绝掉,一段时间后允许部分请求通过,途观调用成功则回到电路闭合状态,否则继续断开
Hystrix的熔断状态机模型:
- Closed :熔断器关闭,所有的请求都正常访问
- Open :熔断器开启,所有的请求都会被降级。Hystrix会对请求情况计数,当一定时间内失败请求百分比达到阈值,则触发熔断。默认失败比例是阈值的百分之五十,请求次数最少不低于20次
- Half Open :熔断器半开,Closed状态不是永久的,关闭后会进入休眠时间(默认是5秒)。随后断路器会自动进入半开状态。此时会释放部分请求通过,若这些请求都正常执行,那么则会进入关闭状态,否则继续开启熔断器,再次进行休眠计时。
熔断器关闭,请求正常通过。如果请求一直正常,没有触发过超时时长,但是如果请求经常性的触发超时,超过了设定的预值(默认情况下,在最近的20次请求内,有百分之五十的请求超时)那么就会触发熔断器,这个时候如果用户再访问同样的请求,就会快速返回失败。熔断器的开启状态会默认持续五秒,五秒过后,熔断器进入半开状态。此时会放一定的请求通过,如果请求正常,那么熔断器关闭。如果请求依然失败,那么重新进入打开状态,五秒过后再次放过一定量的请求,如此循环
实际操作
为了确保请求的失败和成功都能掌控,先进行代码修改
服务提供者
因为需要确保请求正常,所以此时不需要休眠
@Controller
@RequestMapping("user")
public class UserController {
@GetMapping("{id}")
@ResponseBody
public String hello(@PathVariable int id){
/*try {
Thread.sleep(2000L);
} catch (InterruptedException e) {
e.printStackTrace();
}*/
return id+"";
}
}
服务消费者
若传入的值为偶数,则模拟请求失败,触发熔断器
@GetMapping("{id}")
@ResponseBody
@HystrixCommand(commandProperties = {
@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold", value = "10"),
@HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds", value = "10000"),
@HystrixProperty(name = "circuitBreaker.errorThresholdPercentage", value = "60")
})
public String hello(@PathVariable int id) {
if (id % 2 == 0) {
throw new RuntimeException("");
}
String url = "http://user-service/user/" + id;
String str = restTemplate.getForObject(url, String.class);
return str;
}
}
默认的熔断器触发要求过高,休眠时间也短,为了方便测试,所以修改熔断策略
circuitBreaker.requestVolumeThreshold
触发熔断的最小请求次数,默认20circuitBreaker.sleepWindowInMilliseconds
休眠时长,默认5000毫秒circuitBreaker.errorThresholdPercentage
触发熔断失败请求最小占比,默认50%
然后我们启动项目进行测试 测试效果
- 首先我们先传入奇数1,根据我们制定的规则,此请求
http://127.0.0.1:8880/consumer/1
会正常通过 - 然后我们传入偶数2,根据代码,会抛出异常,然后触发服务降级。这个时候连续发出此请求,客户请求连续超时,则会触发熔断器
- 熔断器开启,此时的请求会被立马返回失败
- 随后进入半开状态,放过部分请求,持续发送正常请求,熔断器判断请求依旧没有问题,即进入
Closed
状态,关闭熔断器
Feign
Feign可以把Rest的请求进行隐藏,伪装成类似SpringMVC的Controller一样。你不用再自己拼接url,拼接参数等等操作,一切都交给Feign去做。
快速入门
导入依赖
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>
Feign的客户端
@FeignClient("user-service")
public interface UserClient {
@GetMapping("/user/{id}")
String query(@PathVariable("id") int id);
}
- 首先这是一个接口,Feign会通过动态代理,帮我们生成实现类。这点跟mybatis的mapper很像
@FeignClient
,声明这是一个Feign客户端,类似@Mapper
注解。同时通过value
属性指定服务名称- 接口中的定义方法,完全采用SpringMVC的注解,Feign会根据注解帮我们生成URL,并访问获取结果
改造原来的调用逻辑
@RequestMapping("consumer")
@Controller
@Slf4j
@DefaultProperties(defaultFallback = "helloFallbackMethod")
public class ConsumerController {
@Autowired
private UserClient userClient;
@GetMapping("{id}")
@ResponseBody
@HystrixCommand
public String hello(@PathVariable("id") int id) {
return userClient.query(id);
}
}
开启Feign功能
我们在启动类上,添加注解,开启Feign功能
@SpringBootApplication
@EnableDiscoveryClient
@EnableHystrix
@EnableFeignClients // 开启Feign功能
public class ConsumerApplication {
public static void main(String[] args) {
SpringApplication.run(ConsumerApplication.class, args);
}
}
- RestTemplate的注册被删除了。Feign中已经自动集成了Ribbon负载均衡,因此我们不需要自己定义RestTemplate了
启动测试结果正常
负载均衡
Feign中本身已经集成了Ribbon依赖和自动配置
因此我们不需要额外引入依赖,也不需要再注册RestTemplate
对象。
另外,我们可以像上面写的那样去配置Ribbon,可以通过ribbon.xx
来进行全局配置。也可以通过服务名.ribbon.xx
来对指定服务配置:
user-service:
ribbon:
ConnectTimeout: 250 # 连接超时时间(ms)
ReadTimeout: 1000 # 通信超时时间(ms)
OkToRetryOnAllOperations: true # 是否对所有操作重试
MaxAutoRetriesNextServer: 1 # 同一服务不同实例的重试次数
MaxAutoRetries: 1 # 同一实例的重试次数
Hystrix支持
Feign默认也有对Hystrix的集成
只不过,默认情况下是关闭的。我们需要通过下面的参数来开启:
feign:
hystrix:
enabled: true # 开启Feign的熔断功能
但是,Feign中的Fallback配置不像Ribbon中那样简单了。
1)首先,我们要定义一个类,实现刚才编写的UserClient,作为fallback的处理类
@Component
public class UserClientFallBack implements UserClient {
@Override
public String query(int id) {
return "请求失败";
}
}
2)然后在UserFeignClient中,指定刚才编写的实现类
@FeignClient(value = "user-service", fallback = UserClientFallBack.class)
public interface UserClient {
@GetMapping("/user/{id}")
String query(@PathVariable("id") int id);
}
3)重启测试:
我们关闭user-service服务,然后在页面访问:
- 值得注意的是,在刚才的测试中,一方面我们使用了Feign支持的Hystrix,另一方面我们在Controller的请求中也添加了Hystrix,由测试结果可得知,当两者同时使用时,Feign支持的Hystrix优先级较高
请求压缩
Spring Cloud Feign 支持对请求和响应进行GZIP压缩,以减少通信过程中的性能损耗。通过下面的参数即可开启请求与响应的压缩功能:
feign:
compression:
request:
enabled: true # 开启请求压缩
response:
enabled: true # 开启响应压缩
同时,我们也可以对请求的数据类型,以及触发压缩的大小下限进行设置:
feign:
compression:
request:
enabled: true # 开启请求压缩
mime-types: text/html,application/xml,application/json # 设置压缩的数据类型
min-request-size: 2048 # 设置触发压缩的大小下限
注:上面的数据类型、压缩大小下限均为默认值。
日志级别
前面讲过,通过logging.level.xx=debug
来设置日志级别。然而这个对Fegin客户端而言不会产生效果。因为@FeignClient
注解修改的客户端在被代理时,都会创建一个新的Fegin.Logger实例。我们需要额外指定这个日志的级别才可以。
1)设置com.leyou包下的日志级别都为debug
logging:
level:
com.leyou: debug
2)编写配置类,定义日志级别
@Configuration
public class FeignConfig {
@Bean
Logger.Level feignLoggerLevel(){
return Logger.Level.FULL;
}
}
这里指定的Level级别是FULL,Feign支持4种级别:
- NONE:不记录任何日志信息,这是默认值。
- BASIC:仅记录请求的方法,URL以及响应状态码和执行时间
- HEADERS:在BASIC的基础上,额外记录了请求和响应的头信息
- FULL:记录所有请求和响应的明细,包括头信息、请求体、元数据。
3)在FeignClient中指定配置类:
@FeignClient(value = "user-service", fallback = UserFeignClientFallback.class, configuration = FeignConfig.class)
public interface UserClient {
@GetMapping("/user/{id}")
String query(@PathVariable("id") int id);
}
4)重启项目,即可看到每次访问的日志: