目录
一、概述
虽然限流可以尽量避免因高并发而引起的服务故障,但服务还会因为其它原因而故障。而要将这些故障控制在一定范围,避免雪崩,就要靠线程隔离(舱壁模式)和熔断降级手段了。
不管是线程隔离还是熔断降级,都是对客户端(调用方)的保护。
Sentinel支持的雪崩解决方案:
- 线程隔离(仓壁模式)
- 降级熔断
参考:https://blog.csdn.net/a6470831/article/details/124416716
二、线程隔离(仓壁模式)
线程隔离有两种方式实现:
- 线程池隔离
- 信号量隔离(Sentinel默认采用)
- 信号量隔离:
优点:轻量级,无额外开销
缺点:不支持主动超时,不支持异步调用
场景:高频调用,高扇出
- 线程池隔离:
优点:支持主动超时,支持异步调用
缺点:线程的额外开销比较大
场景:低扇出
在添加限流规则时,可以选择两种阈值类型:
- QPS:就是每秒的请求数,在快速入门中已经演示过
- 线程数:是该资源能使用用的tomcat线程数的最大值。也就是通过限制线程数量,实现舱壁模式。
三、降级熔断
熔断降级是解决雪崩问题的重要手段。其思路是由断路器统计服务调用的异常比例、慢请求比例,如果超出阈值则会熔断该服务。即拦截访问该服务的一切请求;而当服务恢复时,断路器会放行访问该服务的请求。
断路器熔断策略有三种:慢调用、异常比例、异常数
1、熔断策略-慢调用
慢调用:业务的响应时长(RT)大于指定时长的请求认定为慢调用请求。在指定时间内,如果请求数量超过设定的最小数量,慢调用比例大于设定的阈值,则触发熔断。例如:
解读:RT超过500ms的调用是慢调用,统计最近10000ms内的请求,如果请求量超过10次,并且慢调用比例不低于0.5,则触发熔断,熔断时长为5秒。然后进入half-open状态,放行一次请求做测试。
案例
需求
给UserClietn的查询用户接口设置降级规则,满调用的RT阈值是50ms,统计时间为1秒,最小请求数量为5,慢调用阈值比例为0.4,熔断时长为5。
代码
为了触发慢调用规则,我们需要修改UserService中的业务,增加业务耗时
配置降级规则
2、熔断策略-异常比例
异常比例:统计指定时间内的调用,如果调用次数超过指定请求数,并且出现异常的比例达到设定的比例阈值,则触发熔断。例如:
解读:统计最近1000ms内的请求,如果请求量超过10次,并且异常比例不低于0.5,则触发熔断,熔断时长为5秒。然后进入half-open状态,放行一次请求做测试。
案例
需求
给UserClietn的查询用户接口设置降级规则,统计时间为1秒,最小请求数量为5,失败阈值比例为0.4,熔断时长为5。
代码
配置降级规则
四、Feign整合Sentinel
SpringCloud中,微服务调用都是通过Feign来实现的,因此做客户端保护必须整合Feign和Sentinel。
1、修改配置文件application.yml文件,开启Feign的Sentinel功能
# 修改OrderService的application.yml文件,开启Feign的Sentinel功能
feign:
sentinel:
enabled: true #开启feign的sentinel功能
2、给FeignClient编写失败后的降级逻辑
- 方式一:FallbackClass,无法对远程调用的异常做处理
- 方式二:FallbackFactory,可以对远程调用的异常做处理,我们选择这种
步骤一:在feing-api项目中定义类,实现FallbackFactory:
package com.edevp.modules.user.factory;
import com.edevp.common.core.dto.R;
import com.edevp.modules.user.dto.UserInfoDTO;
import com.edevp.modules.user.feign.UserFeignClient;
import lombok.extern.slf4j.Slf4j;
import org.springframework.cloud.openfeign.FallbackFactory;
import org.springframework.stereotype.Component;
/**
* @author edevp
*/
@Component
@Slf4j
public class UserFeignClientFactory implements FallbackFactory<UserFeignClient> {
@Override
public UserFeignClient create(Throwable throwable) {
// 创建UserClient接口实现类,实现其中的方法,编写失败降级的处理逻辑
return new UserFeignClient() {
@Override
public R<UserInfoDTO> getUserInfo(String id) {
// 记录异常信息
log.error("查询用户失败", throwable);
// 根据业务需求返回默认的数据,这里是空用户
UserInfoDTO defaultUser = new UserInfoDTO();
defaultUser.setName("default");
return R.ok(defaultUser);
}
};
}
}
步骤二:在feing-api项目中的UserClient接口中使用UserClientFallbackFactory:
/**
* @author edevp
*/
@FeignClient(contextId = "edevp-user-feign", value = "edevp-user",fallbackFactory = UserFeignClientFactory.class)
public interface UserFeignClient {
/**
* 通过用户id查询用户信息
* @param id 用户id
* @return R<UserInfoDTO> 用户信息
*/
@GetMapping("/users/info/{id}")
R<UserInfoDTO> getUserInfo(@PathVariable("id") String id);
}