SpringCloud Alibaba Sentinel
1、Sentinel概述
1.1、Sentinel是什么
轻量级的流量控制、熔断降级Java库,就类似于Hystrix框架,是Alibaba的。
GitHub地址:https://github.com/alibaba/Sentinel
下载地址:https://github.com/alibaba/Sentinel/releases
中文文档地址:https://github.com/alibaba/Sentinel/wiki
英文文档地址:https://spring-cloud-alibaba-group.github.io/github-pages/greenwich/spring-cloud-alibaba.html#_spring_cloud_alibaba_sentinel
1.2、Sentinel能做什么
1.3、Sentinel安装过程
下载Jar包到本地,前提保证有JDK1.8环境以及8080端口未被占用,运行java -jar sentinel-dashboard-(版本号).jar。之后访问:http://localhost:8080即可访问到控制台。
1.4、初始化演示工程
1.添加依赖(必须保证Nacos和Sentinel同时存在依赖环境)
<!--SpringCloud ailibaba nacos -->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
<!--SpringCloud ailibaba sentinel -->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
2.修改Yaml配置文件将服务注册进入Nacos并配置Sentinel控制台和暴露监控点
server:
port: 8401
spring:
application:
name: cloudalibaba-sentinel-service
cloud:
nacos:
discovery:
#Nacos服务注册中心地址
server-addr: localhost:8848
sentinel:
transport:
#配置Sentinel dashboard地址
dashboard: localhost:8080
#默认8719端口,假如被占用会自动从8719开始依次+1扫描,直至找到未被占用的端口
port: 8719
management:
endpoints:
web:
exposure:
include: '*'
3.主启动类
@EnableDiscoveryClient
@SpringBootApplication
public class MainApp8401 {
public static void main(String[] args) {
SpringApplication.run(MainApp8401.class, args);
}
}
4.业务类Controller
@RestController
public class FlowLimitController
{
@GetMapping("/testA")
public String testA()
{
return "================测试A已经成功通过================";
}
@GetMapping("/testB")
public String testB()
{
return "================测试B已经成功通过================";
}
}
5.测试
先启动Nacos再启动Sentinel,登录Sentinel发现什么都没有,需要事先访问资源端点才能在控制台看到资源目录。所以得到结论:sentinel8080正在监控微服务8401
2、Sentinel流控规则
2.1、流控规则基本术语介绍
2.2、流控模式
2.2.1、直接
默认的流控规则,配置一秒钟最大允许一次通过,表示1秒钟内查询1次就是OK,若超过次数1,就直接-快速失败,报默认错误。
快速点击访问http://localhost:8401/testA,会报Blocked by Sentinel (flow limiting)这个默认错误。
2.2.2、关联
当关联的资源达到阈值时,就限流自己,当关联资源/testB的qps阀值超过1时,就限流/testA的Rest访问地址,当关联资源到阈值后限制配置好的资源名。
使用PostMan进行线程组访问testB节点,再访问testA资源发现A资源已经被限制访问。
2.2.3、链路
使用多个请求去调用同一个微服务,所以会出现链路失败的情况。
2.3、流控效果
2.3.1、直接->快速失败
默认的流控处理效果,出现Blocked by Sentinel (flow limiting) 异常,源码位于DefaultController这个控制层中可以发现里面有这条语句。
2.3.2、预热
公式:阈值除以coldFactor(默认值为3),经过预热时长后才会达到阈值。默认coldFactor为3,即请求 QPS 从 threshold / 3 开始,经预热时长逐渐升至设定的 QPS 阈值。
源码:WarmUpController类中。
应用场景:秒杀系统在开启的瞬间,会有很多流量上来,预热方式就是为了保护系统,以慢慢增大吞吐量。
2.3.3、排队等待
匀速排队,阈值必须设置为QPS。
源码在:com.alibaba.csp.sentinel.slots.block.flow.controller.RateLimiterController
3、Sentinel降级规则
3.1、基本介绍
Sentinel 熔断降级会在调用链路中某个资源出现不稳定状态时(例如调用超时或异常比例升高),对这个资源的调用进行限制,
让请求快速失败,避免影响到其它的资源而导致级联错误。
当资源被降级后,在接下来的降级时间窗口之内,对该资源的调用都自动熔断(默认行为是抛出 DegradeException)。
Sentinel的断路器是没有半开状态的,不像Hystrix是有半开状态。
3.2、降级策略-RT
Java代码
@GetMapping("/testD")
public String testD()
{
//暂停几秒钟线程
try { TimeUnit.SECONDS.sleep(1); } catch (InterruptedException e) { e.printStackTrace(); }
log.info("testD 测试RT");
return "------testD";
}
配置
永远一秒钟打进来10个线程(大于5个了)调用testD,我们希望200毫秒处理完本次任务,
如果超过200毫秒还没处理完,在未来1秒钟的时间窗口内,断路器打开(保险丝跳闸)微服务不可用,保险丝跳闸断电了。
3.3、降级策略-异常比例
Java代码
@GetMapping("/testD")
public String testD()
{
log.info("testD 测试RT");
int age = 10/0;
return "------testD";
}
配置
如果异常超过百分之二十就断开断路器
单独访问一次,必然来一次报错一次(int age = 10/0),调一次错一次;开启jmeter后,直接高并发发送请求,多次调用达到我们的配置条件了。断路器开启(保险丝跳闸),微服务不可用了,不再报错**error(页面)**而是服务降级了。
3.4、降级策略-异常数
Java代码
@GetMapping("/testE")
public String testE()
{
log.info("testE 测试异常比例");
int age = 10/0;
return "------testE 测试异常比例";
}
配置
http://localhost:8401/testE,第一次访问绝对报错,因为除数不能为零,
我们看到error窗口,但是达到5次报错后,进入熔断后降级。就不会报错误页面而是报服务降级的页面。
4、Sentinel热点key限流
4.1、热点key限流基本配置
何为热点
热点即经常访问的数据,很多时候我们希望统计或者限制某个热点数据中访问频次最高的TopN数据,并对其访问进行限流或者其它操作。
我们能不能自定?类似hystrix,某个方法出问题了,就找对应的兜底降级方法?
使用@SentinelResource可以实现,类似于Hystrix的自定义降级方法。
Java代码配置自定义降级方法显示
@GetMapping("/testHotKey")
@SentinelResource(value = "testHotKey", blockHandler = "defaultHandler_testHotKey")
public String testHotKey(@RequestParam(value = "p1", required = false) String p1,
@RequestParam(value = "p2", required = false) String p2) {
return "==============testHotKey";
}
public String defaultHandler_testHotKey(String p1, String p2, BlockException ble) {
return "==============defaultHandler_testHotKey,┭┮﹏┭┮";
}
此时我们对第一个参数也就是p1进行限流,如果有它参与的请求那么久限制他的访问
4.2、热点key参数例外项配置
我们期望p1参数当它是某个特殊值时,它的限流值和平时不一样,加入我们想要p1=3的时候,让他能够有更多的阈值。
在高级选项中打开这个并设置参数类型String,设置参数值为3,限定阈值为500。
这样传过来的参数p1只要等于3的时候就拥有500的上限。
5、@SentinelResource注解详解
5.1、基本限流配置存在的问题
@GetMapping("/byResource")
@SentinelResource(value = "byResource", blockHandler = "handleException")
public CommonResult byResource() {
return new CommonResult(200, "按资源名称限流测试OK", new Payment(2020L, "serial001"));
}
public CommonResult handleException(BlockException exception) {
return new CommonResult(444, exception.getClass().getCanonicalName() + "\t 服务不可用");
}
这样限流之后,如果出现状况不会出现默认的页面会出现handleException中的结果。
以上代码出现的问题
1、依照现有条件,我们自定义的处理方法又和业务代码耦合在一块,不直观。
2、每个业务方法都添加一个兜底的,那代码膨胀加剧。
3、全局统一的处理方法没有体现。
5.2、全局限流配置
编写一个类
public class CustomerBlockHandler {
public static CommonResult handleException01(BlockException exception) {
return new CommonResult(4444, "自定义的限流处理信息,handleException01");
}
public static CommonResult handleException02(BlockException exception) {
return new CommonResult(4444, "自定义的限流处理信息,handleException02");
}
}
主要在@SentinelResource中添加参数blockHandlerClass即可
@GetMapping("/rateLimit/customerBlockHandler")
@SentinelResource(value = "customerBlockHandler",
blockHandlerClass = CustomerBlockHandler.class, blockHandler = "handleException02")
public CommonResult customerBlockHandler() {
return new CommonResult(200, "按客户自定义限流处理逻辑");
}
这样就可以指定是CustomerBlockHandler中的handleException02方法来处理被限流之后所出现的页面,避免代码耦合,解决全局统一与自定义。
6、Sentinel服务熔断功能
6.1、Ribbon系列
1、创建服务提供者9003/9004,过程省略。
2、创建服务消费者84
①、Pom依赖文件
<!--SpringCloud ailibaba nacos -->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
<!--SpringCloud ailibaba sentinel -->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
②、Yaml配置文件与之前的差不多不赘述
主要注册进入Nacos以及Sentinel中。
③、配置Ribbon的RestTemplate类
@Configuration
public class ApplicationContextConfig
{
@Bean
@LoadBalanced
public RestTemplate getRestTemplate()
{
return new RestTemplate();
}
}
④、Controller控制层
@RestController
@Slf4j
public class CircleBreakerController {
public static final String SERVICE_URL = "http://nacos-payment-provider";
@Resource
private RestTemplate restTemplate;
@RequestMapping("/consumer/fallback/{id}")
@SentinelResource(value = "fallback", fallback = "handlerFallback", blockHandler = "blockHandler")
public CommonResult<Payment> fallback(@PathVariable Long id) {
CommonResult<Payment> result = restTemplate.getForObject(SERVICE_URL + "/paymentSQL/" + id, CommonResult.class, id);
if (id == 4) {
throw new IllegalArgumentException("IllegalArgumentException,非法参数异常....");
} else if (result.getData() == null) {
throw new NullPointerException("NullPointerException,该ID没有对应记录,空指针异常");
}
return result;
}
public CommonResult handlerFallback(@PathVariable Long id, Throwable e) {
Payment payment = new Payment(id, "null");
return new CommonResult<>(444, "兜底异常handlerFallback,exception内容 " + e.getMessage(), payment);
}
public CommonResult blockHandler(@PathVariable Long id, BlockException blockException) {
Payment payment = new Payment(id, "null");
return new CommonResult<>(445, "blockHandler-sentinel限流,无此流水: blockException " + blockException.getMessage(), payment);
}
⑤、结论
blockHandler 主要是管限流配置的,只配置了他,代码出现问题他管不着会返回错误页面,但是触发到限流条件了的话他会进行接管。
fallback 主要管代码出现异常,代码500出现错误了之后直接返回fallback的友好页面。
若 blockHandler 和 fallback 都进行了配置,则被限流降级而抛出 BlockException 时只会进入 blockHandler 处理逻辑。
6.2、Feign系列
1、添加依赖
<!--SpringCloud openfeign -->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>
2、修改上一个微服务的Yaml配置文件开启Sentinel对Feign的支持
# 激活Sentinel对Feign的支持
feign:
sentinel:
enabled: true
3、带@FeignClient注解的业务接口
@FeignClient(value = "nacos-payment-provider", fallback = PaymentServiceImpl.class)
public interface PaymentService {
@GetMapping(value = "/paymentSQL/{id}")
public CommonResult<Payment> paymentSQL(@PathVariable("id") Long id);
}
4、全局业务降级接口实现类
@Component
public class PaymentServiceImpl implements PaymentService {
@Override
public CommonResult<Payment> paymentSQL(Long id) {
return new CommonResult<>(444, "服务降级返回,没有该流水信息", new Payment(id, "errorSerial......"));
}
}
5、Controller控制层
@Resource
private PaymentService paymentService;
@GetMapping(value = "/consumer/openfeign/{id}")
public CommonResult<Payment> paymentSQL(@PathVariable("id") Long id) {
if (id == 4) {
throw new RuntimeException("没有该id");
}
return paymentService.paymentSQL(id);
}
6、主启动类
@EnableDiscoveryClient
@SpringBootApplication
@EnableFeignClients
public class OrderNacosMain84
{
public static void main(String[] args) {
SpringApplication.run(OrderNacosMain84.class, args);
}
}
7、测试:测试84调用9003,此时故意关闭9003微服务提供者,看84消费侧自动降级,不会被耗死。
结论:发现自动跳转到实现@FeignClient注解的业务接口的实现类上去了,不会被耗死,所以也有全局保护的功能。
6.3、熔断框架比较
7、Sentinel规则持久化
发现一个问题:一旦我们重启应用,sentinel规则将消失,生产环境需要将配置规则进行持久化。所以我们需将限流配置规则持久化进Nacos保存,只要刷新8401某个rest地址,sentinel控制台的流控规则就能看到,只要Nacos里面的配置不删除,针对8401上sentinel上的流控规则持续有效。
1、修改8401的Pom文件(添加Sentinel整合Nacos的依赖)
<!--SpringCloud ailibaba sentinel-datasource-nacos -->
<dependency>
<groupId>com.alibaba.csp</groupId>
<artifactId>sentinel-datasource-nacos</artifactId>
</dependency>
2、修改8401的Yaml配置文件
spring:
cloud:
sentinel:
transport:
dashboard: localhost:8080 #配置Sentinel dashboard地址
port: 8719
datasource:
datasource1:
nacos:
server-addr: localhost:8848
dataId: cloudalibaba-sentinel-service
groupId: DEFAULT_GROUP
data-type: json
rule-type: flow
3、在Nacos中添加Sentinel的配置规则
4、在Nacos中添加Sentinel的配置规则
启动8401端口之后,只要刷新一下Sentinel就可以看到规则已经出现在列表中了,快速访问http://localhost:8401/rateLimit/byUrl发现限流规则已经启动了,超过限流规则就会出现默认的错误提醒。
5、关闭8401服务之后规则消失,再次启动访问资源又回重新出现,达到持久化的目的。
8、学习地址
来源:哔哩哔哩尚硅谷:https://www.bilibili.com/video/BV18E411x7eT