热点参数限流
之前的限流统计访问某个资源的所有请求,判断是否超过qps阈值,而热点参数限流是分别统计参数值相同的请求,判断是否超过qps阈值
配置实例
代表的含义是:对host这个资源的0号参数(第一个参数)做统计,每1秒相同参数值的请求数不能超过5,注意参数索引是从0开始的
在热点参数限流的高级选项中,可以对部分参数设置例外配置
结合上一个配置,这里的含义是对0号的long类型的参数限流,每1秒相同参数的qps不能超过5,有两个例外:
如果参数值是100,则每1秒允许的qps为10
如果参数是101,则每秒允许的qps为15
【注意:热点参数限流对默认的springmvc资源无效,所以需要对controller中的资源加上SentinelResource注解】
虽然流控可以解决一些高并发情况下服务的故障,但是还是有可能发生服务故障,为了将这些故障控制在一定范围避免雪崩,就要靠线程隔离和熔断降级手段了【不论是线程隔离还是熔断降级都是对调用方的一种保护】
SpringCloud中,微服务调用大多通过feign进行实现的。因此调用端必须整合Feign和Sentinel
1.修改调用方的application.yml中的文件,开启Feign的Sentinel功能
2.给FeignClient编写失败后的降级逻辑【以前直接返回异常,前端看不懂,所有可以给前端返回一个友好的提示,告知前端什么情况,或者返回一些默认的数据】
方式一:FallbackClass,无法对远程调用的异常做处理
方式二:FallbackFactory,可以对远程调用的异常做处理,所以我们选择这种
实现的方式
步骤一:在Feign-api项目中定义类,实现FallbackFacotory
步骤二:在feign-api项目中的DefaultFeignConfiguration类中将UserClientFallbackFactory注册为一个bean
步骤三:在feign-api项目中的UserClient接口中使用UserClientFallBackFactory:
线程隔离
之前我们说过线程隔离有两种方式
线程池隔离
信号量隔离(Sentinel默认采用方式)
信号量隔离和线程池隔离的选用【扇出:理解为依赖,调用多个服务形象的扇出】】
具体操作
在添加限流规则的时候可以选择两种阈值类型
线程数:就是该资源能够使用tomcat线程数的最大值,就是通过限制线程数量,实现舱壁模式
熔断降级
熔断降级是解决雪崩问题的重要手段,思路是由断路器统计服务调用的异常比例,慢请求比例,如果超出阈值就会熔断该服务,就是拦截该服务的一切请求,当服务恢复时,断路器就会放行访问该服务的请求【Sentinel会统计异常的比例满请求比例超出阈值,就会从close状态切换到open状态,红色代表停止,这时就会拦截进入该服务的请求了,但是这个熔断会有一个持续的时间,当持续的时间结束后会从熔断状态切换到半熔断状态,此时会尝试性的放行一次请求,如果发现请求依然是失败的,会再一次的进入熔断状态,如果放行的请求执行成功会解除熔断状态】
这里有两个关键点,失败的阈值时多少(熔断的策略)。熔断的结束时间是多少
熔断策略
断路器熔断策略有三种:慢调用,异常比例,异常数
慢调用:业务的响应时长(RT)大于指定时长的请求认定为满调用请求,在指定的时间内,如果请求数量超过设定的最小双,慢调用的比例大于设定的阈值,则会触发熔断,例如
解读:RT超过500ms的调用是满调用,统计最近10000ms内的请求,如果请求超过10次,并且面调用比例大于等于0.5,则会触发熔断 ,熔断的时长为5秒,然后进入半熔断状态,放行一次请求做测试