【黑马-SpringCloudAlibaba】学习笔记03-Sentinel:服务雪崩效应以及服务容错

二, 服务雪崩效应以及服务容错

由于tomcat等服务器支持的最大线程数有限,如果一个服务出现了问题,调用这个服务的服务器就会出现线程阻塞的情况,此时如果有大量请求进入,就会导致服务瘫痪,这个服务器上的其他接口也不能调用,继而导致其他服务也会阻塞,瘫痪。
这种传播就是服务雪崩效应。我们无法完全杜绝雪崩源头的发生,只有做好足够的容错,保证在一个服务发生问题,不会影响到其它服务的正常运行。也就是"雪落而不雪崩"。
服务容错:常见的容错思路有隔离、超时、限流、熔断、降级这几种。
降级:类似于try/catch,在服务接口级别的try/catch
容错组件有:Hystrix,Resilience4J,Sentinel。
  • Hystrix是由Netflix开源的一个延迟和容错库,用于隔离访问远程系统、服务或者第三方库,防止级联失败,从而提升系统的可用性与容错性。
  • Resilience4J一款非常轻量、简单,并且文档非常清晰、丰富的熔断工具,这也是Hystrix官方推荐的替代产品。不仅如此,Resilience4J还原生支持Spring Boot 1.x/2.x,而且监控也支持和prometheus等多款主流产品进行整合。
  • Sentinel是阿里巴巴开源的一款断路器实现,本身在阿里内部已经被大规模采用,非常稳定。
常见的容错思路有隔离、超时、限流、熔断、降级这几种,下面分别介绍一下。
  • 隔离: 能将问题和影响隔离在某个模块内部,而不扩散风险,不波及其它模块,不影响整体的系统服务。常见的隔离方式有:线程池隔离和信号量隔离.
  • 超时: 在上游服务调用下游服务的时候,设置一个最大响应时间,如果超过这个时间,下游未作出反应,就断开请求,释放掉线程。
  • 限流: 限流就是限制系统的输入和输出流星已达到保护系统的目的。为了保证系统的稳固运行,一旦达到的需要限制的阈值,就需要限制流量并采取少量措施以完成限制流量的目的。
  • 熔断: 在互联网系统中,当下游服务因访问压力过大而响应变慢或失败,上游服务为了保护系统整体的可用性可以暂时切断对下游服务的调用。这种牺牲局部,保全整体的措施就叫做熔断。
    • 熔断关闭状态(Closed):服务没有故障时,熔断器所处的状态,对调用方的调用不做任何限制。
    • 熔断开启状态(Open)后续对该服务接口的调用不再经过网络,直接执行本地的fallback方法。
    • 半熔断状态.(Half-Open)尝试恢复服务调用,允许有限的流星调用该服务,并监控调用成功率。如果成功率达到预期,则说明服务已恢复,进入熔断关闭状态;如果成功率仍旧很低,则重新进入熔断关闭状态。
  • 降级: 降级其实就是为服务提供一个托底方案,一旦服务无法正常调用,就使用托底方案。
从流量控制、熔断降级、系统负载保护展开使用sentinel
Sentinel具有以下特征:**
  • 丰富的应用场景: Sentinel 承接了阿里巴巴近10年的双十—大促流量的核心场景,例如秒杀(即突发流量控制在系统容量可以承受的范围)、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。
  • 完备的实时监控: Sentinel提供了实时的监控功能。通过控制台可以看到接入应用的单台机器秒级数据,甚至500台以下规模的集群的汇总运行情况。
  • 广泛的开源生态: Sentinel提供开箱即用的与其它开源框架/库的整合模块,例如与Spring Cloud、Dubbo、gRPC的整合。只需要引入相应的依赖并进行简单的配置即可快速地接入Sentinel。
  • 完善的SPI扩展点: Sentinel提供简单易用、完善的SPI扩展接口。您可以通过实现扩展接口来快速地定制逻辑。例如定制规则管理、适配动态数据源等。
Sentinel分为两个部分:
  • 核心库(Java客户端)不依赖任何框架/库,能够运行于所有Java运行时环境,同时对Dubbo / Spring Cloud等框架也有较好的支持。
  • 控制台(Dashboard)基于Spring Boot开发,打包后可以直接运行,不需要额外的Tomcat 等应用容器。
Sentinel预设五种规则
  • 流控规则
    • 资源名 /order/message1
    • 阈值类型QPS: 每秒查询率
    • 阈值类型 线程数: 最大并发线程
    • 单机阈值 2 : 每秒允许两次查询
  • 降级规则
    • 降级策略:RT:一秒内的请求平均响应时间,时间窗口:等待的时间;
    • 异常比例:一秒内的请求异常的数量/请求总数量,时间窗口:等待时间;
    • 异常数:一分钟产生的异常个数,时间窗口:等待时间(需要大于60s)
  • 热点规则 :带参数的流控规则
  • 系统规则 :服务器维度的流控。
  • 授权规则 :判断请求头/参数,确定是否为白名单/黑名单,下面是一个配置类,,请求发出的时候的该类就可以从url上获取request域的源标识。
4.1 在shop-order的pom中导入依赖(容错在上游服务上,调用者)
<!--sentinel 服务熔断和降级-->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
4.2 Sentinel控制台需要启动jar包 sentinel-dashboard-1.7.0.jar
打开jar包所在的文件夹,cmd ,输入命令
java -Dserver.port=8080 -Dcsp.sentinel.dashboard.server=localhost:8080 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard-1.7.0.jar

port端口号,ashboard.server 定义好的sentinel控制台服务的地址 ,Dproject.name项目名称
4.3 访问localhost:8080 进入控制台 ( 默认用户名密码是sentinel/sentinel )
注:需要微服务访问一次,才能刷新加载出微服务的资源信息。
4.4 修改配置(每个集成了Sentinel的微服务模块都要加):
spring:
  cloud:
    sentinel:
      transport:
        port: 9999 #跟控制台交流的端口,随意指定一个未使用的端口即可
        dashboard: localhost:8080 # 指定控制台服务的地址
4.5 此时访问http://localhost:8091/order/message1 会在Sentinel控制台的实时监控里看到图表
4.6 在Sentinel控制台的流控规则里新增流控规则 ----------------------限流
  • 资源名 /order/message1
  • 阈值类型QPS: 每秒查询率
  • 单机阈值 2 : 每秒允许两次查询
再次/order/message1,每秒访问次数达到上限就会显示 Blocked by Sentinel (flow limiting)
----------------------
降级,流控,熔断的区别:
流控超过频率就把请求完全屏蔽等频率降下来就继续提供服务,
降级超过频率采用备用服务或者丢弃部分资源,等待一定时间以后继续提供服务。 
熔断直接停用服务,等一段时间后再去尝试是否可以调用服务。
流控规则之高级配置-链路 通过在service中设置流控属性值
流控规则
  • 资源名 /order/message1
  • 阈值类型QPS: 每秒查询率
  • 阈值类型 线程数: 最大并发线程
  • 单机阈值 2 : 每秒允许两次查询

应用并不多,了解就好

4.7 在shop-order的service包中创建一个OrderSentinelServiceImpl.java
@Service
@Slf4j
public class OrderSentinelServiceImpl {
   
    
    //定义一个资源
    //定义当资源内部发生异常的时候的处理逻辑
    @SentinelResource(
            value = "message"    //指定message为资源名
    )
    public String message() {
   
        return "message";
    }
}
4.8 通过在controller包中OrderControllerSentinel
@RestController
@Slf4j
public class OrderControllerSentinel {
   

    @Autowired
    private OrderSentinelServiceImpl orderSentinelService;
    
    @RequestMapping("/order/message1")
    public String message1() {
   
      orderSentinelService.message();  //调用
        return "message1";
    }

    @RequestMapping("/order/message2")
    public String message2() {
   
      
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值