微服务中的熔断机制

一般在微服架构中,有一个组件角色叫熔断器。顾名思义,熔断器起的作用就是在特定的场景下关掉当前的通路,从而起到保护整个系统的效果。

在微服务架构中,一般我们的独立服务是比较多的,每个独立服务之间划分责任边界,并通过约定协议接口来进行通信。当我们的调用链路复杂依赖多时,很可能会发生雪崩效应。

假设有这么一个场景,有A, B, C, D四个独立服务,A会依赖B,C,D;当D发生负载过高或网络异常等导致响应过慢或超时时,很可能A会因此堆积过多的等待链接,从而导致A的状态也转为异常,后面依赖到A的其他服务跟着发生链式反应,这将会导致大面积的服务不可用,即使本来是一些没有依赖到B,C,D的服务。如下图所示:  

这不是我们希望看到的结果,所以这个时候熔断器可以派上用场。最简单的做法,我们为每个依赖服务配置一个熔断器开关,正常情况下是关闭的,也就是可以正常发起请求;当请求失败(超时或者其他异常)次数超过预设值时,熔断器自动打开,这时所有经过这个熔断器的请求都会直接返回失败,并没有真正到达所依赖的服务上。这时服务A本身仍然是能正常服务的, 如下图所示: 


那么熔断器具体又是怎么工作的呢?来看下,一个拥有基本功能的熔断器的状态机大体是这样子的: 

主要在三种状态中转换:
关闭状态 :
 当熔断器处于关闭状态时,请求是可以被放行的; 
当熔断器统计的失败次数触发开关时,转为打开状态。
打开状态 :
当熔断器处于打开状态时,所有请求都是不被放行的,直接返回失败; 
只有在经过一个设定的时间窗口周期后,熔断器才会转换到半开状态
半开状态 :
当熔断器处于半开状态时,当前只能有一个请求被放行; 
这个被放行的请求获得远端服务的响应后,假如是成功的,熔断器转换为关闭状态,否则转换到打开状态。


最后,基于这个状态机,用Golang实现了一个只包含最基本功能的熔断器:github.com/moxiaomomo/circuitbreaker, 有兴趣可以参考一下,也欢迎指正。

主要用法如下:

// 创建一个熔断器实例,指定熔断时间窗口和失败触发开关阈值等
cbs := NewCirucuitBreaker(time.Second, 150, 20)
// 向熔断器注册command(可以理解为对应的服务请求id)
testcmd := "call_serviceB"
suc := cbs.RegisterCommandAsDefault(testcmd)

// 向熔断器报告当前command的执行结果(成功或失败)
cbs.Report(testcmd, false)
cbs.Report(testcmd, true)
// ...

// 向熔断器询问当前该command是否能被执行
execAllow := cbs.AllowExec(testcmd)
--------------------- 
作者:moxiaomomo 
来源:CSDN 
原文:https://blog.csdn.net/moxiaomomo/article/details/80776906 
版权声明:本文为博主原创文章,转载请附上博文链接!

  • 12
    点赞
  • 26
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
lamp-cloud微服务脚手架的前身是zuihou-admin-cloud,从3.0.0版本开始,改名为lamp-cloud,它是lamp项目的其一员。 lamp-cloud微服务脚手架是一个基于SpringCloud(Hoxton.SR10) + SpringBoot(2.3.10.RELEASE)的SaaS微服务脚手架,具有统一授权、认证后台管理系统,其包含具备用户管理、资源权限管理、网关API、分布式事务、大文件断点分片续传等多个模块,支持多业务系统并行开发,可以作为后端服务的开发脚手架。代码简洁,架构清晰,适合学习和直接项目使用。核心技术采用Nacos、Fegin、Ribbon、Zuul、Hystrix、JWT Token、Mybatis、SpringBoot、Redis、RibbitMQ等主要框架和间件。 lamp-cloud微服务脚手架功能: 1、服务注册&发现与调用: 基于Nacos来实现的服务注册与发现,使用使用Feign来实现服务互调, 可以做到使用HTTP请求远程调用时能与调用本地方法一样的编码体验,开发者完全感知不到这是远程方法,更感知不到这是个HTTP请求。 2、服务鉴权: 通过JWT的方式来加强服务之间调度的权限验证,保证内部服务的安全性。 3、负载均衡: 将服务保留的rest进行代理和网关控制,除了平常经常使用的node.js、nginx外,Spring Cloud系列的zuul和ribbon,可以帮我们进行正常的网关管控和负载均衡。其扩展和借鉴国外项目的扩展基于JWT的Zuul限流插件,方面进行限流。 4、熔断机制: 因为采取了服务的分布,为了避免服务之间的调用“雪崩”,采用了Hystrix的作为熔断器,避免了服务之间的“雪崩”。 5、监控: 利用Spring Boot Admin 来监控各个独立Service的运行状态;利用turbine来实时查看接口的运行状态和调用频率;通过Zipkin来查看各个服务之间的调用链等。 6、链路调用监控: 利用Zipkin实现微服务的全链路性能监控, 从整体维度到局部维度展示各项指标,将跨应用的所有调用链性能信息集展现,可方便度量整体和局部性能,并且方便找到故障产生的源头,生产上可极大缩短故障排除时间。有了它,我们能做到: 请求链路追踪,故障快速定位:可以通过调用链结合业务日志快速定位错误信息。 可视化:各个阶段耗时,进行性能分析。 依赖优化:各个调用环节的可用性、梳理服务依赖关系以及优化。 数据分析,优化链路:可以得到用户的行为路径,汇总分析应用在很多业务场景。 7、数据权限 利用基于Mybatis的DataScopeInterceptor拦截器实现了简单的数据权限 8、SaaS(多租户)的无感解决方案 使用Mybatis拦截器实现对所有SQL的拦截,修改默认的Schema,从而实现多租户数据隔离的目的。 并且支持可插拔。 9、二级缓存 采用J2Cache操作缓存,第一级缓存使用内存(Caffeine),第二级缓存使用 Redis。 由于大量的缓存读取会导致 L2 的网络成为整个系统的瓶颈,因此 L1 的目标是降低对 L2 的读取次数。 该缓存框架主要用于集群环境。单机也可使用,用于避免应用重启导致的缓存冷启动后对后端业务的冲击。 10、优雅的Bean转换 采用Dozer组件来对 DTO、DO、PO等对象的优化转换 11、前后端统一表单验证 严谨的表单验证通常需要 前端+后端同时验证, 但传统的项目,均只能前后端各做一次检验, 后期规则变更,又得前后端同时修改。 故在hibernate-validator的基础上封装了zuihou-validator-starter起步依赖,提供一个通用接口,可以获取需要校验表单的规则,然后前端使用后端返回的规则, 以后若规则改变,只需要后端修改即可。 12、防跨站脚本攻击(XSS) 通过过滤器对所有请求的 表单参数 进行过滤 通过Json反序列化器实现对所有 application/json 类型的参数 进行过滤 13、当前登录用户信息注入器 通过注解实现用户身份注入 14、在线API 由于原生swagger-ui某些功能支持不够友好,故采用了国内开源的swagger-bootstrap-ui,并制作了stater,方便springboot用户使用。 15、代码生成器 基于Mybatis-plus-generator自定义了一套代码生成器, 通过配置数据库字段的注释,自动生成枚举类、数据字典注解、SaveDTO、UpdateDTO、表单验证规则注解、Swagger注解等。 16、定时任务调度器: 基于xxl-jobs进行了功能增强。(如:指定时间发送任务、执行器和调度器合并项目、多数据源) 17、大文
从Spring Boot入手,从0到1快速搭建具备高并发能力、界面友好,业务便于理解的天气预报系统,而后剖析单块架构的利弊,从而引入微服务架构的概念,并从1到0实现微服务的拆分,最后引入Spring Cloud 技术来实现对这些微服务的治理 第1章 导学及SpringCloud基石SpringBoot Spring Boot简单介绍及入门 第2章 基于Spring Boot快速构建天气预报系统 基于Spring Boot技术快速迭代,实现天气预报系统 第3章 服务拆分与业务建模 全面讲解了微服务架构原理、产生背景,以及如何来设计微服务:单块架构如何进化为微服务架构、微服务架构的设计原则、如何来设计微服务系统、如何进行微服务的拆分 第4章 天气预报系统的微服务架构设计与实现 详解讲解了如何将将天气预报系统拆分为微服务 第5章 微服务的协调者Spring Cloud 简单介绍下Spring Cloud的产生背景,以及与其他周边的技术栈的关系 第6章 微服务的注册与发现 讲解了在微服务架构,作为服务消费方的原理与实现方式。同时,采用Ribbon、OpenFeign技术,实现了服务负载均衡和高可用 第7章 微服务的消费 讲解了在微服务架构,作为服务消费方的原理与实现方式。同时,采用Ribbon、OpenFeign技术,实现了服务负载均衡和高可用 第8章 API 网关 讲解了在微服务架构,API在微服务架构的作用。同时,采用Zuul技术,实现了API网关 第9章 微服务的集化配置 讲解了在微服务架构,配置管理的重要性。同时,采用Config Server、Config Client技术,来实现微服务的配置管理 第10章 微服务熔断机制 讲解了在微服务架构熔断机制的重要性。同时,采用Hystrix技术,来实现微服务熔断机制 第11章 微服务的自动扩展介绍 讲解了在微服务架构,自动扩展的重要性。介绍了自动扩展常用算法和原理,同时,来讲解市面上常见的实现微服务的自动扩展的开源技术
SpringCloudAlibaba是一个基于SpringCloud的微服务开发框架,其包含了多个组件,包括服务注册与发现(Nacos)、服务调用(Feign和RestTemplate)、熔断器(Sentinel)等,这些组件的整合使得微服务开发变得更加高效和灵活。 SpringCloudAlibaba微服务的原理是通过服务注册与发现,服务调用和负载均衡、断路器等多个功能实现了分布式系统的管理和连接。在SpringCloudAlibaba,使用Nacos作为服务注册和发现心,将每个微服务注册到Nacos。服务提供方在注册到Nacos之后,服务消费方可以通过Nacos利用Feign或者RestTemplate来发现并调用这些服务。同时,Sentinel也可以用来实现熔断机制,防止因为某个服务出现问题而影响整个系统的运行。 SpringCloudAlibaba的实战也十分简单,首先需要引入相关的依赖。例如,在使用Nacos作为服务注册和发现心时,可以在pom.xml添加以下相关依赖: <dependency> <groupId>com.alibaba.cloud</groupId> <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId> <version>2.2.1.RELEASE</version> </dependency> 然后在启动类上添加@EnableDiscoveryClient注解,即可让该微服务进行注册。接下来,就可以使用Feign或者RestTemplate来实现服务的调用,例如: @FeignClient(value ="user-service") public interface UserServiceClient { @GetMapping("/user/{id}") User getUserById(@PathVariable("id") int id); } 最后,使用Sentinel实现熔断机制也十分简单。只需要在pom.xml添加相关依赖,然后添加相应的配置即可。例如: spring.cloud.sentinel.datasource.file.path: classpath:/META-INF/spring/cloud/nacos- flow Rule.json spring.cloud.sentinel.filter.order: -1 其,nacos-flow Rule.json是一个配置文件,存放了所有需要被熔断的服务和其对应的规则。 综上所述,SpringCloudAlibaba作为一个高效灵活的微服务开发框架,通过多个功能组件的整合,实现了分布式系统的管理和连接。其实战也十分简单,只需要引入相关依赖并添加相应配置即可。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值