J-框架-springcloud-Hystrix熔断服务

布式系统面临的问题:
复杂分布式体系结构中的应用程序有数十个依赖关系,每个依赖关系在某些时候将不可避免失败!
在这里插入图片描述

1.服务雪崩

多个微服务之间调用时,假设微服务A调用微服务b和微服务c,微服务b和微服务c又调用其他微服务,这就是所谓的“扇出”,如果扇出的链路上某个微服务的调用相应时间过长,或者不可用,对微服务a的调用就会占用越来越多的系统资源,进而引起系统崩溃,所谓的“雪崩效应”。
对于高流浪应用来说,单一的后端依赖可能会导致所有服务器上的所有资源在几十秒内饱和。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,备份队列,线程和其他系统资源紧张,导致整个系统发生更大的级联故障,这些都表示需要对故障和延迟进行隔离管理,以达到单个依赖关系的失败而不影响整个应用程序或系统运行。

我们需要弃车保帅

2.什么是Hystrix?

Hystrix是一个应用于处理分布式系统的延迟和容错的开源库,在分布式系统中许多依赖不可避免的调用失败,比如超时,异常等***,Hystric能够保障在一个依赖出现问题的情况下,不会导致整个体系服务失败,避免级联故障,以提高分布式系统的弹性。***

“断路器”本身就是一个开关装置,当某个的服务故障后,通过断路器的故障监控(类似熔断保险丝),向调用方法返回一个服务预期的,可处理的备选响应(FallBack),而不是长时间的等待或者抛出调用方法无法进行异常处理,这样就可以保证了服务调用方法的线程不会长时间不必要的占用,从而避免了故障在分布式系统中的蔓延,乃至雪崩。

在这里插入图片描述

3.Hystrix能干嘛?

1.服务降级
2.服务熔断
3.服务限流
4.接近实时的监控
······
官网资料:https://github.com/Netflix/Hystrix/wiki

①当一切正常时,请求流可以如下所示:
在这里插入图片描述
②当许多后端系统中有一个潜在阻塞服务时,它可以阻止整个用户请求:
在这里插入图片描述
③随着大容量通信量的增加,单个后端依赖项的潜在性会导致所有服务器上的所有资源在几秒钟内饱和。

应用程序中通过网络或客户端库可能导致网络请求的每个点都是潜在故障的来源。比失败更糟糕的是,这些应用程序还可能导致服务之间的延迟增加,从而备份队列、线程和其他系统资源,从而导致更多跨系统的级联故障。
在这里插入图片描述
④当使用Hystrix包装每个基础依赖项时,上面的图表中所示的体系结构会发生类似于以下关系图的变化。每个依赖项是相互隔离的,限制在延迟发生时它可以填充的资源中,并包含在回退逻辑中,该逻辑决定在依赖项中发生任何类型的故障时要做出什么样的响应:
在这里插入图片描述

4.什么是服务熔断

熔断机制是赌赢雪崩效应的一种微服务链路保护机制。
当扇出链路的某个微服务不可用或相应时间过长时,进行服务降级,进而熔断该节点微服务的调用,快速返回错误响应信息。检测到该节点微服务调用相应正常后恢复调用链路。在springcloud框架里熔断机制采用Hystrix实现。Hystrix会监控微服务间调用状态,当是失败的调用到硬顶阈值缺省5秒内20调用失败,就会启用熔断机制。熔断机制注解:@HystixCommand。
服务熔断解决如下问题:
1.当所依赖对象不稳定时,能够起到快速失败的目的。
2.快速失败后,能够依据一定的算法动态试探依赖对象是否恢复。

入门案例:

5.服务降级

1.什么是服务降级
服务降级是指当服务压力剧增的情况下,根据实际业务情况及流量,对一些服务和页面有策略的不处理,或换种简单的方式处理,从而释放服务资源以保证核心业务正常运行或高效运作。说白了,就是尽可能把系统资源让给优先级高的服务。
资源有限,而请求时无限的。如果在明发高峰期,不做服务降级处理,一方面肯定会影响整体服务的性能,严重的话会导致宕机某些严重的服务不可用。所以,一般在高峰期,为了保证核心功能服务的可用性,需要对某些服务降级处理。比如双十一获取,把交易无关的服务通通降级,如查看蚂蚁森林等。
服务降级主要用于什么场景?当整个微服务架构整体的负载超出预设的上限阈值或即将到来的流量预计将会超过预设的阈值时,为了保证重要或基本的服务能正常运行,可以将一些不重要或不紧急的服务或任务进行服务的延迟使用或暂停使用。
降级的方式可以根据业务来,可以延迟服务,比如延迟给用户增加积分,只放到一个缓存中,等服务平稳之后再执行;或者在粒度范围内关闭服务,比如关闭相关文章推荐。
在这里插入图片描述
由上图可知,当某一时间内服务A的访问量暴增,而b和c的访问量较少,为了缓解a服务的压力,这时需要b和c暂时关闭一些服务功能,去承担A的部分服务,从而为a分担压力,叫做服务降级。
服务降级需要考虑的问题:
1.那些服务是核心服务,哪些服务是非核心服务。
2.哪些服务可以支持降级,哪些服务不能支持降级,降级策略是什么。
3.除服务降级之外是否存在更复杂的业务放通场景,策略是什么。
自动降级分类:
1)超时降级:主要配置好超时时间和超时重试次数和机制,并使用异步机制探测回复情况

2)失败次数降级:主要是一些不稳定的api,当失败调用次数达到一定阀值自动降级,同样要使用异步机制探测回复情况

3)故障降级:比如要调用的远程服务挂掉了(网络故障、DNS故障、http服务返回错误的状态码、rpc服务抛出异常),则可以直接降级。降级后的处理方案有:默认值(比如库存服务挂了,返回默认现货)、兜底数据(比如广告挂了,返回提前准备好的一些静态页面)、缓存(之前暂存的一些缓存数据)

4)限流降级:秒杀或者抢购一些限购商品时,此时可能会因为访问量太大而导致系统崩溃,此时会使用限流来进行限制访问量,当达到限流阀值,后续请求会被降级;降级后的处理方案可以是:排队页面(将用户导流到排队页面等一会重试)、无货(直接告知用户没货了)、错误页(如活动太火爆了,稍后重试)。
入门案例

服务熔断和降级的区别:
1.服务熔断:服务端:某个服务超时异常,引起熔断-,类似于保险丝-(自我熔断)

2.服务降级:客户端:从网站请求负载考虑,当某个服务熔断或关闭之后,服务将不再被调用,此时客户端,我们可以准备一个FallBackFactrory,返回一个默认后值(缺省值)。会导致整体的服务下降,到那时好歹能用,比直接挂掉强。

3.触发原因不一样,服务熔断一般值某个服务(下游服务)故障引起,而服务降级一般是从整个负载考虑;管理目标的层次不太一样,熔断其实是一个框架级的处理过程,每个微服务都需要(无层级之分),而降级一般需要对业务有层级之分(比如降级一般是从最外围开始)

4.实现方式不一样,服务降级具有代码侵入性(由控制器完成、或自动降级),熔断一般是自我熔断。

熔断,降级,限流:

限流:限制并发的请求访问量,超过阈值则拒绝;

降级:服务分优先级,牺牲非核心服务(不可用),保证核心服务稳定;从整体负荷考虑;

熔断:依赖的下游服务故障触发熔断,避免引发本系统崩溃;系统自动执行和恢复

6.Dashboard流监控

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值