Sentinel源码阅读:整体架构设计

Sentinel框架设计

Sentinel内部构建一个一个调用关系树做为入口,内部采用高性能滑动窗口实现来进行数据采集,同时将各种不同拦截功能构造成一个连接链组成了限流、熔断等核心功能。

Sentinel 将 ProcessorSlot 作为 SPI 接口进行扩展(1.7.2 版本以前 SlotChainBuilder 作为 SPI),使得 Slot Chain 具备了扩展的能力。您可以自行加入自定义的 slot 并编排 slot 间的顺序,从而可以给 Sentinel 添加自定义的功能。

Sentinel基本概念

资源

资源是 Sentinel 的关键概念。它可以是 Java 应用程序中的任何内容,例如,由应用程序提供的服务,或由应用程序调用的其它应用提供的服务,甚至可以是一段代码。在接下来的文档中,我们都会用资源来描述代码块。

只要通过 Sentinel API 定义的代码,就是资源,能够被 Sentinel 保护起来。大部分情况下,可以使用方法签名,URL,甚至服务名称作为资源名来标示资源。

 

规则

围绕资源的实时状态设定的规则,可以包括流量控制规则、熔断降级规则以及系统保护规则。所有规则可以动态实时调整。

 

Sentinel功能和设计理念

流量控制

什么是流量控制?

流量控制就是指在网络上随机请求数据经过网络传输到服务器中,服务器端对这些随机请求进行进行某种策略的处理,比如:

1.服务器限制请求数量,超过的请求数量直接丢弃。

2.流量整型,让请求更加平滑。

因为服务器处理能力是有限的,对随机请求进行控制目的是为了保护服务器不被过量的随机请求压垮,这就是流量控制。

Sentinel流量控制设计

流量控制有以下几个角度:

  • 资源的调用关系,例如一系列接口的调用链路。
  • 运行指标,例如QPS、线程池、系统负载。
  • 控制的效果,例如直接控制、冷启动、排队等。

熔断降级

什么是熔断降级?

除了流量控制意外,系统中某些接口因为出现故障不可调用也是破坏系统稳定性的因素之一。分布式系统中由于调用关系复杂,如果调用链路中某个接口出现了不稳定,可能会导致请求发生堆积,进而导致整个系统发生错误。

 

sentinel检测发现某个资源调用出现不稳定的情况时:

  • 某个接口请求耗时变长
  • 异常比例升高

会对此类型资源调用进行某种策略的限制,如让请求快速失败避免影响到其他系统调用。这就是熔断。

 

熔断降级设计理念

在限制的手段上,Sentinel 和 Hystrix 采取了完全不一样的方法。

Hystrix 通过 线程池隔离 的方式,来对依赖(在 Sentinel 的概念中对应 资源)进行了隔离。这样做的好处是资源和资源之间做到了最彻底的隔离。缺点是除了增加了线程切换的成本(过多的线程池导致线程数目过多),还需要预先给各个资源做线程池大小的分配。

 

Sentinel的设计:

  • 通过并发线程数进行限制

和资源池隔离的方法不同,Sentinel 通过限制资源并发线程的数量,来减少不稳定资源对其它资源的影响。这样不但没有线程切换的损耗,也不需要您预先分配线程池的大小。当某个资源出现不稳定的情况下,例如响应时间变长,对资源的直接影响就是会造成线程数的逐步堆积。当线程数在特定资源上堆积到一定的数量之后,对该资源的新请求就会被拒绝。堆积的线程完成任务后才开始继续接收请求。

  • 通过响应时间进行限制

除了对并发线程数进行控制以外,Sentinel 还可以通过响应时间来快速降级不稳定的资源。当依赖的资源出现响应时间过长后,所有对该资源的访问都会被直接拒绝,直到过了指定的时间窗口之后才重新恢复。

 

系统自适应保护

Sentinel 同时提供系统维度的自适应保护能力。防止雪崩,是系统防护中重要的一环。当系统负载较高的时候,如果还持续让请求进入,可能会导致系统崩溃,无法响应。在集群环境下,网络负载均衡会把本应这台机器承载的流量转发到其它的机器上去。如果这个时候其它的机器也处在一个边缘状态的时候,这个增加的流量就会导致这台机器也崩溃,最后导致整个集群不可用。

针对这个情况,Sentinel 提供了对应的保护机制,让系统的入口流量和系统的负载达到一个平衡,保证系统在能力范围之内处理最多的请求。

已标记关键词 清除标记
相关推荐
©️2020 CSDN 皮肤主题: 游动-白 设计师:白松林 返回首页