-
降级:当服务出问题或者影响到核心流程的性能则需要暂时屏蔽掉
-
限流:解决服务雪崩,级联服务发生阻塞时,及时熔断,防止请求堆积消耗占用系统的线程、IO等资源,造成其他级联服务所在服务器的崩溃
这里我们主要说一下限流,限流的目的应当是通过对并发访问/请求进行限速或者一个时间窗口内的的请求进行限速来保护系统,一旦达到限制速率就可以拒绝服务、等待、降级。 首先,我们需要去了解最基本的两种限流算法。
限流算法
====
-
漏桶算法
-
令牌桶算法
-
计算器算法
限流框架
====
下面说一下现有流行的限流工具
guava
Google的Guava工具包中就提供了一个限流工具类——RateLimiter。
RateLimiter是基于“令牌通算法”来实现限流的。
hystrix
hystrix主要是通过资源池以及信号量来限流,暂时能支持简单的限流
sentinel
限流比较主流的三种算法:漏桶,令牌桶,滑动窗口。而Sentinel采用的是最后一种,滑动窗口来实现限流的。当然sentinel不仅仅局限于限流,它是一个面向分布式服务架构的高可用流量防护组件,主要以流量为切入点,从限流、流量整形、熔断降级、系统负载保护、热点防护等多个维度来帮助开发者保障微服务的稳定性。
限流实战
====
有很多应用都是可以直接在调用端、代理、网关等中间层进行限流,下面简单介绍下集中中间件限流方式
nginx限流
nginx限流方式有三种
-
limit_conn_zone
-
limit_req_zone
-
ngx_http_upstream_module
但是nginx限流不够灵活,不好动态配置。
zuul限流
除了zuul引入限流相关依赖
com.marcosbarbero.cloud
spring-cloud-zuul-ratelimit
2.0.0.RELEASE
相关配置如下:
zuul:
ratelimit:
key-prefix: your-prefix #对应用来标识请求的key的前缀
enabled: true
repository: REDIS #对应存储类型(用来存储统计信息)默认是