5.1、简介
单体服务被拆分为多个服务,调用关系错综复杂,突发大流量很可能把当前一些服务压垮,造成资源的耗尽。甚至直接导致雪崩效应。
服务限流可以把这种突发流量超出处理范围的部分丢弃掉,或者阻塞他们在队列里。避免雪崩。这个时候通过监控机制,我们可以完成扩容等方案,进而处理流量的暴增。
5.2、限流策略
限流为了限制单位时间内最大的处理速度。保证在服务不被压垮的情况下,以最大速率处理请求。一下场景会触发限流
- 拒绝服务,感知流量暴增的情况下,限制一些高频请求的客户端。
- 延时处理,缓冲队列中积压了大量的请求,并且已经达到队列上限。此时应该做限流处理。
- 服务降级,cpu等资源负载,此时应该触发限流。
5.3、限流算法
5.3.1、计数器
维护一个计数器,来一个请求,计数器加一,处理完一个请求,技术器减一。设定一个阈值,计数器达到阈值,触发限流逻辑。
优势:简单
缺点:缺点很明显,就是突发的并发大流量,直接就触发了限流。
5.3.2、队列算法
维护一个队列,请求速度突增或下降,服务总是按照一定速率去处理。队列的大小可以设置,超出限制可以直接拒绝,知道队列出现空间。