一。限流概念
高并发系统中有三把利器用来保护系统:缓存/降级/限流。
限流的目的是为了保护系统不被大量请求冲跨,通过限制请求的速度和次数来保护系统。在电商的秒杀活动中,限流是必不可少的一个环节
二。实现方法
限流的方式也有很多种,可以在Nginx层面限流,也可以在应用当中限流,比如在API网关中。
三。限流算法
有三种
1计数器
计算单元时间内访问接口的次数,如果达到次数,则限制访问
2令牌桶
令牌桶算法是一个存放固定容量令牌的桶,按照固定速率往桶里 添加令牌。可以控制流量也可以控制并发量
假如我们想要控制API网关的并发量最高为1000,可以创建一个令牌桶,一固定的速度往桶里添加令牌,超出1000则不添加。
当一个请求到达之后就从桶里获取一个令牌,如果能获得令牌就可以继续往下请求,获取不到说明令牌不够,并发量达到了最高,请求就被拦截
3漏桶
漏桶是一个固定容量的桶,按照固定的速率流出,可以以任意的速率流入到漏桶中,超出了漏桶的容量就被丢弃,
总容量是不变的。但是输出的速率是固定的,无论你上面的水流入的多快,下面的出口只有这么大,就像水坝开闸放水一样
具体请看下文!!