限流算法
限流:通过对并发访问/请求进行限速,或者对一个时间窗口内的请求进行限速来保护系统,一旦达到限制速率则可以拒绝服务、排队或等待、降级等处理
1.固定窗口算法(计数器算法)
计数器算法使用计数器在一个周期内累计访问的次数,达到预定的值时,就触发限流策略。下一个周期计数清零,重新计数。
这种算法比较简单,但是存在临界问题,即假设1min内限制访问量为1000,在第一个周期的最后五秒收到1000请求,在第二个周期的最开始五秒收到1000请求,实际上在十秒内已经收到2000请求,超过了限制的访问量。这种算法的限流策略比较粗糙,无法应对两个时间窗口临界时间内的突发流量。
2.滑动窗口算法
为了解决固定窗口算法存在的问题。
在任意一个周期的时间间隔内,接口的请求次数都不能大于设定值。
即将时间周期划分为多个小周期,统计每个小周期的访问量,根据时间滑动删除过期的小周期。划分的小周期越多,滑动窗口的滚动越平滑,限流统计越精确。
但是这种方法也只能在选定的时间粒度上限流,对于选定时间粒度内的更加细的粒度的访问频率无法限制。
3.漏桶算法
如果将请求看作水,水来了之后全都放进桶里,桶以限定的速率出水,当水溢出时,即拒绝服务。
漏桶算法的出水速度是恒定的,如果瞬时有大流量的话,会有大部分请求被丢弃掉。
漏桶可以看作是一个带有常量服务时间的单服务器队列,如果漏桶(包缓存)溢出,那么数据包会被丢弃。