当服务在短时间内迎来高并发,并发量超过服务承受的范围就需要使用限流。
通过请求限速或者对一个时间窗口内的请求进行限速来保护服务。当达到限制速率则可以拒绝请求,返回错误代码,或者定向到友好页面。
一般的中间件都会有单机限流框架,支持两种限流模式:
控制速率
控制并发
这里通过 Guava 中的 Bucket4j 来实现限流操作。按照惯例引入 Bucket4j 的依赖:
<dependency>
<groupId>com.github.vladimir-bukhtoyarov</groupId>
<artifactId>bucket4j-core</artifactId>
<version>4.0.0</version>
</dependency>
由于需要对于用户请求进行监控,因此通过实现 GatewayFilter 的方式自定义 Filter,然后再通过 Gateway API Application 应用这个自定义的 Filter。
这里我们使用的是令牌桶的方式进行限流,因此需要设置桶的容量(capacity),每次填充的令牌数量(refillTokens)以及填充令牌的间隔时间(refillDuration)。
初始化这三个参数以后,通过 createNewBucket 方法针对请求建立令牌桶(bucket),在 Filter 方法中实现限流的主要逻辑。
通过 ServerWebExchange 获取请求的上下文中的 IP 信息,针对 IP 建立对应的令牌桶,这个 IP 与令牌桶的对应关系放到了 LOCAL_CACHE 中