一般用RateLimiter来限制服务访问其他资源的qps。 假设第三方服务接口限流75,我们需要配置预热时间3秒,固定速率增加qps限制(需要足够请求数来使其达到饱和值,否则速率还会下降),3秒后达到最大qps=75; RateLimiter rateLimiter = RateLimiter.create(75, 3, TimeUnit.SECONDS); rateLimiter.acquire(); //TODO 调用第三方服务接口
这么做是为了使qps较为平稳的达到最大值。如果不是平稳达到最大qps,会导致瞬间流量激增(存在时间偏移问题),限流问题的出现。
时间偏移问题:第一秒产生了75个令牌,我们先消费了40个;在第一秒的最后一豪秒突然有100个请求到来,我们只能获取35个令牌,这时到了第二秒,获取65个令牌,100>75,第二秒调用第三方服务接口被限流。如果设置为平滑过渡,就不会存在这样的问题。