RateLimiter单机限流

一般用RateLimiter来限制服务访问其他资源的qps。


假设第三方服务接口限流75，我们需要配置预热时间3秒，固定速率增加qps限制（需要足够请求数来使其达到饱和值，否则速率还会下降），3秒后达到最大qps=75；

RateLimiter rateLimiter = RateLimiter.create(75, 3, TimeUnit.SECONDS);
rateLimiter.acquire();
//TODO 调用第三方服务接口

 

这么做是为了使qps较为平稳的达到最大值。如果不是平稳达到最大qps，会导致瞬间流量激增（存在时间偏移问题），限流问题的出现。

 

时间偏移问题：第一秒产生了75个令牌，我们先消费了40个；在第一秒的最后一豪秒突然有100个请求到来，我们只能获取35个令牌，这时到了第二秒，获取65个令牌，100>75，第二秒调用第三方服务接口被限流。如果设置为平滑过渡，就不会存在这样的问题。