亿级流量架构的服务限流思路与方法

接口时间窗口

固定时间窗口算法（也就是前面提到的计数器算法）的问题是统计区间太大，限流不够精确，而且在第二个统计区间时没有考虑与前一个统计区间的关系与影响（第一个区间后半段 + 第二个区间前半段也是一分钟）。为了解决上面我们提到的临界问题，我们试图把每个统计区间分为更小的统计区间，更精确的统计计数。

在上面的例子中，假设QPS可以接受100次查询/秒，前一分钟前40秒访问很低，后20秒突增，并且这个持续了一段时间，直到第二分钟的第40秒才开始降下来，根据前面的计数方法，前一秒的QPS为94，后一秒的QPS为92，那么没有超过设定参数，但是！但是在中间区域，QPS达到了142，这明显超过了我们的允许的服务请求数目，所以固定窗口计数器不太可靠，需要滑动窗口计数器。

计数器算法其实就是固定窗口算法，只是它没有对时间窗口做进一步地划分，所以只有1格；由此可见，当滑动窗口的格子划分的越多，也就是将秒精确到毫秒或者纳秒，那么滑动窗口的滚动就越平滑，限流的统计就会越精确。需要注意的是，消耗的空间就越多。

限流实现

这一部分是限流的具体实现，简单说说，毕竟长篇代码没人愿意看。

guava实现

引入包：

com.google.guava

guava

28.1-jre

核心代码：

LoadingCache<Long, AtomicLong> counter = CacheBuilder.newBuilder().

expireAfterWrite(2, TimeUnit.SECONDS)

.build(new CacheLoader<Long, AtomicLong>() {

@Override

public AtomicLong load(Long secend) throws Exception {

// TODO Auto-generated method stub

return new AtomicLong(0);

}

});

counter.get(1l).incrementAndGet();

令牌桶实现

稳定模式（SmoothBursty：令牌生成速度恒定）：

public static void main(String[] args) {

// RateLimiter.create(2)每秒产生的令牌数

RateLimiter limiter = RateLimiter.create(2);

// limiter.acquire() 阻塞的方式获取令牌

System.out.println(limiter.acquire());;

try {

Thread.sleep(2000);

} catch (InterruptedException e) {

// TODO Auto-generated catch block

e.printStackTrace();

}

System.out.println(limiter.acquire());;

System.out.println(limiter.acquire());;

System.out.println(limiter.acquire());;

System.out.println(limiter.acquire());;

System.out.println(limiter.acquire());;

System.out.println(limiter.acquire());;

}

RateLimiter.create(2)容量和突发量，令牌桶算法允许将一段时间内没有消费的令牌暂存到令牌桶中，用来突发消费。

渐进模式（SmoothWarmingUp：令牌生成速度缓慢提升直到维持在一个稳定值）：

// 平滑限流，从冷启动速率（满的）到平均消费速率的时间间隔

RateLimiter limiter = RateLimiter.create(2,1000l,TimeUnit.MILLISECONDS);

System.out.println(limiter.acquire());;

try {

Thread.sleep(2000);

} catch (InterruptedException e) {

// TODO Auto-generated catch block

e.printStackTrace();

}

System.out.println(limiter.acquire());;

System.out.println(limiter.acquire());;

System.out.println(limiter.acquire());;

System.out.println(limiter.acquire());;

System.out.println(limiter.acquire());;

System.out.println(limiter.acquire());;

超时：

boolean tryAcquire = limiter.tryAcquire(Duration.ofMillis(11));

在timeout时间内是否能够获得令牌，异步执行。

分布式系统限流

小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数初中级Java工程师，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新Java开发全套学习资料》送给大家，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频

如果你觉得这些内容对你有帮助，可以添加下面V无偿领取！（备注Java）

最后

金三银四到了，送上一个小福利！

409242711)]

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频

如果你觉得这些内容对你有帮助，可以添加下面V无偿领取！（备注Java）
[外链图片转存中…(img-yjhbBC16-1710409242711)]

最后

金三银四到了，送上一个小福利！

[外链图片转存中…(img-pto0xi0H-1710409242712)]

[外链图片转存中…(img-7GeoHhlh-1710409242712)]

[外链图片转存中…(img-75aewM2T-1710409242713)]

本文已被CODING开源项目：【一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码】收录