Go 分布式令牌桶限流 + 兜底策略

 

上篇文章提到固定时间窗口限流无法处理突然请求洪峰情况，本文讲述的令牌桶线路算法则可以比较好的处理此场景。

工作原理

1. 单位时间按照一定速率匀速的生产 token 放入桶内，直到达到桶容量上限。
2. 处理请求，每次尝试获取一个或多个令牌，如果拿到则处理请求，失败则拒绝请求。

 

优缺点

优点

可以有效处理瞬间的突发流量，桶内存量 token 即可作为流量缓冲区平滑处理突发流量。

缺点

实现较为复杂。

代码实现

core/limit/tokenlimit.go

分布式环境下考虑使用 redis 作为桶