过载保护和限流笔记

过载保护

令牌桶算法

是一个存放固定容量令牌的桶，按照固定速率往桶里添加令牌。令牌桶算法的描述如下：

• 假设限制2r/s，则按照500毫秒的固定速率往桶中添加令牌。

• 桶中最多存放 b 个令牌，当桶满时，新添加的令牌被丢弃或拒绝。

• 当一个 n 个字节大小的数据包到达，将从桶中删除n 个令牌，接着数据包被发送到网络上。

如果桶中的令牌不足 n 个，则不会删除令牌，且该数据包将被限流（要么丢弃，要么缓冲区等待）。
token-bucket rate limit algorithm: /x/time/rate

漏桶算法

作为计量工具（The Leaky Bucket Algorithm as a Meter）时，可以用于流量整形
（Traffic Shaping）和流量控制（TrafficPolicing），漏桶算法的描述如下：

• 一个固定容量的漏桶，按照常量固定速率流出水滴。
• 如果桶是空的，则不需流出水滴。
  可以以任意速率流入水滴到漏桶。
• 如果流入水滴超出了桶的容量，则流入的水滴溢出了（被丢弃），而漏桶容量是不变的。

leaky-bucket rate limit algorithm: /go.uber.org/ratelimit

token-bucket rate limit algorithm: /x/time/rate