Nginx限流应用 & 漏桶/令牌桶算法原理

1. 前言

限流是一个后台服务的重要组成部分，尤其是在应对大量并发请求时，将流量限制到系统能够承受的范围内，才能保证系统安全高效运行。
本文从nginx配置入手，先列举限流的几种场景和nginx限流配置的用法，结合实验验证，再详细分析nginx中的漏桶算法原理。

2. 限流场景

2.1 简单限流

最简单的限流，严格按照固定速率限流，超出的请求直接拒绝。

配置示例：

http {
    limit_req_zone $binary_remote_addr zone=one:10m rate=12r/m;
    limit_req_status 429;
    server {
        location / {
            limit_req zone=one;
        }
}

• limit_req_zone 定义了共享内存空间（用于存储请求数量等状态）和请求速率
• $binary_remote_addr表示按照请求的ip地址限流
• rate=12r/m表示限定速率为12r/m（12个请求每分钟），即每5s放行一个请求
• zone=one:10m表示该空间容量为10M，名称为"one"
• server下可以对每个服务路径指定 limit_req。如上面的配置zone=one指定了使用"one"这个空间做限流

实验验证：

10.99.16.41 - - [18/Feb/2022:17:04:45 +0800.1645175085.926] [0.000s] "GET / HTTP/1.1" 200 4833 "-" "apifox/1.0.0 (https://www.apifox.cn)" "10.40.166.63"
10.99.16.41 - - [18/Feb/2022:17:04:45 +0800.1645175085.926] [0.000s] "GET / HTTP/1.1" 429 169 "-" "apifox/1.0.0 (https://www.apifox.cn)" "10.40.166.63"
10.99.16.41 - - [18/Feb/2022:17:04:45 +0800.1645175085.928] [0.000s] "GET / HTTP/1.1" 429 169 "-" "apifox/1.0.0 (https://www.apifox.cn)" "10.40.166.63"
10.99.16.41 - - [18/Feb/2022:17:04:46 +0800.1645175086.646] [0.000s] "GET / HTTP/1.1" 429 169 "-" "apifox/1.0.0 (https://www.apifox.cn)" "10.40.166.63"
10.99.16.41 - - [18/Feb/2022:17:04:46 +0800.1645175086.648] [0.000s] "GET / HTTP/1.1" 429 169 "-" "apifox/1.0.0 (https://www.apifox.cn)" "10.40.166.63"
10.99.16.41 - - [18/Feb/2022:17:04:46 +0800.1645175086.648] [0.000s] "GET / HTTP/1.1" 429 169 "-" "apifox/1.0.0 (https://www.apifox.cn)" "10.40.166.63"
10.99.16.41 - - [18/Feb/2022:17:04:46 +0800.1645175086.648] [0.000s] "GET / HTTP/1.1" 429 169 "-" "apifox/1.0.0 (https://www.apifox.cn)" "10.40.166.63"
10.99.16.41 - - [18/Feb/2022:17:04:46 +0800.1645175086.649] [0.000s] "GET / HTTP/1.1" 429 169 "-" "apifox/1.0.0 (https://www.apifox.cn)" "10.40.166.63"
10.99.16.41 - - [18/Feb/2022:17:04:46 +0800.1645175086.649] [0.000s] "GET / HTTP/1.1" 429 169 "-" "apifox/1.0.0 (https://www.apifox.cn)" "10.40.166.63"
10.99.16.41 - - [18/Feb/2022:17:04:46 +0800.1645175086.653] [0.000s] "GET / HTTP/1.1" 429 169 "-" "apifox/1.0.0 (https://www.apifox.cn)" "10.40.166.63"

其中两个中括号的内容分别表示访问时间和处理耗时。
我们在5s内发送10个请求，只有一个请求成功了，其他请求都被拒绝（状态码为limit_req_status配置的429）。

2.2 削峰填谷

在实际的场景中，可能存在突发流量的情况，在短时间内请求速率高于限定速率，但从较大时间范围看，总速率在限定的范围之内。在这种情况下，直接拒绝超额的突发流量可能不是最好的策略，更好的策略是可以接受突发请求，并以限定的速率对请求进行处理（平滑流量），这样既不会超过限定速率，又可以尽可能地处理突发流量。在nginx中，这可以通过指定burst参数实现，如当burst=5，表示当请求超过限定速率时，允许超出的请求数量为5，这5个请求会阻塞等待，以限定速率依次通过。

配置示例：

http {
    limit_req_zone $binary_remote_addr zone=one:10m rate=12r/m;
    server {
        location / {
            limit_req zone=one burst=10;
        }
}

这个配置仅在上文配置基础上，增加burst=10<