消峰限流有哪几种方式？

fajianchen

已于 2024-10-09 13:37:23 修改

阅读量1.2k

点赞数 36

分类专栏：技术战术系统设计 IT架构文章标签：运维架构服务器

于 2024-10-08 08:08:49 首次发布

本文链接：https://blog.csdn.net/qq_30621637/article/details/142750247

版权

IT架构同时被 3 个专栏收录

11 篇文章 0 订阅

订阅专栏

系统设计

9 篇文章 1 订阅

订阅专栏

技术战术

1 篇文章 0 订阅

订阅专栏

消峰限流的方式

业务视角
1. 验证码
2. 回答问题环节

技术视角

消息队列异步化用户请求

限流，对流量进行层层过滤

nginx 层限流，

一是控制速率 limit_req 漏桶算法

limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;
server { 
    location / { 
        limit_req zone=mylimit;
    }
}
**-------------------------------------------------------------**
**以上配置表示，限制每个 IP 访问的速度为 2r/s**
limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;
server { 
    location / { 
        limit_req zone=mylimit **burst**=4;
    }
}

burst=4 表示每个 IP 最多允许4个突发请求，如果单个 IP 在 10ms 内发送 6 次请求
会有 1 个请求被立即处理了，4 个请求被放到 burst 队列里排队执行了，
另外 1 个请求被拒绝了。
**--------------------------------------------------------------**
limit_req_zone $userId zone=mylimit:10m rate=2r/s;
server { 
    location / { 
        limit_req zone=mylimit;
    }
}
**基于用户ID的限流**

二是控制并发连接数 limit_conn_zone limit_conn

limit_conn_zone $binary_remote_addr zone=perip:10m;
limit_conn_zone $server_name zone=perserver:10m;
server {
    ...
    limit_conn perip 10;
    limit_conn perserver 100;
}
其中 limit_conn perip 10 表示限制单个 IP 同时最多能持有 10 个连接；
limit_conn perserver 100 表示 server 同时能处理并发连接的总数为 100 个