集群限流架构设计

一、单机版

1、在本地进程中进行统计，使用常用限流方式

2、Nginx中限流，使用lua脚本统计经过该Nginx的实例和接口量

 

二、集群版

A、B、C三个服务端节点组成集群，需要将某个接口限制TPS最大为1万；

使用一个统计监控服务节点（主备方式做高可用），A、B、C三个节点每秒向统计节点发送每次统计结果数据：请求量、正确处理量、每次请求耗时等；

统计监控服务节点每分钟统计一次，得出每个节点应该分配多少请求量，三个节点每秒从统计节点获取一次该请求量的值，然后在本地进行单机限流。

1、通过耗时进行分配方案：A平均每次请求耗时10ms、B 50ms、C 100ms；

三个数相加 10+50+100=160；

那么三个节点获取到的请求量权重比则为：

A：160-10=150，范围为(0, 150]

B：150+（160-50)=260，范围为(150, 260]

C：260+（160-100）=320，范围为(260, 320]

从而可以得出每个节点的权重，也就可以得出1万次请求中，每个节点应该分配多少次，每分钟更新次结果。

 

回头研究下sentinel哨兵框架做限流