Java限流及常用解决方案总结

前言

说到限流，想必大家都不陌生，一个很简单的例子就是，在12306上面买票的时候，遇到某时刻开始抢票的时候，经常页面会弹出一个类似请稍后重试的提示，从后端的技术层面来看，大概有2层解释，第一是服务器担心扛不住瞬时的高并发流量被拖垮而快速响应，另一个就是对当前的这个请求做了限流

限流基本概念

结合大家过往经验，不难理解“限流”的含义，对一般的限流场景来说它具有两个维度的信息：

• 时间 限流基于某段时间范围或者某个时间点，也就是我们常说的“时间窗口”，比如对每分钟、每秒钟的时间窗口做限定
• 资源 基于可用资源的限制，比如设定最大访问次数，或最高可用连接数

上面两个维度结合起来看，限流就是在某个时间窗口对资源访问做限制，比如设定每秒最多100个访问请求。但在真正的场景里，我们不止设置一种限流规则，而是会设置多个限流规则共同作用，主要的几种限流规则如下：

QPS和连接数控制

对于图中连接数和QPS)限流来说，我们可设定IP维度的限流，也可以设置基于单个服务器的限流。

在真实环境中通常会设置多个维度的限流规则，比如设定同一个IP每秒访问频率小于10，连接数小于5，再设定每台机器QPS最高1000，连接数最大保持200。更进一步，我们可以把某个服务器组或整个机房的服务器当做一个整体