前言
在目前的互联网中,一个互联网的云产品,会有很多突发性的高并发访问场景,这些场景最大的特点就是访问量会远远超出系统所能够处理的并发数。如果没有任何保护机制,所有的流量一旦流入服务器,很可能造成服务器宕机,从而整个系统不可用,造成巨大的损失。面对这些场景,为保证平台的稳定运行,需要采取一定的系统保护策略,常见的策略有服务降级、限流和熔断等。
服务限流
限流:限制并发访问数或者限制一个时间窗口内允许处理的请求数量来保护系统,一旦达到限制数量则对当前请求进行处理采取对应的拒绝策略,比如:
- 跳转到错误页面拒绝请求
- 进入排队系统
- 降级,返回默认数据
本质上来说,限流就是牺牲一部分用户的可用性来保证大部分用户能稳定