springcloud限流
限流的概念
限流的密度是为啦保护系统不被大量请求冲垮通过限制请求的速度和次数来保护
比如在双11这种就限流是必不可少的
我是在api网管上限流
限流算法
计数器:
计算单元时间内访问接口的次数,如果达到次数,则限制访问
令牌桶:
令牌桶算法是一个存放固定容量令牌的桶,按照固定速率往桶里添加令牌。可以控制流量也可以控制并发量,
假如我们想要控制 API 网关的并发量最高为 1000,可以创建一个令牌桶,以固定的速度往桶里添加令牌,超出了 1000 则不添加。
当一个请求到达之后就从桶中获取一个令牌,如果能获取到令牌就可以继续往下请求,
获取不到就说明令牌不够,并发量达到了最高,请求就被拦截
漏桶:
漏桶是一个固定容量的桶,按照固定的速率流出,可以以任意的速率流入到漏桶中,超出了漏桶的容量就被丢弃,
总容量是不变的。但是输出的速率是固定的,无论你上面的水流入的多快,下面的出口只有这么大,就像水坝开闸放水一样
令牌桶算法
在zuuls 网管项目上filter文件下创建一个LimiterFilter类
package com.jwxt.filter;
import com.alibaba.fastjson.JSON;
import com.google.common.util.concurrent.RateLimiter;
import com.jwxt.response.Result;
import com.jwxt.response.ResultCode;
import com.netflix.zuul.ZuulFilter;
import com.netflix.zuul.context.RequestContext;
import com.netflix.zuul.exception.ZuulException;
import org.springframework.stereotype.Component;
@Component
public class LimiterFilter extends ZuulFilter {
private static volatile RateLimiter rateLimiter= RateLimiter.create(1);
public LimiterFilter(){
super();
}
@Override
public String filterType() {
return "pre";
}
@Override
public int filterOrder() {
return 0;
}
@Override
public boolean shouldFilter() {
return true;
}
@Override
public Object run() throws ZuulException {
if (!rateLimiter.tryAcquire()){
RequestContext context=RequestContext.getCurrentContext();
context.setSendZuulResponse(false);
Result result=new Result(ResultCode.SERVICE_IS_RATE_LIMIT);
context.setResponseBody(JSON.toJSONString(result));
context.getResponse().setContentType("application/json;charset=utf-8");
//http请速度过大
context.setResponseStatusCode(429);
}
return null;
}
}
计数器: Spring Cloud Zuul通过zuul-ratelimit实现限流
1.在zuuls项目pox里面导入依赖
<dependency>
<groupId>com.marcosbarbero.cloud</groupId>
<artifactId>spring-cloud-zuul-ratelimit</artifactId>
<version>2.0.6.RELEASE</version>
</dependency>
2.全局限流配置在application.yml中配置
zuul:
routes:
jwxt-teacher:
path: /teacher/**
service-id: jwxt-teacher
jwxt-learner:
path: /student/**
service-id: jwxt-learner
ignored-services: '*'
ratelimit: #3秒内访问不允许超过 2 次,并且这 2 次请求要小于 5 秒
enabled: true # 开启限流开关
behind-proxy: true # 开启限流代理
default-policy: #
limit: 2 #单元时间内置允许访问2次
quota: 5 #单元时间内每个请求不得超过5秒
refresh-interval: 3 #单元时间 3秒