java高qps接口设计_高并发后端设计-限流篇

系统在设计之初就会有一个预估容量，长时间超过系统能承受的TPS/QPS阈值，系统可能会被压垮，最终导致整个服务不够用。为了避免这种情况，我们就需要对接口请求进行限流。

限流的目的是通过对并发访问请求进行限速或者一个时间窗口内的的请求数量进行限速来保护系统，一旦达到限制速率则可以拒绝服务、排队或等待。

常见的限流模式有控制并发和控制速率，一个是限制并发的数量，一个是限制并发访问的速率，另外还可以限制单位时间窗口内的请求数量。

一.控制并发数量

属于一种较常见的限流手段，在实际应用中可以通过信号量机制(如Java中的Semaphore)来实现。

举个例子，我们对外提供一个服务接口，允许最大并发数为10，代码实现如下：

public classDubboService {private final Semaphore permit = new Semaphore(10, true);public voidprocess(){try{

permit.acquire();//业务逻辑处理

}catch(InterruptedException e) {

e.printStackTrace();

}finally{

permit.release();

}

}

}

在代码中，虽然有30个线程在执行，但是只允许10个并发的执行。Semaphore的构造方法Semaphore(int permits) 接受一个整型的数字，表示可用的许可证数量。Semaphore(10)表示允许10个线程获取许可证，也就是最大并发数是10。Semaphore的用法也很简单