现在记录话单的时候想加一个参数:每秒接口调用的并发量,也就是所谓的QPS(Queries per second)。QPS即每秒请求数,是对一个特定的接口在规定时间内请求流量的衡量标准。那么如何实现QPS的计算呢?我想到的是两种方案:
1、一定时间内(比如一分钟)的请求总量/统计时间段(比如一分钟),最终得出就是每秒的并发量,它是基于某一段时间来统计的
2、直接统计一秒钟内的请求总量,就是按每秒的时间段来统计,简单粗暴
方案一的适用场景应该是报表、运维统计之类的,只关心QPS曲线;如果用来做并发量校验,明显只能用方案二,需要实时获取QPS。那么如何统计一秒内的并发量?假设某一个时间点有接口到来,那么就开始统计该接口,在一秒之内,来多少个累加多少次。一秒之后,统计数清零。之后的某一个时间点,又有接口到来,又开始统计一秒之内的接口调用量,如此循环往复。
那么如何维护一个一秒之内的接口计数器呢?我觉得失效缓存是一个合适的选择,缓存的键即为接口名,值就是接口统计数,过期时间一秒。为了避免引入第三方中间件,我们自己实现该过期缓存,需要维护一个定时器和一个优先级队列,每秒清理一次队列中已过期的缓存。
废话说完了,看代码:
1、缓存的值
import lombok.Getter;
import lombok.Setter;
import java.util.concurrent.atomic.AtomicLong;
/**
* 内部类,缓存对象,按失效时间排序,越早失效越前
* @author wulf
* @since 20200422
*/
@Getter
@Setter
public class CacheNode implements Comparable<CacheNode> {
private String key;
private AtomicLong callQuantity;
private long expireTime;
public CacheNode(String key, AtomicLong callQuantity, long expireTime) {
this.key = key;
this.callQuantity = callQuantity;
this.expireTime = expireTime;
}