SpringMVC异步化请求初探(续-請求背压)

SpringMVC异步化请求初探(续-請求背压)

基础

有时候可能会遇到服务器请求数过大的情况，如果不做处理，服务器很容易被拖垮，这时候需要限流保证一部分请求正常处理，拒绝超过阈值的请求，优先保证服务器的可用性。

RxJava2.0 支持backpressure, 但是SpringMVC 目前还不支持响应式请求，所以我在这里使用了ThreadPoolExecutor的RejectedExecutionHandler来做限流和拒绝请求。

直接上代码：

    # battleService.battle() 方法专用的线程池
    private final Executor executor = 
    new ThreadPoolExecutor(20, 200, 60L, TimeUnit.SECONDS,new LinkedBlockingDeque<>(400), new ThreadPoolExecutor.AbortPolicy());

    # 异步请求
    @RequestMapping("/battle")
    public Single<APIResponse<BattleSimulationResult>> battle(@ModelAttribute(MEMBER_ID) final long member_id, @Validated final BattleForm form, final BindingResult result) {
        checkArgument(!result.hasErrors());
        return Single
                .create((SingleOnSubscribe<APIResponse<BattleSimulationResult>>) e ->
                        e.onSuccess(APIResponse.<BattleSimulationResult>builder().data(battleService.battle(member_id, form)).build()))
                .subscribeOn(Schedulers.from(executor));
    }

这样做可以保证battle方法有独立的线程资源，其他线程出现问题也不会占用battle的资源，同时，battle方法也实现了限流，遇到高流量也不会压垮服务器，处理不过来的请求直接报错返回。还可以动态灵活的设置线程池大小，手动清空线程池，保证服务可用。

缺点是需要对每个方法的代码进行修改，工作量大。不如使用nginx limit模块对整个服务进行限流。