springBoot-性能优化-异步响应

业务开发中，有很多场景会有比较耗时的操作

比如需要调用第三方接口查询数据、发邮件等

都有可能需要1秒以上的时间

如果按照传统的方式处理，即是线程阻塞1秒以上的时间去等待结果，再把结果返回给用户

而且处理请求的线程池中线程数总是有限的，如果线程都阻塞在等待中，后续的请求只能排队等候

这也就影响到了服务器的并发处理能力

为了让请求的线程尽早的释放出来，就需要使用异步方式处理耗时的请求

简单的思路就是当有耗时操作时，让请求的线程先退出，把任务交给另一个线程来处理，

这样请求的线程就可以继续处理后面的请求，提高了服务器的并发处理能力

 

Servlet API3.0就增加了异步处理方法，考虑到使用写底层servlet的机会比较少，主流的开发还是基于springboot 或springmvc

本文主要解释一下springboot的异步处理方法

两个关键词：WebAsyncTask DefferedResult 

方法一：WebAsyncTask

创建一个Callable对象，并由新线程去执行耗时任务，并由新线程返回response给用户

@RestController
public class GreetingController {


    @RequestMapping("/greeting")
    public  WebAsyncTask<byte[]> greeting(@RequestParam(value="name", defaultValue="World") String name) {

        Callable<byte[]> callable = new Callable<byte[]>() {

            @Override
            public byte[] call() throws Exception {
                // TODO Auto-generated method stub
                try {
                    //等待三秒，模拟耗时或阻塞操作
                    Thread.sleep(3000);
                    System.out.println("业务处理线程方法执行完毕时间 : "+System.currentTimeMillis()+"秒");
                    byte[] bs = "123456".getBytes();
                    return bs;
                } catch (InterruptedException e) {
                    // TODO Auto-generated catch block
                    e.printStackTrace();
                }
                return null;
            }
        };


        System.out.println("请求处理线程方法执行完毕时间  : "+System.currentTimeMillis()+"秒");

        return new WebAsyncTask<byte[]>(callable);
    }
}

 

方法二：DefferedResult 

创建一个DefferedResult 对象，把这个对象寄存起来，可以创建一个新线程来处理耗时任务，也可以交给其它线程处理，比如下面的代码，就是交给一个定时任务来处理，你也可以把这个对象交给队列的订阅事件来处理，这样就是一个完全不阻塞的流程了。

@RestController
public class TestDelay{

    private static Map<String,DeferredResult<String>> deferreds=new ConcurrentHashMap<>();
	

	@RequestMapping("testDeferred")
	public DeferredResult<String> testDeferred(@RequestParam("msgId") String msgId) {
		DeferredResult<String> deferredResult = new DeferredResult<>();
		deferreds.put(msgId, deferredResult);
		return deferredResult;
	}
	/**
	 * 定时任务
	 */
	@Scheduled(fixedDelay = 5000)
	public void taskResp() {
		logger.debug(deferreds);
		if(deferreds!=null && deferreds.size()>0) {
			deferreds.forEach((k,deferredResult)->{
				try {
	                deferredResult.setResult(k+"1234");
	                deferreds.remove(k);
				} catch (Exception e) {
					// TODO Auto-generated catch block
					e.printStackTrace();
				}
			});
		}
	}

}

由上面两个例子可以看出：

WebAsyncTask 可以释放请求的主线程，但还是要另一个线程来阻塞处理

DefferedResult 则可以用非阻塞的方法来处理请求

所以在实际场景中，会更多的使用到DefferedResult