Servlet 3之异步请求处理

简介

像Tomcat这样的Servlet容器，每个请求需要占用它一个线程，直到该请求被处理完才释放。对于那些处理时间长，而且大部分是IO类操作的请求，这样做会很浪费，因为处理它们的容器线程会花很长时间进行等待，却不能为其他请求服务。如果有大量这样的请求，容器的线程就会很快被占满，导致其他请求被迫等待甚至超时。

于是Servlet3 添加了异步请求处理（asynchronous request processing）的新特性，有了它我们就可以把那些处理时间长的IO类请求丢给后台线程去执行，从而可以快速释放容器线程用以服务更多的新请求。这样做可以大大提升我们服务的性能（吞吐、时延和并发上都有改进）。下面将详细介绍怎么使用这个新特性。

Servlet 3之Async Support

首先看看直接写个servlet如何使用这个异步处理功能:

第一步，需要把你的servlet声明为syncSupport，servlet3 提供了注解的方式，也可以使用web.xml配置的方式。

第二步，实现你的Servlet 的service方法:

1. 调用request.startAsync()开启异步模式，该方法将返回AsyncContext对象用于后台线程异步处理该请求。后台线程可使用AsyncContext的getRequest()和getResponse()方法来读取请求和写Response，处理完成后调用AsyncContext.complete()结束请求处理。
2. service方法可以退出了。（servlet 3还支持你将请求异步的dispatch到另一个请求地址，这里将不做介绍）

示例代码：