Servlet异步请求

Tomcat实现异步Servlet

有时Servlet在生成响应报文前需要等待某些耗时的操作，例如等待一个可用的JDBC连接或等待一个远程Web服务的响应，因此会导致Servlet中等待阻塞会导致web整体处理能力低下，所以对于比较耗时的操作可以放置到另外一个线程中进行处理，此过程保留连接的请求和响应对象，在处理完成之后可以把处理的结果通知到客户端，对于这种情况servlet规范中定义了异步处理方式。

Servlet在同步情况下的处理过程：Tomcat的客户端请求由管道处理最后会通过Wrapper容器的管道，这时它会调Servlet实例的service方法进行逻辑处理，处理完后响应客户端，整个处理由Tomcat的Executor线程池的线程处理，而线程池的最大线程数使有限制的，所以这个处理过程越短、越快把线程让回线程池就越好。但如果Servlet中的处理逻辑耗时越长就会导致长期地占用Tomcat的处理线程池，影响Tomcat的整体性能。 
为了解决上面的问题引入了支持异步的Servlet，同样是客户端请求到来，然后通过管道最后进入到Wrapper容器的管道，调用Servlet实例的service后，创建一个异步上下文（AysncContext）将耗时的逻辑操作封装起来，交给自己定义的线程池，这时Tomcat的处理线程就能马上回到Executor线程池，而不用等待耗时的操作完成才让出线程，从而提升了Tomcat的整体处理能力。这里要注意的是，由于后面做完耗时的操作后还需要对客户端响应，所以需要保持住Request和Response对象，以便输出响应报文到客户端。

Servlet异步处理 
再结合一个简单的异步代码来看Tomcat对Servlet异步的实现：

@WebServlet(urlPatterns = “/some.do”, asyncSupported = true) 
//想要实现异步的servlet需要添加WebServlet的注解，注解中添加属性asyncSupported=true 
//如果使用web.xml设置Servlet，则可以在中设置async-supported标签为true 
 

public class AsyncServlet extends HttpServlet { 
//自定义线程池 
    ScheduledThreadPoolExecutor userExecutor = new ScheduledThreadPoolExecutor(2);
    public void doGet(HttpServletRequest req, HttpServletResponse res) {
         response.setContentType("text/html; charset=UTF8");
        AsyncContext aCtx = req.startAsync(req, res);//AysncContext
        userExecutor.execute(new AsyncHandler(aCtx));//执行异步处理逻辑
    }
}

public class AsyncHandler implements Runnable {

public class AsyncHandler implements Runnable {
    private AsyncContext ctx;
    public AsyncHandler(AsyncContext ctx) {
        this.ctx = ctx;
    }
}

(请求与响应对象都封装在AsyncContext中，所以AsyncRequest建构时必须接受AsyncContext实例。范例中以暂停线程的方式来模拟长时间处理?，并输出简单的字符串作为响应文字?，最后调用AsyncContext的complete()对客户端完成响应。)

@Override 
public void run() { 
//耗时操作 
    PrintWriter pw; 
    try { 
        Thread.sleep(1000); 
        pw = ctx.getResponse().getWriter(); 
        pw.print(“done!”); 
        pw.flush(); 
        pw.close(); 
    } catch (IOException e) { 
        e.printStackTrace(); 
    } 
    ctx.complete(); 
    } 
} 

如果Servlet将会进行异步处理，若其前端有过滤器，则过滤器亦需标示其支持异步处理，如果使用@WebFilter，同样可以设置其asyncSupported为true。例如： 
@WebFilter(urlPatterns = “/some.do”, asyncSupported = true) 
public class AsyncFilter implements Filter{ 

…

如果使用web.xml设置过滤器，则可以设置async-supported标签为true：

我们创建一个AsyncServlet，它定义了一个userExecutor线程池专门用于处理该Servlet的所有请求的耗时的逻辑操作。这样就不会占用Tomcat内部的Executor线程池，影响到对其他Servlet的处理。这种思想有点像资源隔离，耗时的操作统一由指定的线程池处理，而不要影响其它耗时少的请求处理。

Servlet的异步的实现就很好理解了，startAsync方法其实就是创建了一个异步上下文AsyncContext对象，该对象封装了请求和响应对象。然后创建一个任务用于处理耗时逻辑，后面通过AsyncContext对象获得响应对象并对客户端响应，输出“done!”。将暂缓至调用AsyncContext的complete()或dispatch()方法为止，前者表示响应完成，后者表示将调派指定的URL进行响应。