异步 Servlet

1.什么是异步 Servlet

在 Servlet3.0 之前，Servlet 采用 Thread-Per-Request 的方式处理 Http 请求，即每一次请求都是由某一个线程从头到尾负责处理。
如果一个请求需要进行 IO 操作，比如访问数据库、调用第三方服务接口等，那么其所对应的线程将同步地等待 IO 操作完成， 而 IO 操作是非常慢的，所以此时的线程并不能及时地释放回线程池以供后续使用，如果并发量很大的话，那肯定会造性能问题。
传统的 MVC 框架如 SpringMVC 也无法摆脱 Servlet 的桎梏，原因很简单，他们都是基于 Servlet 来实现的。如 SpringMVC 中大家所熟知的 DispatcherServlet。
为了解决这一问题，Servlet3.0 中引入了异步 Servlet，然后在 Servlet3.1 中又引入了非阻塞 IO 来进一步增强异步处理的性能。

2.版本关系

从上图我们可以看出，Servlet3.0 对应的 Tomcat 版本是 7.0.x，Servlet3.1 对应的 Tomcat 版本是 8.0.x。 换句话说，如果我们要使用异步 Servlet，Tomcat 至少要 7.0 以上的版本；如果你还想体验一把非阻塞 IO，那么 Tomcat 至少要 8.0 以上。

3.基本用法

先来看一个大家熟悉的同步 Servlet：

@WebServlet(urlPatterns = "/sync")
public class SyncServlet extends HttpServlet {
    @Override
    protected void doPost(HttpServletRequest request, HttpServletResponse
            response) throws ServletException, IOException {
        doGet(request, response);
    }

    @Override
    protected void doGet(HttpServletRequest request, HttpServletResponse
            response) throws ServletException, IOException {
        long start = System.currentTimeMillis();
        printLog(request, response);
        System.out.println("总耗时：" + (System.currentTimeMillis() - start));
    }

    private void printLog(HttpServletRequest request, HttpServletResponse
            response) throws IOException {
        try {
            Thread.sleep(3000);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        response.getWriter().write("ok");
    }
}

这个 Servlet 大家再熟悉不过了。
前端请求到达后，我们调用 printLog 方法做一些处理，同时把 doGet 方法执行耗时打印出来。
在 printLog 中，我们先休息 3s，然后给前端返回一个字符串给前端。
前端发送请求，最终 doGet 方法中耗时 3001 毫秒。
这是我们大家熟知的同步 Servlet。在整个请求处理过程中，请求会一直占用 Servlet 线程，直到一个请求处理完毕这个线程才会被释放。
接下来我们对其稍微进行改造，使之变为一个异步 Servlet。
有人可能会说，异步有何难？直接把 printLog 方法扔到子线程里边去执行不就行了？但是这样会有另外一个问题，子线程里边没有办法通过 HttpServletResponse 直接返回数据，所以我们一定需要Servlet 的异步支持，有了异步支持，才可以在子线程中返回数据。
我们来看改造后的代码：

@WebServlet(urlPatterns = "/async", asyncSupported = true)
public class AsyncServlet extends HttpServlet {
    @Override
    protected void doPost(HttpServletRequest request, HttpServletResponse
            response) throws ServletException, IOException {
        doGet(request, response);
    }

    @Override
    protected void doGet(HttpServletRequest request, HttpServletResponse
            response) throws ServletException, IOException {
        long start = System.currentTimeMillis();
        AsyncContext asyncContext = request.startAsync();
        CompletableFuture.runAsync(() ->
                printLog(asyncContext, asyncContext.getRequest(), asyncContext.getResponse()));
        System.out.println("总耗时：" + (System.currentTimeMillis() - start));
    }

    private void printLog(AsyncContext asyncContext, ServletRequest request,
                          ServletResponse response) {
        try {
            Thread.sleep(3000);
            response.getWriter().write("ok");
            asyncContext.complete();
        } catch (InterruptedException | IOException e) {
            e.printStackTrace();
        }
    }
}

这里的改造主要有如下几方面：
1. @WebServlet 注解上添加 asyncSupported 属性，开启异步支持。
2. 调用 request.startAsync(); 方法开启异步上下文。
3. 通过 JDK8 中的 CompletableFuture.runAsync 方法来启动一个子线程（当然也可以自己 new 一
个子线程）。
4. 调用 printLog 方法时的 request 和 response 重新构造，直接从 asyncContext 中获取，注意，
这点是【关键】。
5. 在 printLog 方法中，方法执行完成后，调用 asyncContext.complete() 方法通知异步上下文请求
处理完毕。
经过上面的改造之后，现在的控制台打印出来的总耗时几乎可以忽略不计了。
也就是说，有了异步 Servlet 之后，后台 Servlet 的线程会被及时释放，释放之后又可以去接收新的请求，进而提高应用的并发能力。
第一次接触异步 Servlet 的小伙伴可能会有一个误解，以为用了异步 Servlet 后，前端的响应就会加快。这个怎么说呢？后台的并发能力提高了，前端的响应速度自然会提高，但是我们一两个简单的请求是很难看出这种提高的。