原文:http://blog.csdn.net/he90227/article/details/52262163
什么是异步模式
如何在Spring MVC中使用异步提高性能?
一个普通 Servlet 的主要工作流程大致如下:
用户查询开始到返回结果到页面,此处是一个同步的过程,如果做成异步的能提高系统响应的性能
以下3个步骤都在同一个线程中完成 --- 同步阻塞 --- 请求等待
首先,Servlet 接收到请求之后,可能需要对请求携带的数据进行一些预处理;
接着,调用业务接口的某些方法,以完成业务处理;
最后,根据处理的结果提交响应,Servlet 线程结束。
其中第二步的业务处理通常是最耗时的,这主要体现在数据库操作,以及其它的跨网络调用等,在此过程中,Servlet 线程一直处于阻塞状态,直到业务方法执行完毕,
在处理业务的过程中,请求的连接线程数是有限的, Servlet 资源一直被占用而得不到释放,对于并发较大的应用,这有可能造成性能的瓶颈
使用异步处理:
首先,Servlet 接收到请求之后,可能首先需要对请求携带的数据进行一些预处理;
接着,Servlet 线程将请求转交给一个异步线程来执行业务处理,线程本身返回至容器(线程池)
此时 Servlet 还没有生成响应数据,异步线程处理完业务以后,可以直接生成响应数据(异步线程拥有 ServletRequest 和 ServletResponse 对象的引用),或者将请求继续转发给其它 Servlet。
如此一来, Servlet 线程不再是一直处于阻塞状态以等待业务逻辑的处理,而是启动异步线程之后可以立即返回, Servlet request请求线程可以被快速释放回Web容器,从而提高并发性
Spring MVC 3.2 开始引入Servlet 3中的基于异步的处理request.往常是返回一个值,而现在是一个Controller方法可以返回一个java.util.concurrent.Callable对象和从Spring MVC的托管线程生产返回值.
同时Servlet容器的主线程退出和释放,允许处理其他请求(处理Http请求的线程是有限的,这里提前释放,可以大大提高并发性)。Spring MVC通过TaskExecutor的帮助调用Callable在一个单独的线程。
并且当这个Callable返回时,这个rquest被分配回Servlet容器使用由Callable的返回值继续处理。
Spring MVC 异步调用 原理:
Spring返回的Callable被RequestMappingHandlerAdapter拦截,使用SimpleAsyncTaskExecutor线程池处理,
每当任务被提交到此“线程池(这里就交线程池了)”时,线程池产生一个新的线程去执行Callable中的代码,
每次都产生新的线程而且没有上上限(默认没有上限的,可以设置concurrencyLimit属性来设置线程数的大小)
但:SimpleAsyncTaskExecutor 线程池性能不好,可使用自定义的线程池来代替
1.使用ThreadPoolTaskExecutor --- 该线程池可设置线程大小,有缓冲队列,空闲线程存活时间等
2.封装Guava的线程池 --- 效率高
eg:
ThreadPoolTaskExecutor --- org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor
配置:
1.设置ThreadPoolTaskExecutor线程池属性
class="org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor">
2.在Spring MVC的 中配置,使用该线程池替换默认的 SimpleAsyncTaskExecutor 线程池
default-timeout="600">
说明:
Callable任务的超时处理 --- 自定义拦截器实现
MyCallableInterceptor implements CallableProcessingInterceptor --- 自定义Callable拦截器 , 可在这里处理Callable任务的超时问题
public Object handleTimeout(NativeWebRequest request, Callable task)
throws Exception {
HttpServletResponse servletResponse = request.getNativeResponse(HttpServletResponse.class);
if (!servletResponse.isCommitted()) {
servletResponse.setContentType("text/plain;charset=utf-8");
servletResponse.getWriter().write("超时了");
servletResponse.getWriter().close();
}
return null;
}
可优化