本篇文章通过服务器通信和页面渲染两个功能的实现来加深多线程中Future和Executor的理解。
服务器通信
串行执行任务
任务执行最简单的策略就是在单线程中串行执行各项任务,并不会涉及多线程。
以创建通讯服务为例,我们可以这样实现(很low)
@Test
public void singleThread() throws IOException {
ServerSocket serverSocket= new ServerSocket(8088);
while (true){
Socket conn = serverSocket.accept();
handleRequest(conn);
}
}
代码很简单,理论上没什么毛病,但是实际使用中只能处理一个请求。但是当处理任务很耗时并且在多次请求时会阻塞无法及时响应。
由此可见串行处理机制通常都无法提供高吞吐率或快速响应性。
显式的为任务创建线程
串行执行任务这么 low,我们来通过多线程来处理请求吧:当接收到请求后创建新的线程去执行任务。new Thread()应该就能实现。
初级版本:
@Test
public void perThreadTask() throws IOException {
ServerSocket serverSocket = new ServerSocket(8088);
while (true) {
Socket conn = serverSocket.accept();
Runnable r = new Runnable() {
@Override
public void run() {
handleRequest(conn);
}
};
new Thread(r).start();
}
}
微弱的优点
对于每个请求,都创建了一个线程来处理,达到多线程并行效果
任务处理从主线程分离出来,使得主循环能更快的处理下一个请求
为每个任务分配一个线程存在一些缺陷,尤其当需要创建大量的线程时
线程生命周期的开销非常高。根据平台的不同,实际的开销也不同。但是线程的创建过程都会需要时间,并且需要 JVM 和操作系统提供一些辅助操作。
资源消耗。活跃的线程会消耗系统资源,尤其是内存。如果可运行的线程数量多余可用处理器的数量,那么有些线程将闲置。大量闲置的线程会占用许多内存,给垃圾回收器带来压力。如果你已经拥有足够多的线程使所有 CPU 保持忙碌状态,那么多余的线程反而会降低性能。
稳定性。随着平台的不同,可创建线程数量的限制是不同的,并受多个因素制约,包括 JVM 的启动参数、Thread 构造函数中请求的栈大小,以及底层操作系统对线程的限制等。如果破坏了这些限制,很可能抛出 OOM 异常。
上面两种方式都存在一些问题:单线程串行的问题在于其糟糕的响应性和吞吐量;而为每个任务分配线程的问题在于资源消耗和管理的复杂性。
在 Java 类库中,任务执行的主要抽象不是 Thread,而是 Executor
public interface Executor {
void execute(Runnable command);
}
Executor 框架
Executor 基于生产者-消费者模式,提交任务的操作相当于生产者,执行任务的线程相当于消费者。
image
通讯优化
对于以前的通讯服务我们可以用 Executor 进一步优化一下
@Test
public void limitExecutorTask() throws IOException {
final int nThreads = 100;
ExecutorService exec = Executors.newFixedThreadPool(nThreads);
ServerSocket serverSocket = new ServerSocket(8088);
while (true) {
Socket conn = serverSocket.accept();
Runnable r = new Runnable() {
@Override
public void run() {
handleRequest(conn);
}
};
exec.execute(r);
}
}
线程池
线程池从字面来看时指管理一组同构工作线程的资源池。它与工作队列密切相关,它在工作队列中保存了所有等待执行的任务。
线程池通过重用现有的线程而不是创建新线程,可以在处理多个请求时分摊在线程创建和销毁过程中产生的巨大开销。另一个额外的好处是,当请求到达时,工作线程已经存在,因此不会由于等待创建线程而延迟任务的执行,挺高响应性。
JA