第五章 线程池ThreadPool笔记

一、线程池介绍

在web开发中，服务器需要接受并处理请求，所以会为一个请求来分配一个线程来进行处理。如果每次请求都新创建一个线程的话实现起来非常简便，但是存在一个问题：如果并发的请求数量非常多，但每个线程执行的时间很短，这样就会频繁的创建和销毁线程，如此一来会大大降低系统的效率。可能出现服务器在为每个请求创建新线程和销毁线程上花费的时间和消耗的系统资源要比处理实际的用户请求的时间和资源更多。

那么有没有一种办法使执行完一个任务，并不被销毁，而是可以继续执行其他的任务呢？
这就是线程池的目的了。线程池为线程生命周期的开销和资源不足问题提供了解决方案。通过对多个任务重用线程，线程创建的开销被分摊到了多个任务上。

1.什么时候使用线程池？

单个任务处理时间比较短，需要处理的任务数量很大。

2. 为什么要使用线程池

在实际使用中，线程是很占用系统资源的，如果对线程管理不善很容易导致系统问题。因此，在大多数并发框架中都会使用线程池来管理线程，使用线程池管理线程主要有如下好处：

• 降低资源消耗：通过复用已存在的线程和降低线程关闭的次数来尽可能降低系统性能损耗；

• 提升系统响应速度：通过复用线程，省去创建线程的过程，因此整体上提升了系统的响应速度；假设一个服务器完成一项任务所需时间为：T1
  创建线程时间，T2 在线程中执行任务的时间，T3 销毁线程时间。如果：T1 + T3 远大于
  T2，则可以采用线程池，以提高服务器性能。线程池技术正是关注如何缩短或调整T1,T3时间的技术，从而提高服务器程序性能的。它把T1，T3分别安排在服务器程序的启动和结束的时间段或者一些空闲的时间段，这样在服务器程序处理客户请求时，不会有T1，T3的开销了。

• 提高线程的可管理性：线程是稀缺资源，如果无限制的创建，不仅会消耗系统资源，还会降低系统的稳定性，因此，需要使用线程池来管理线程。

假设一个服务器一天要处理50000个请求，并且每个请求需要一个单独的线程完成。在线程池中，线程数一般是固定的，所以产生线程总数不会超过线程池中线程的数目，而如果服务器不利用线程池来处理这些请求则线程总数为50000。一般线程池大小是远小于50000。所以利用线程池的服务器程序不会为了创建50000而在处理请求时浪费时间，从而提高效率。

3、ThreadPoolExecutor 的类关系

先看一下线程池的类图：

Executor是一个接口，它是Executor框架的基础，它将任务的提交与任务的执行分离开来。
ExecutorService接口继承了Executor，在其上做了一些shutdown()、submit()的扩展，可以说是真正的线程池接口；
AbstractExecutorService抽象类实现了ExecutorService接口中的大部分方法；
ThreadPoolExecutor是线程池的核心实现类，用来执行被提交的任务。
ScheduledExecutorService接口继承了ExecutorService接口，提供了带"周期执行"功能ExecutorService；
ScheduledThreadPoolExecutor是一个实现类，可以在给定的延迟后运行命令，或者定期执行命令。ScheduledThreadPoolExecutor比Timer更灵活，功能更强大。
4. 线程池的工作原理
当一个并发任务提交给线程池，线程池分配线程去执行任务的过程如下图所示：

二、JDK中的线程池和工作机制

1、线程池的创建

创建线程池主要是ThreadPoolExecutor类来完成，ThreadPoolExecutor的有许多重载的构造方法，通过参数最多的构造方法来理解创建线程池有哪些需要配置的参数。
ThreadPoolExecutor的构造方法为：

public ThreadPoolExecutor(int corePoolSize,int maximumPoolSize,long keepAliveTime, TimeUnit unit,
                              BlockingQueue<Runnable> workQueue,ThreadFactory threadFactory,
                              	RejectedExecutionHandler handler)

2、各个参数含义：

• 1）corePoolSize：表示核心线程池的大小。当提交一个任务时，如果当前核心线程池的线程个数小于corePoolSize，则会创建新的线程来执行所提交的任务，即使当前核心线程池有空闲的线程。如果当前核心线程池的线程个数等于corePoolSize，则不再重新创建线程，这个任务就会保存BlockingQueue，如果调用prestartAllCoreThreads()
  方法就会一次性的启动corePoolSize 个数的线程。

• 2）maximumPoolSize：表示线程池能创建线程的最大个数。如果当阻塞队列BlockingQueue已满时，并且当前线程池线程个数没有超过maximumPoolSize的话，就会创建新的线程来执行任务。

• 3）keepAliveTime：空闲线程存活时间。如果当前线程池的线程个数已经超过了corePoolSize，并且线程空闲时间超过了keepAliveTime的话，就会将这些空闲线程销毁，这样可以尽可能降低系统资源消耗。

• 4）unit：时间单位，为keepAliveTime指定时间单位。

• 5）workQueue：阻塞队列，用于保存任务的阻塞队列，可以使用ArrayBlockingQueue, LinkedBlockingQueue, SynchronousQueue, PriorityBlockingQueue。

• 6）threadFactory：创建线程的工程类。可以通过指定线程工厂为每个创建出来的线程设置更有意义的名字，如果出现并发问题，也方便查找问题原因。

• 7）handler：饱和策略，当线程池的阻塞队列已满和指定的线程都已经开启，说明当前线程池已经处于饱和状态了，那么就需要采用一种策略来处理这种情况。采用的策略有这几种：

• AbortPolicy： 直接拒绝所提交的任务，并抛出RejectedExecutionException异常；

• CallerRunsPolicy：只用调用者所在的线程来执行任务；

• DiscardPolicy：不处理直接丢弃掉任务；

• DiscardOldestPolicy：丢弃掉阻塞队列中存放时间最久的任务，执行当前任务

3、工作机制

通过ThreadPoolExecutor创建线程池后，提交任务后执行过程是怎样的？下面来通过源码来看一看。execute方法源码如下：

ThreadPoolExecutor的execute方法执行逻辑请见注释。下图为execute方法的执行示意图：

execute方法执行逻辑有这样几种情况：

• 如果当前运行的线程少于corePoolSize，则会创建新的线程来执行新的任务；

• 如果运行的线程个数等于或者大于corePoolSize，则会将提交的任务存放到阻塞队列workQueue中；

• 如果当前workQueue队列已满的话，则会创建新的线程来执行任务；

• 如果线程个数已经超过maximumPoolSize，则会使用饱和策略RejectedExecutionHandler来进行处理。
  需要注意的是，线程池的设计思想就是使用了核心线程池corePoolSize，阻塞队列workQueue和线程池maximumPoolSize，这样的缓存策略来处理任务，实际上这样的设计思想在需要框架中都会使用。
  提交任务：
  execute(Runnable command) 不需要返回。
  Future submit(Callable task) 需要返回。

4、关闭线程池：

关闭线程池，可以通过shutdown和shutdownNow这两个方法。它们的原理都是遍历线程池中所有的线程，然后依次中断线程。shutdown和shutdownNow还是有不一样的地方：
shutdownNow：首先将线程池的状态设置为STOP,然后尝试停止所有的正在执行和未执行任务的线程，并返回等待执行任务的列表。
Shutdown：只是将线程池的状态设置为SHUTDOWN状态，然后中断所有没有正在执行任务的线程。
可以看出shutdown方法会将正在执行的任务继续执行完，而shutdownNow会直接中断正在执行的任务。调用了这两个方法的任意一个，isShutdown方法都会返回true，当所有的线程都关闭成功，才表示线程池成功关闭，这时调用isTerminated方法才会返回true。

5、合理配置线程池

要想合理的配置线程池，就必须首先分析任务特性，可以从以下几个角度来进行分析：

• 5.1、任务的性质：

• ·CPU密集型任务：CPU密集型任务配置尽可能少的线程数量，如配置Ncpu+1个线程的线程池，为什么+1，防止页缺失，(机器的Cpu核心=Runtime.getRuntime().availableProcessors()?。

• IO密集型任务：IO密集型任务则由于需要等待IO操作，线程并不是一直在执行任务，则配置尽可能多的线程，如机器的Cpu核心数*2。

• 混合型任务：如果可以拆分，则将其拆分成一个CPU密集型任务和一个IO密集型任务，只要这两个任务执行的时间相差不是太大，那么分解后执行的吞吐率要高于串行执行的吞吐率，如果这两个任务执行时间相差太大，则没必要进行分解。我们可以通过Runtime.getRuntime().availableProcessors()方法获得当前设备的CPU个数。

• 5.2、任务的优先级：高，中和低

• 5.3、任务的执行时间：长，中和短。

• 5.4、任务的依赖性：是否依赖其他系统资源，如数据库连接。

任务性质不同的任务可以用不同规模的线程池分开处理：

• 优先级不同的任务可以使用优先级队列PriorityBlockingQueue来处理。它可以让优先级高的任务先得到执行，需要注意的是如果一直有优先级高的任务提交到队列里，那么优先级低的任务可能永远不能执行。
• 执行时间不同的任务可以交给不同规模的线程池来处理，或者也可以使用优先级队列，让执行时间短的任务先执行。
• 依赖数据库连接池的任务，因为线程提交SQL后需要等待数据库返回结果，如果等待的时间越长CPU空闲时间就越长，那么线程数应该设置越大，这样才能更好的利用CPU。

注意：阻塞队列最好是使用有界队列，如果采用无界队列的话，一旦任务积压在阻塞队列中的话就会占用过多的内存资源导致内存溢出，OOM，甚至会使得系统崩溃。

6、预定义的线程池

FixedThreadPool：创建固定线程数量的，适用于负载较重的服务器，使用了无界队列
SingleThreadExecutor：创建单个线程，需要顺序保证执行任务，不会有多个线程活动，使用了无界队列
CachedThreadPool：会根据需要来创建新线程的，执行很多短期异步任务的程序，使用了SynchronousQueue
WorkStealingPool：基于ForkJoinPool实现（JDK7以后）
ScheduledThreadPoolExecutor：需要定期执行周期任务，Timer不建议使用了。
newSingleThreadScheduledExecutor：只包含一个线程，只需要单个线程执行周期任务，保证顺序的执行各个任务。
newScheduledThreadPool：可以包含多个线程的，线程执行周期任务，适度控制后台线程数量的时候

方法说明：
schedule：只执行一次，任务还可以延时执行
scheduleAtFixedRate：提交固定时间间隔的任务
scheduleWithFixedDelay：提交固定延时间隔执行的任务

两者的区别：

scheduleAtFixedRate任务超时：规定60s执行一次，有任务执行了80S，下个任务马上开始执行