并发编程(二)：线程池

为什么要使用线程池？

1. 降低资源消耗：通过重复利用已创建的线程降低线程创建和销毁造成的消耗。
2. 提高响应速度：当任务到达时，任务可以不需要等到线程创建就能立即执行。
3. 提高线程的可管理性：线程是稀缺资源，如果无限制地创建，不仅会消耗系统资源，还会降低系统的稳定性，使用线程池可以进行统一分配、调优和监控。

Executor框架

组成

Executor框架主要由三大部分组成：

1. 任务：包括被执行任务需要实现的Runnable接口或Callable接口。
2. 任务的执行：包括任务执行机制的核心接口Executor，以及继承自Executor的ExecutorService接口。
3. 异步计算的结果：包括接口Future和实现Future接口的FutureTask类。

线程池核心参数

1. corePoolSize（核心线程数）：当提交一个任务到线程池时，线程池会创建一个线程来执行任务，即使其他空闲的基本线程能够执行新任务也会创建线程，等到需要执行的任务数大于核心线程数大小时就不再创建。

如果调用了线程池的prestartAllCoreThreads()方法，线程池会提前创建并启动所有基本线程。

2. workQueue（任务队列）：用于保存等待执行的任务的阻塞队列。

• ArrayBlockingQueue：基于数组的有界阻塞队列，此队列按FIFO原则对元素进行排序。
• LinkedBlockingQueue：基于链表的无界阻塞队列，此队列按FIFO排序元素，吞吐量通常要高于ArrayBlockingQueue，FixedThreadPool使用了这个队列。
• SynchronousQueue：不存储元素的阻塞队列。每个插入操作必须等到另一个线程调用移除操作，否则插入操作一直处于阻塞状态，吞吐量通常要高于LinkedBlockingQueue，CachedThreadPool使用了这个队列。
• PriorityBlockingQueue：具有优先级的无界阻塞队列。

3. maximumPoolSize（最大线程数量）：线程池允许创建的最大线程数。如果队列满了，并且已创建的线程数小于最大线程数，则线程池会再创建新的线程执行任务。如果使用了无界任务队列这个参数就没什么效果。

4. ThreadFactory：用于设置创建线程的工厂，可以通过线程工厂给每个创建出来的线程设置名字。

5. RejectedExecutionHandler（拒绝策略）：当队列和线程池都满了，说明线程池处于饱和状态，那么必须采取一种策略处理提交的新任务。这个策略默认情况下是AbortPolicy，表示无法处理新任务时抛出异常。

• AbortPolicy：直接抛出异常。
• CallerRunsPolicy：只用调用者所在线程来运行任务。
• DiscardOldestPolicy：丢弃队列里最近的一个任务，并执行当前任务。
• DiscardPolicy：不处理，丢弃掉。

6. keepAliveTime（线程允许空闲时间）：线程池的工作线程空闲后，保持存活的时间。如果任务很多，并且每个任务执行的时间比较短，可以调大时间，提高线程的利用率。

如何合理配置线程池参数？

要想合理地配置线程池，就必须首先分析任务特性，可以从以下几个角度来分析：

1. 任务的性质：CPU密集型任务、IO密集型任务和混合型任务。

• CPU密集型任务：CPU密集型任务应配置尽可能小的线程数，如配置Ncpu+1个线程的线程池；
• IO密集型任务：IO密集型任务线程并不是一直在执行任务，则应配置尽可能多的线程，如2*Ncpu;
• 混合型的任务：如果两个任务执行的时间相差不是太大，可以拆分成一个CPU密集型任务和一个IO密集型任务，那么分解后执行的吞吐量将高于串行执行的吞吐量；如果这两个任务执行时间相差太大，则没必要进行分解;

可以通Runtime.getRuntime().availableProcessors()方法获得当前设备的CPU个数。

2. 任务的优先级：高、中和低。

优先级不同的任务可以使用优先级队列PriorityBlockingQueue来处理，它可以让优先级高的任务先执行。

3. 任务的执行时间：长、中和短。

执行时间不同的任务可以交给不同规模的线程池来处理，或者可以使用优先级队列，让执行时间短的任务先执行。

4. 任务的依赖性：是否依赖其他系统资源，如数据库连接。

依赖数据库连接池的任务，因为线程提交SQL后需要等待数据库返回结果，等待的时间越长，则CPU空闲时间就越长，那么线程数应该设置得越大，这样才能更好地利用CPU。

线程池状态

1. RUNNING：该状态的线程池会接收新任务，并处理任务队列中的任务。

• 调用线程池的shutdown()方法，可以切换到SHUTDOWN状态；
• 调用线程池的shutdownNow()方法，可以切换到STOP状态；

2. SHUTDOWN:该状态的线程池不会接收新任务，但会处理任务队列中的任务。

• 任务队列为空，并且线程池中执行的任务也为空，进入TIDYING状态；

3. STOP：该状态的线程不会接收新任务，也不会处理任务队列中的任务，而且会中断正在运行的任务。

• 线程池中执行的任务为空，进入TIDYING状态；

4. TIDYING：该状态表明所有的任务已经运行终止，记录的任务数量为0；

• terminated()执行完毕，进入TERMINATED状态；

5. TERMINATED：该状态表示线程池彻底终止；

ThreadPoolExecutor

ThreadPoolExecutor是线程池的核心实现类，用来执行被提交的任务。

处理流程

1. 提交一个任务后，如果当前运行的线程数 < 核心线程数corePoolSize，则创建一个新的工作线程来执行任务；
2. 如果当前运行的线程数 ≥ 核心线程数corePoolSize且工作队列workQueue没有满，则将新提交的任务放入工作队列workQueue中等待执行；
3. 当前运行的线程数 ≥ 核心线程数corePoolSize且工作队列workQueue已满，如果当前运行的线程数 < 最大线程数maximumPoolSize，则创建一个新的工作线程来执行任务；
4. 当前运行的线程数 ≥ 核心线程数corePoolSize、工作队列workQueue已满且当前运行的线程数 ≥ 最大线程数maximumPoolSize，则交由饱和策略来处理这个任务。

类型

ThreadPoolExecutor通常使用工厂类Executors来创建。Executors可以创建3种类型的ThreadPoolExecutor：SingleThreadExecutor、FixedThreadPool和CachedThreadPool。

SingleThreadExecutor

1. 特点

1. SingleThreadExecutor是使用单个worker线程的Executor。
   2.SingleThreadExecutor的corePoolSize和maximumPoolSize被设置为1（其他参数与FixedThreadPool相同）。
2. SingleThreadExecutor使用无界队列LinkedBlockingQueue作为线程池的工作队列（队列的容量为Integer.MAX_VALUE）。

2. 适用场景

SingleThreadExecutor适用于需要保证顺序地执行各个任务，并且在任意时间点，不会有多个线程是活动的应用场景。

FixedThreadPool

1. 特点

1. FixedThreadPool是可重用固定线程数的线程池。
2. FixedThreadPool使用无界队列LinkedBlockingQueue作为线程池的工作队列（队列的容量为Integer.MAX_VALUE）。
3. FixedThreadPool的corePoolSize和maximumPoolSize都被设置为创建FixedThreadPool时指定的参数nThreads。

public static ExecutorService newFixedThreadPool(int nThreads) {
   
    return new ThreadPoolExecutor(nThreads, nThreads, 0L, TimeUnit.MILLISECONDS, new LinkedBlockingQueue<Runnable>());
}

使用无界队列的影响

1. 当线程池中的线程数达到corePoolSize后，新任务将在无界阻塞队列中等待，因此线程池中的线程数不会超过corePoolSize；
2. 使用无界队列时maximumPoolSize将是一个无效参数；
3. 使用无界队列时keepAliveTime将是一个无效参数；
4. 使用无界队列时运行中的FixedThreadPool（未执行方法shutdown()或shutdownNow()）不会拒绝任务（不会调用RejectedExecutionHandler.rejectedExecution()方法）。
5. 使用无界队列可能会堆积越来越多的任务，最终导致OOM；

2. 处理流程

1. 如果当前运行的线程数 < corePoolSize，则创建新线程来执行任务；
2. 如果当前运行的线程数 = corePoolSize，则将任务加入workQueue；
3. 线程执行完【1】中的任务后，循环从workQueue获取任务来执行；

适用场景

FixedThreadPool适用于为了满足资源管理的需求，而需要限制当前线程数量的应用场景，它适用于负载比较重的服务器。

CachedThreadPool

1. 特点

1. CachedThreadPool是一个会根据需要创建新线程的线程池；
2. CachedThreadPool的corePoolSize被设置为0，maximumPoolSize被设置为Integer.MAX_VALUE，即maximumPool是无界的；
3. CachedThreadPool的keepAliveTime被设置为60L，意味着CachedThreadPool中的空闲线程等待新任务的最长时间为60秒，线程空闲时间超过60秒后将会被终止。
4. CachedThreadPool使用没有容量的SynchronousQueue作为线程池的工作队列，但CachedThreadPool的maximumPool是无界的。这意味着，如果主线程提交任务的速度高于maximumPool中线程处理任务的速度时，CachedThreadPool会不断创建新线程。极端情况下，CachedThreadPool会因为创建过多线程而耗尽CPU和内存资源。

2. 处理流程

1. 首先执行SynchronousQueue.offer()。如果当前maximumPool中有空闲线程正在执行SynchronousQueue.poll()，主线程把任务交给空闲线程执行，execute()方法执行完成；
2. 当初始maximumPool为空，或者maximumPool中当前没有空闲线程时，此时CachedThreadPool会创建一个新线程执行任务，execute()方法执行完成。
3. 在【2】中新创建的线程将任务执行完后，会执行SynchronousQueue.poll()。这个poll操作会让空闲线程最多在SynchronousQueue中等待60秒。如果60秒内主线程提交了一个新任务，那么这个空闲线程将执行主线程提交的新任务；否则这个空闲线程将终止。由于空闲60秒的空闲线程会被终止，因此长时间保持空闲的CachedThreadPool不会使用任何资源。

3. 适用场景

CachedThreadPool是无界的线程池，适用于执行很多的短期异步任务的小程序，或者是负载较轻的服务器。

执行过程

1. 创建线程池

ExecutorService threadPool = Executors.newFixedThreadPool(10);

/**
 * 创建FixedThreadPool线程池
 * @param nThreads 核心线程数
 * @return ExecutorService
 */
public static ExecutorService newFixedThreadPool(int nThreads) {
   
	return new ThreadPoolExecutor(nThreads, nThreads, , TimeUnit.MILLISECONDS, new LinkedBlockingQueue<Runnable<