线程池几乎是运用场景最多的并发框架,几乎所有需要异步或并发执行任务的程序都可以使用线程池。使用线程池的好处主要有以下3点:
- 降低资源消耗。通过重复利用已创建的线程降低线程创建和销毁造成的消耗。
- 提高响应速度。当任务到达时,任务可以不需要等到线程创建就能立即执行。
- 提高线程的可管理型。线程是稀缺资源,如果无限制的创建,不仅会消耗系统资源,还会降低系统的稳定性,使用线程池可以进行统一分配、调用和监控。
线程池是如何工作的呢?
- 线程池判断核心线程池里的线程是否都在执行任务。如果不是,则创建一个新的工作线程来执行任务。如果核心线程池里的线程都在执行任务,则进入下个流程。
- 线程池判断工作队列是否已经满。如果工作队列没有满,则将新提交的任务存储在这个工作队列里。如果工作队列已经满了,则进入下个流程。
- 线程池判断线程池的状态是否都处于工作状态。如果没有,则创建一个新的工作线程来执行任务。如果已经满了,则交给饱和策略来处理这个任务。
ThreadPoolExecutor执行execute方法份下面4种情况:
- 如果当前运行的线程少于corePoolSize,则创建新的线程来执行任务。(注意,执行这一步需要获取全局锁)
- 如果运行的线程等于或多于corePoolSize,则将任务加入BlockingQueue。
- 如果无法将任务加入BlockingQueue(队列已满),则创建新的线程来处理任务(注意,执行这一步需要获取全局锁)
- 如果创建新线程将使当前运行的线程超出 maximumPoolSize,任务将被拒绝,并调用RejectedExecutionHandler.rejectedExecution() 方法。
具体的源码如下:
public void execute(Runnable command) {
if (command == null)
throw new NullPointerException();
/*
* Proceed in 3 steps:
*
* 1. If fewer than corePoolSize threads are running, try to
* start a new thread with the given command as its first
* task. The call to addWorker atomically checks runState and
* workerCount, and so prevents false alarms that would add
* threads when it shouldn't, by returning false.
*
* 2. If a task can be successfully queued, then we still need
* to double-check whether we should have added a thread
* (because existing ones died since last checking) or that
* the pool shut down since entry into this method. So we
* recheck state and if necessary roll back the enqueuing if
* stopped, or start a new thread if there are none.
*
* 3. If we cannot queue task, then we try to add a new
* thread. If it fails, we know we are shut down or saturated
* and so reject the task.
*/
int c = ctl.get();
if (workerCountOf(c) < corePoolSize) {
if (addWorker(command, true))
return;
c = ctl.get();
}
if (isRunning(c) && workQueue.offer(command)) {
int recheck = ctl.get();
if (! isRunning(recheck) && remove(command))
reject(command);
else if (workerCountOf(recheck) == 0)
addWorker(null, false);
}
else if (!addWorker(command, false))
reject(command);
}
线程池的使用
- 线程池的创建
new ThreadPoolExecutor(corePoolSize, maximumPoolSize, keepAliveTime, milliseconds, runnableTaskQueue, handler);
几个参数解释一下:
-
corePoolSize (线程池的基本大小):当提交一个任务到线程池时,线程池会创建一个线程来执行任务,即使其他空闲的基本线程能够执行新任务也会创建线程,等到需要执行的任务数大于线程池基本大小时就不再创建。如果调用了线程池的 prestartAllCoreThreads() 方法,线程池会提前创建并启动所有基本线程。
-
runnableTaskQueue(任务队列): 用于保存等待执行的任务的阻塞队列。可以选择以下几个阻塞队列
-
ArrayBlockingQueue:是一个基于数组结构的有界阻塞队列,该队列按照FIFO原则对元素进行排序。
-
LinkedBlockingQueue:是一个基于链表结构的阻塞队列,按照FIFO原则进行排序,吞吐量通常要高于ArrayBlockingQueue。静态工厂方法 Executors.newFixedThreadPool() 使用了这个队列。
-
SynchronousQueue: 一个不存储元素的阻塞队列。每一个插入操作都必须等到另一个线程调用移出操作,否则插入操作一直处于阻塞状态,吞吐量要高于LinkedBlockingQueue,静态工厂方法 Executors.newCachedThreadPool() 使用了这个队列。
-
PriorityBlockingQueue:一个具有优先级的无限阻塞队列
-
-
maximumPoolSize(线程池最大数量):线程池允许创建的最大线程数,如果队列满了,并且已经创建的线程数小于最大线程数,则线程池会在创建新的线程来执行任务。值得注意的是,如果使用了无界的队列这个参数就没有什么效果。
-
ThreadFactory:用于设置创建线程的工厂,可以通过线程工厂给每个创建出来的线程设置更有意义的名字。
-
RejectedExecutionHandler(饱和策略) :当队列和线程池都满了,说明线程池处于饱和状态,那么必须采取一种策略处理提交的新任务。这个策略默认情况下是AbortPolicy, 表示无法处理新任务抛出异常。有以下几种策略:
-
AbortPolicy:直接抛出异常。
-
CallerRunsPolicy:只用调用者所在线程来运行任务。
-
DiscardOlderstPolicy:丢弃队列里最近的一个任务,并执行当前任务。
-
DiscardPolicy:不处理,丢弃掉。
-
-
keepAliveTime(线程活动保持时间):线程池的工作线程空闲后,保持存活的时间。所以,如果任务很多,并且每个任务执行的时间比较短,可以调大时间,提高线程的利用率。
-
TimeUnit(线程活动保持时间的单位):可选的单位有 天(DAYS)、小时(HOURS)、分钟(MINUTES)、毫秒(MILLISECONDS)、微秒(MICROSECONDS,千分之一毫秒)和纳秒(NANOSECONDS,千分之一微秒)
-
- 向线程池提交任务
-
可以使用两个方法向线程池提交任务,分别为execute() 和 submit() 方法
其中execute方法用于提交不需要返回值的任务,所以无法判断任务是否被线程池执行成功。
submit方法用于提交需要返回值的任务。线程池会返回一个future类型的对象,通过这个future对象可以判断任务是否执行成功,并且通过future的get()方法来获取返回值,get()方法会阻塞当前线程知道任务完成,而使用get(long timeout, TimeUnit unit) 方法会阻塞当前线程一段时间后立即返回,这时候有可能任务没有执行完。
-
-
关闭线程池
-
可以通过调用线程池的shutdown() 或 shutdownNow() 方法来关闭线程池。他们的原理是遍历线程池中的工作线程,然后逐个调用线程的interrupt() 方法来中断线程,所以无法响应中断的任务可能永远无法终止。但是他们存在一定的区别,shutdownNow() 首先将线程池的状态设置成 STOP , 然后尝试停止所有的正在执行或暂停任务的线程,并返回等待执行任务的列表,而shutdow() 只是将线程池的状态设置成SHUTDOWN状态,然后中断所有没有正在执行任务的线程。
-
- 合理配置线程池
- 首先分析任务特性,从以下几个角度来分析。
- 任务的性质:CPU密集型任务、IO密集型任务和混合型任务
- 任务的优先级: 高、中和低
- 任务的执行时间长短: 长、中和短
- 任务的依赖性:是否依赖其他系统资源,如数据库连接等。
- 对于性质不同的任务可以用不同规模的线程池分开处理。cpu密集型任务应配置尽可能小的线程,如配置N(cpu) + 1 个线程的线程池。由于IO密集型任务线程并不是一直在执行任务,则应配置尽可能多的线程,如2 * N(cpu)。而对于混合型的任务,如果可以拆分,将其拆成一个CPU密集型任务和IO密集型任务,只要这两个任务执行的时间相差不是太大,那么分解后执行的吞吐量将高于串行执行的吞吐量;如果这两个任务执行时间相差太大,则没必要进行分解。
- 优先级不同的任务可以使用优先级队列PriorityBlockingQueue来处理。他可以让优先级高的任务先执行。(注意饥饿问题)
- 执行不同的任务可以交给不同规模的线程池来处理,或者可以使用优先级队列,让执行时间短的任务先执行。
- 依赖数据库连接池的任务,因为线程提交SQL后需要等待数据库返回结果,等待的时间越长,则CPU空转的时间越长,那么线程应该设置的很大,这样才能更好的利用CPU。
- 首先分析任务特性,从以下几个角度来分析。