第九章 Java中的线程池
合理使用线程池的好处:
- 降低资源消耗。通过重复利用已创建的线程降低相称创建和销毁造成的消耗。
- 提高响应速度。当任务到达时,任务可以不需要等到线程创建就能立即执行。
- 提高线程的可管理性。线程是稀缺资源,如果无节制的创建,不仅会消耗系统资源,还会降低系统的稳定性,使用线程池可以进行统一的分配、调优、和监控。
9.1 线程池的实现原理
当一个新任务提交到线程池时,线程池处理流程如下:
- 线程池判断核心线程池里的线程是否都在执行任务。如果不是,则创建一个新的工作线程来执行任务。如果核心线程池里的线程都在执行任务,则进入下一个流程。
- 线程池判断工作队列是否已满。如果工作队列未满,则将新提交的任务存储在这个工作队列中。如果工作队列满了,则将进入下一个流程。
- 线程池判断线程池的线程是否都处于工作状态。如果没有,则创建一个新的工作线程来执行任务。如果已经满了,则交给饱和策略来处理这个任务。
ThreadPoolExecutor
执行execute
方法分为下面四种情况(与上述原理类似):
- 如果当前运行的线程少于
corePoolSize
,则创建新的线程来执行任务。 - 如果运行的线程等于或多于
corePoolSize
,则将任务加入BlockingQueue
。 - 如果无法将任务加入
BlockingQueue
(队列已满),则创建新的线程来处理任务。 - 如果创建新线程将使当前运行的线程超出
maximumPoolSize
,任务将被拒绝,并调用RejectedExecutionHandler.rejectedExecution()
方法。
注意:
- 第一步和第三步中,创建线程需要获取全局锁。
ThreadPoolExecutor
的总体设计思路是为了在执行execute()
方法时,尽可能避免获取全局锁,因为在线程数量达到corePoolSize
之后,几乎所有的execute()
方法都在执行不需要全局锁的步骤2。- 已创建的工作线程
Worker
执行完成任务之后,将循环获取工作队列中的任务来执行。如果队列中获取不到任务了,线程在等待一定时间(参数设置)之后将死亡。
9.2 线程池的使用
9.2.1 线程池的创建
通过ThreadPoolExecutor
来创建线程池:
new ThreadPoolExecutor(corePoolSize, keepAliveTime, milliseconds, runableTaskQueue, Handler); //还有TheadFactory,不传则使用默认线程工厂
参数含义如下:
corePoolSize
(核心池的大小):当提交一个新任务到线程池时,线程池会创建一个线程来执行任务,知道线程池中线程数达到corePoolSize
,即使其他空闲的基本线程能够执行新任务也会创建线程。如果调用线程池的preStartAllCoreThreads()
方法,线程池会提前创建并启动所有核心线程。runnableTaskQueue
(任务队列):用于保存等待执行的任务阻塞队列。可选择的阻塞队列:ArrayBlockingQueue
:是一个基于数组结构的有界阻塞队列,元素基于FIFO原则排序。LinkedBlockingQueue
:是一个基于数组结构的有界阻塞队列,排序基于FIFO。SynchronousQueue
:一个不存储元素的阻塞队列。每个插入操作必须等到另一个线程调用移除操作,否则插入操作一直处于阻塞状态。吞吐量通常要高于LinkedBlockingQueue
,静态工厂方法Executor.newCacheThreadPool
使用了这个队列。PriorityBlockingQueue
:一个具有优先级的无线阻塞队列。
maximumPoolSize
(线程池的最大数量):线程池允许创建的最大线程数。如果队列满了,并且已创建的线程数少于最大线程数,则线程池会再创建新的线程执行任务。如果使用了无界的任务队列,这个参数就没有效果。ThreadFactory
:用于设置创建线程的工厂,可以通过线程工厂个i每个创建出来的线程设置更有意义的名字。一般使用ThreadFactoryBuilder
,代码如下:new ThreadFactoryBuilder().setNameFormat("XX-task-%d").build();
RejectedExecutionHandler
(饱和策略):当队列和线程池都满了,说明线程池处于饱和状态,用于处理新提交任务的策略。默认是AbortPolicy
,表示无法处理新任务时抛出异常。可选择的饱和策略:AbortPolicy
:直接抛出异常。CallerRunsPolicy
:只用调用者所在线程来运行任务。DiscardOlderPolicy
:丢弃队列里最近的一个任务,并执行当前任务。DiscardPolicy
:不处理,丢弃掉。
也可以根据应用场景需要实现
RejectedExecutionHandler
接口自定义策略。如记录日志或者持久化存储不能处理的任务等。keepAliveTime
(线程活动保持时间):线程池的工作线程空闲后,保持存活的时间。如果任务多,且任务执行时间较短,可以调大时间,提高线程利用率。TimeUnit
(线程活动保持时间的单位):可选的单位有DAYS
、HOURS
、MINNUTES
、MILLISECONDS
、MICROSECONDS
、NANOSECONDS
。
9.2.2 向线程池提交任务
向线程池提交任务的方法有两个,分别时execute()
和submit()
。
execute()
方法用于提交不需要返回值的任务,所以无法判断任务是否被线程池执行成功。submit()
方法用于提交需要返回值的任务。线程池会返回一个fature
类型的对象,通过这个对象,可以判断任务是否执行成功,并且可以通过fature
的get()
方法来获取返回值。调用get()
方法会阻塞当前线程,直到工作线程返回结果。get(long timeout, TimeUnit unit)
可设置超时返回。
9.2.3 关闭线程池
可以通过调用线程池的shutdown()
或者shutdownNow()
方法来关闭线程池。
相同点:
- 原理都是遍历线程池中的工作线程,然后逐个调用线程的
interrupt
方法来中断线程,所以无法响应中断的任务可能永远无法终止。- 只要调用两个方法中的任意一个,
isShutdown
方法就会返回true
。只有当所有任务都关闭后,才表示线程池关闭成功,这是调用isTerminated
方法才返回true
。
- 只要调用两个方法中的任意一个,
不同点:
shutdown()
方法只是将线程池的状态设置成SHUTDOWN
状态,然后中断所有没有正在执行任务的线程,已有的任务能够执行完。shutdownNow()
方法首先将线程池设置为STOP
状态,然后尝试停止所有正在执行或暂停任务的线程,并返回等待执行任务的列表。
9.2.4 合理地配置线程池
需要根据任务特性来合理地配置线程池,可以从以下几个角度来分析:
- 任务的性质:CPU密集型任务、IO密集型任务和混合型任务。
- CPU密集型任务应经配置尽可能小的线程,如配置
cpu数+1
个线程的线程池。 - IO密集型任务,并不是一直在执行任务,应配置尽可能多的线程,如
2*cpu数
- 混合型任务,如果可以拆分,将其拆分成一个CPU密集型任务和一个IO密集型任务,只要这两个任务执行时间相差不是太大,那么分解后执行的吞吐量将高于串行执行的吞吐量。反之,执行时间相差太大,则没必要分解。
- CPU密集型任务应经配置尽可能小的线程,如配置
- 任务的优先级:高、中和低。
- 优先级不同的任务可以使用优先级队列
PriorityBlockingQueue
来处理。
- 优先级不同的任务可以使用优先级队列
- 任务执行时间:长、中和短。
- 执行时间不同的任务可以交给不同规模的线程池来处理,或者使用优先级队列,让执行时间短的任务先执行。
任务的依赖性:是否依赖其他系统资源,如数据库连接。
- 依赖数据库连接池的任务,因为线程提交SQL后需要等待数据库返回结果,等待的时间越长,则CPU空闲时间就越长,线程数应该设置得越大,才能更好地利用CPU。(类似IO密集型任务)
建议:
- 建议使用有界队列。有界队列能增加系统地稳定性和预警能力,可以根据许哟啊设置地大一点,比如几千。当出现任务积压时:使用有界队列,能够触发饱和策略(默认抛出任务异常)便于及时发现问题;而使用无界队列,可能会撑爆内存,导致整个系统不可用。
9.2.5 线程池地监控
如果系统中大量使用线程池,则有必要对线程池进行监控,方便在出现问题时,快速定位问题。
- 通过线程池提供地参数进行监控。可用属性:
taskCount
:线程池需要执行地任务数量。completedTaskCount
:线程池在运行过程中已完成 地任务数量,小于或等于taskCount
。largestPoolSize0
:线程池里曾经创建过地最大线程数量。可以根据这个数据直到线程池是否曾经满过。getPoolSize
:线程池的线程数量。getAchtiveCount
:获取活动的线程数。
- 通过扩展(继承)线程池进行监控。线程池含有
beforeExecute
、afterExecute
、terminated
三个空方法。可以根据需要,通过继承线程池来自定义线程池,重写这三个方法,以实现在任务执行前、执行后和线程池关闭前执行一些代码来监控。