Java中的线程池是运用场景最多的并发框架,几乎所有需要异步或者并发执行任务的程序都可以使用线程池。开发
中使用线程池的三个优点如下:
- 降低资源消耗:通过重复利用已经创建的线程降低线程创建和销毁带来的消耗.
- 提高响应速度:当任务到达时,任务可以不需等待线程创建就能立即执行.
- 提高线程的可管理性:使用线程池可以统一进行线程分配,调度和监控.
1. 线程池的实现原理
当向线程池提交了一个任务之后,线程池是如何处理这个任务的呢?下面来看线程池的主要处理流程如下:
1)线程池判断核心线程池里的线程是否都在执行任务。如果不是,则创建一个新的工作线程来执行任务。如
果核心线程池里的线程都在执行任务,则进入下个流程。
2)线程池判断工作队列是否已经满。如果工作队列没有满,则将新提交的任务存储在这个工作队列里。如果
工作队列满了,则进入下个流程。
3)线程池判断线程池的线程是否都处于工作状态。如果没有,则创建一个新的工作线程来执行任务。如果已
经满了,则交给饱和策略来处理这个任务。
当任务到达时线程池工作流程:
1.若核心池未满,则创建新的线程执行任务而后将此线程入核心池
--若核心池已满且有空闲线程,调度空闲线程执行任务
2.将任务置入阻塞队列,排队等待空间线程调度(juc)
--ArrayBlockingQueue:基于数组的有界阻塞队列
--LinkedBlockingQueue:基于链表的无界阻塞队列
--Synchronized:不存储元素的无界阻塞队列
3.当阻塞队列满时,若此时最大线程池未满,创建新线程执行任务而后置入最大线程池中
4.若最大线程池已满,调用相应拒绝策略处理任务(默认为抛出异常,且不处理任务)
ThreadPoolExecutor(线程池执行器)执行execute()方法的流程图如下:
JDK内置四大线程池(Executors):
---固定大小线程池:LinkedBlockingQueue
应用场景:当服务器负载叫重时,限制线程数量,可以采用固定大小线程池
return new ThreadPoolExecutor(nThreads,nThreads,0LTimeOut.MILLISECONDS,new LinkedBlockingQueue<Runnable>();
--单线程池:newSingleThreadExecutor
应用场景:某些需要同步处理的场合(任务需要按序处理)
return new ThreadPoolExecutor(1,1,0L,TimeOUt.MILLISECONDS,new LinkedBlockingQueue<Runnable>();
--缓存线程池:newCatchedThreadPool
应用场景:适用于 较轻的服务器,适用于很多短期的小人去
return new ThreadPoolExecutor(0,Integer.MAX_VALUE,60L,TimeUnit.SECONDS,new SynchronousQueue<Runnable>();
SynchronousQueue:不存储元素入队与出队,操作必须同时调用
提交任务速度 > 执行任务速度 : 不断创建新线程执行任务,有可能会将内存写满
提交任务速度 < 执行任务速度 :固定的几个线程来处理任务
-- 定时调度池:newScheduledThreadPool
应用场景:需要执行定时任务的场合
1)如果当前运行的线程少于corePoolSize(核心线程池的大小),则创建新线程来执行任务(注意,执行这一步骤需要获取全局
锁)。
2)如果运行的线程等于或多于corePoolSize,则将任务加入BlockingQueue(阻塞队列)。
3)如果无法将任务加入BlockingQueue(队列已满),则创建新的线程来处理任务(注意,执行这一步骤需
要获取全局锁)。
4)如果创建新线程将使当前运行的线程超出maximumPoolSize(最大极限的线程池大小),任务将被拒绝,并调用
RejectedExecutionHandler(拒绝执行0.rejectedExecution()方法。
ThreadPoolExecutor采取上述步骤的总体设计思路,是为了在执行execute()方法时,尽可能地避免获取全局锁
(那将会是一个严重的可伸缩瓶颈)。在ThreadPoolExecutor完成预热之后(当前运行的线程数大于等于
corePoolSize),几乎所有的execute()方法调用都是执行步骤2,而步骤2不需要获取全局锁。
工作线程
线程池创建线程时,会将线程封装成工作线程Worker,Worker在执行完任务后,还会循环获取工作队列里的任务
来执行。
ThreadPoolExecutor中线程执行任务的示意图如下图所示。
线程池中的线程执行任务分两种情况,如下。
- 在execute()方法中创建一个线程时,会让这个线程执行当前任务。
- 这个线程执行完当前任务后,会反复从BlockingQueue获取任务来执行。
2. 线程池的使用
2.1 线程池的创建
我们可以通过ThreadPoolExecutor来创建一个线程池:
public ThreadPoolExecutor(int corePoolSize,
int maximumPoolSize,
long keepAliveTime,
TimeUnit unit,
BlockingQueue<Runnable> workQueue,
RejectedExecutionHandler handler)
创建一个线程池时需要输入几个参数,如下。
1)corePoolSize(线程池的基本大小):当提交一个任务到线程池时,线程池会创建一个线程来执行任务,
即使其他空闲的基本线程能够执行新任务也会创建线程,等到需要执行的任务数大于线程池基本大小时就不
再创建。如果调用了线程池的prestartAllCoreThreads()方法,线程池会提前创建并启动所有基本线程。
2)runnableTaskQueue(任务队列):用于保存等待执行的任务的阻塞队列。可以选择以下几个阻塞队
列。
- ·ArrayBlockingQueue:是一个基于数组结构的有界阻塞队列,此队列按FIFO(先进先出)原则对元素进行
- 排序。
- ·LinkedBlockingQueue:一个基于链表结构的阻塞队列,此队列按FIFO排序元素,吞吐量通常要高于
- ArrayBlockingQueue。静态工厂方法Executors.newFixedThreadPool()使用了这个队列。
- ·SynchronousQueue:一个不存储元素的阻塞队列。每个插入操作必须等到另一个线程调用移除操作,否则
- 插入操作一直处于阻塞状态,吞吐量通常要高于Linked-BlockingQueue,静态工厂方法
- Executors.newCachedThreadPool使用了这个队列。
- PriorityBlockingQueue:一个具有优先级的无限阻塞队列。
3)maximumPoolSize(线程池最大数量):线程池允许创建的最大线程数。如果队列满了,并且已创建的
线程数小于最大线程数,则线程池会再创建新的线程执行任务。值得注意的是,如果使用了无界的任务队列
这个参数就没什么效果。
4) keepAliveTime(线程活动保持时间):线程池的工作线程空闲后,保持存活的时间。所以,如果任务很
多,并且每个任务执行的时间比较短,可以调大时间,提高线程的利用率。
5) TimeUnit(线程活动保持时间的单位):可选的单位有天(DAYS)、小时(HOURS)、分钟
(MINUTES)、毫秒(MILLISECONDS)、微秒(MICROSECONDS,千分之一毫秒)和纳秒
(NANOSECONDS,千分之一微秒)。
6) RejectedExecutionHandler(饱和策略):当队列和线程池都满了,说明线程池处于饱和状态,那么必须
采取一种策略处理提交的新任务。这个策略默认情况下是AbortPolicy,表示无法处理新任务时抛出异常。在
JDK 1.5中Java线程池框架提供了以下4种策略。
- ·AbortPolicy:直接抛出异常。(默认采用此策略)
- ·CallerRunsPolicy:只用调用者所在线程来运行任务。
- ·DiscardOldestPolicy:丢弃队列里最近的一个任务,并执行当前任务。
- ·DiscardPolicy:不处理,丢弃掉。
手工创建一个线程池:
ThreadPoolExecutor threadPoolExecutor =
new ThreadPoolExecutor(3,5,2000,TimeUnit.MILLISECONDS,
new LinkedBlockingDeque<Runnable>());
2.2 向线程池提交任务
可以使用两个方法向线程池提交任务,分别为execute()和submit()方法。
execute()方法用于提交不需要返回值的任务,所以无法判断任务是否被线程池执行成功。
使用execute()方法:
package Thread;
import java.util.concurrent.LinkedBlockingDeque;
import java.util.concurrent.ThreadPoolExecutor;
import java.util.concurrent.TimeUnit;
/**
* Author:weiwei
* description:execute()方法
* Creat:2019/2/24
**/
class RunnableThread implements Runnable{
@Override
public void run() {
for(int i=0;i<50;i++){
System.out.println(Thread.currentThread().getName());
}
}
}
public class Test0224 {
public static void main(String[] args) {
RunnableThread runnableThread = new RunnableThread();
ThreadPoolExecutor threadPoolExecutor =
new ThreadPoolExecutor(3,5,2000,TimeUnit.MILLISECONDS,
new LinkedBlockingDeque<Runnable>());
for(int i=0;i<5;i++){
threadPoolExecutor.execute(runnableThread);
}
}
}
submit()方法用于提交需要返回值的任务。线程池会返回一个future类型的对象,通过这个future对象可以判断任
务是否执行成功,并且可以通过future的get()方法来获取返回值,get()方法会阻塞当前线程直到任务完成,而使用
get(long timeout,TimeUnit unit)方法则会阻塞当前线程一段时间后立即返回,这时候有可能任务没有执行
完。
使用submit()方法:
package Thread;
import java.util.concurrent.*;
/**
* Author:weiwei
* description:submit()方法
* Creat:2019/2/24
**/
class CallableThread implements Callable<String> {
@Override
public String call() throws Exception {
for (int i = 0; i < 50; i++) {
System.out.println(Thread.currentThread().getName() + "," + i);
}
return Thread.currentThread().getName() + "任务执行完毕";
}
}
public class Test224 {
public static void main(String[] args) {
CallableThread callableThread = new CallableThread();
ThreadPoolExecutor threadPoolExecutor = new
ThreadPoolExecutor(3,5,2000,
TimeUnit.MILLISECONDS,new LinkedBlockingDeque<Runnable>());
for(int i=0;i<5;i++){
Future<String> future = threadPoolExecutor.submit(callableThread);
try{
String str = future.get();
System.out.println(str);
} catch (InterruptedException e) {
e.printStackTrace();
} catch (ExecutionException e) {
e.printStackTrace();
}
}
}
}
2.3 关闭线程池
可以通过调用线程池的shutdown(平滑关闭线程池)或shutdownNow(非平滑关闭线程池,有可能正在执行的任务未完成)方法来关闭线程池。它们的原理是遍历线程池中的工作线程,然后逐个调用线程的interrupt方法来中断线程,所以无法响应中断的任务可能永远无法终止。但是它们存在一定的区别。
- shutdownNow首先将线程池的状态设置成STOP,然后尝试停止所有的正在执行或暂停任务的线程,并返回等待执行任务的列表。
- shutdown只是将线程池的状态设置成SHUTDOWN状态,然后中断所有没有正在执行任务的线程。
- 只要调用了这两个关闭方法中的任意一个,isShutdown方法就会返回true。当所有的任务都已关闭后,才表示线程池关闭成功,这时调用isTerminaed方法会返回true。至于应该调用哪一种方法来关闭线程池,应该由提交到线
- 程池的任务特性决定,通常调用shutdown方法来关闭线程池,如果任务不一定要执行完,则可以调用shutdownNow方法。
关闭线程池:
threadPoolExecutor.shutdown();
2.4 合理配置线程池
要想合理地配置线程池,就必须首先分析任务特性,可以从以下几个角度来分析。
- 任务的性质:CPU密集型任务、IO密集型任务和混合型任务。
- 任务的优先级:高、中和低。
- 任务的执行时间:长、中和短。
- 任务的依赖性:是否依赖其他系统资源,如数据库连接。
性质不同的任务可以用不同规模的线程池分开处理。CPU密集型任务应配置尽可能小的线程,如配置Ncpu+1个线
程的线程池。由于IO密集型任务线程并不是一直在执行任务,则应配置尽可能多的线程,如2*Ncpu。混合型的任
务,如果可以拆分,将其拆分成一个CPU密集型任务和一个IO密集型任务,只要这两个任务执行的时间相差不是太
大,那么分解后执行的吞吐量将高于串行执行的吞吐量。如果这两个任务执行时间相差太大,则没必要进行分解。
可以通过 Runtime.getRuntime().availableProcessors() 方法获得当前设备的CPU个数。
优先级不同的任务可以使用优先级队列 PriorityBlockingQueue 来处理。它可以让优先级高的任务先执行。
注意:如果一直有优先级高的任务提交到队列里,那么优先级低的任务可能永远不能执行。
执行时间不同的任务可以交给不同规模的线程池来处理,或者可以使用优先级队列,让执行时间短的任务先执行。
依赖数据库连接池的任务,因为线程提交SQL后需要等待数据库返回结果,等待的时间越长,则CPU空闲时间就越
长,那么线程数应该设置得越大,这样才能更好地利用CPU。
2.5 Executor框架
在Java中,使用线程来异步执行任务。Java线程的创建与销毁需要一定的开销,如果我们为每一个任务创建一个新
线程来执行,这些线程的创建与销毁将消耗大量的计算资源。同时,为每一个任务创建一个新线程来执行,这种策
略可能会使处于高负荷状态的应用最终崩溃。
Java的线程既是工作单元,也是执行机制。从JDK 5开始,把工作单元与执行机制分离开来。工作单元包括
Runnable和Callable,而执行机制由Executor框架提供。
Executor框架的两级调度模型:
Java线程(java.lang.Thread)被一对一映射为本地操作系统线程。Java线程启动时会创建一个本地操作系统线
程;当该Java线程终止时,这个操作系统线程也会被回收。操作系统会调度所有线程并将它们分配给可用的CPU。
在上层,Java多线程程序通常把应用分解为若干个任务,然后使用用户级的调度器(Executor框架)将这些任务映
射为固定数量的线程;在底层,操作系统内核将这些线程映射到硬件处理器上。这种两级调度模型的示意图如下图
所示
Executor框架的结构与成员
Executor框架的主要成员如下图:
ThreadPoolExecutor详解
Executor框架最核心的类是ThreadPoolExecutor,它是线程池的实现类。通过Executor框架的工具类Executors,
可以创建3种类型的ThreadPoolExecutor。
- 1. 创建无大小限制的线程池:public static ExecutorService newCachedThreadPool()
- 2. 创建固定大小的线程池:public static ExecutorService newFixedThreadPool(int nThreads)
- 3. 单线程池:public static ExecutorService newSingleThreadExecutor()
一. FixedThreadPool详解
FixedThreadPool被称为可重用固定线程数的线程池。
public static ExecutorService newFixedThreadPool(int nThreads) {
return new ThreadPoolExecutor(nThreads, nThreads,
0L, TimeUnit.MILLISECONDS,
new LinkedBlockingQueue<Runnable>());
}
FixedThreadPool使用无界队列LinkedBlockingQueue作为线程池的工作队列(队列的容量为
Integer.MAX_VALUE)。使用无界队列作为工作队列会对线程池带来如下影响。
- 1)当线程池中的线程数达到corePoolSize后,新任务将在无界队列中等待,因此线程池中 的线程数不会超过corePoolSize。
- 2)由于1,使用无界队列时maximumPoolSize将是一个无效参数。
- 3)由于1和2,使用无界队列时keepAliveTime将是一个无效参数。
- 4)由于使用无界队列,运行中的FixedThreadPool(未执行方法shutdown()或 shutdownNow())不会拒绝任务(不会调用RejectedExecutionHandler.rejectedExecution方法)。
使用FixedThreadPool
package Thread;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
/**
* Author:weiwei
* description:FixedThreadPool
* Creat:2019/2/25
**/
public class Test0225 {
public static void main(String[] args) {
ExecutorService executorService =
Executors.newFixedThreadPool(5);
for(int i=0;i<5;i++){
executorService.submit(new Runnable() {
@Override
public void run() {
for(int j=0;j<10;j++){
System.out.println(Thread.currentThread().getName()+","+j);
}
}
});
}
executorService.shutdown();
}
}
FixedThreadPool适用于为了满足资源管理的需求,而需要限制当前线程数量的应用场合,适用于负载比较重的
服务器,负载高的话尽可能用固定长度的线程池
二. SingleThreadPoolExecutor详解
SingleThreadExecutor是使用单个worker线程的Executor。(单线程池)
public static ExecutorService newSingleThreadExecutor() {
return new FinalizableDelegatedExecutorService
(new ThreadPoolExecutor(1, 1,
0L, TimeUnit.MILLISECONDS,
new LinkedBlockingQueue<Runnable>()));
}
SingleThreadExecutor的corePoolSize和maximumPoolSize被设置为1。其他参数与FixedThreadPool相同。
SingleThreadExecutor使用无界队列LinkedBlockingQueue作为线程池的工作队列(队列的容量为
Integer.MAX_VALUE)。
使用单线程池
package Thread;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
/**
* Author:weiwei
* description:SingleThreadPoolExecutor
* Creat:2019/2/25
**/
public class Test25 {
public static void main(String[] args) {
ExecutorService executorService =
Executors.newSingleThreadExecutor();
for(int i=0;i<5;i++){
executorService.submit(new Runnable() {
@Override
public void run() {
for(int j=0;j<10;j++){
System.out.println(Thread.currentThread().getName()+","+j);
}
}
});
}
executorService.shutdown();
}
}
SingleThreadExecutor适用于需要保证顺序地执行各个任务;并且在任意时间点,不会有多个线程是活动的应用
场景。
三. CachedThreadPool详解
CachedThreadPool是一个会根据需要创建新线程的线程池
public static ExecutorService newCachedThreadPool() {
return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
60L, TimeUnit.SECONDS,
new SynchronousQueue<Runnable>());
}
CachedThreadPool的corePoolSize被设置为0,即corePool为空;maximumPoolSize被设置为Integer.MAX_VALUE,即maximumPool是无界的。这里把keepAliveTime设置为60L,意味着CachedThreadPool中的空闲线程等待新任务的最长时间为60秒,空闲线程超过60秒后将会被终止。
FixedThreadPool和SingleThreadExecutor使用无界队列LinkedBlockingQueue作为线程池的工作队列。
CachedThreadPool使用没有容量的SynchronousQueue作为线程池的工作队列,但CachedThreadPool的maximumPool是无界的。这意味着,如果主线程提交任务的速度高于maximumPool中线程处理任务的速度时,CachedThreadPool会不断创建新线程。极端情况下,CachedThreadPool会因为创建过多线程而耗尽CPU和内存资源。
CachedThreadPool的execute()方法的执行示意图如下图所示
- 1)首先执行SynchronousQueue.offer(Runnable task)。如果当前maximumPool中有空闲线程正在执
- 行SynchronousQueue.poll(keepAliveTime,TimeUnit.NANOSECONDS),那么主线程执行offer操作与
- 空闲线程执行的poll操作配对成功,主线程把任务交给空闲线程执行,execute()方法执行完成;否则执行下
- 面的步骤2)。
- 2)当初始maximumPool为空,或者maximumPool中当前没有空闲线程时,将没有线程执行
- SynchronousQueue.poll(keepAliveTime,TimeUnit.NANOSECONDS)。这种情况下,步骤1)将失败。
- 此时CachedThreadPool会创建一个新线程执行任务,execute()方法执行完成。
- 3)在步骤2)中新创建的线程将任务执行完后,会执行SynchronousQueue.poll(keepAliveTime,
- TimeUnit.NANOSECONDS)。这个poll操作会让空闲线程最多在SynchronousQueue中等待60秒钟。如果
- 60秒钟内主线程提交了一个新任务(主线程执行步骤1)),那么这个空闲线程将执行主线程提交的新任
- 务;否则,这个空闲线程将终止。由于空闲60秒的空闲线程会被终止,因此长时间保持空闲的
- CachedThreadPool不会使用任何资源。
使用缓冲线程池
package Thread;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
/**
* Author:weiwei
* description:缓冲线程池
* Creat:2019/2/25
**/
public class Test025 {
public static void main(String[] args) {
ExecutorService executorService =
Executors.newCachedThreadPool();
for(int i=0;i<5;i++) {
try {
Thread.sleep(500);
} catch (InterruptedException e) {
e.printStackTrace();
}
executorService.submit(new Runnable() {
@Override
public void run() {
for (int j = 0; j < 10; j++) {
System.out.println(Thread.currentThread().getName() + "," + j);
}
}
});
}
executorService.shutdown();
}
}
CachedThreadPool是大小无界的线程池,适用于执行很多的短期异步任务的小程序,或者负载较轻的服务器。
四. ScheduledThreadPoolExecutor详解
ScheduledThreadPoolExecutor继承自ThreadPoolExecutor。它主要用来在给定的延迟之后运行任务,或者定期
执行任务。ScheduledThreadPoolExecutor的功能与Timer类似,但ScheduledThreadPoolExecutor功能更强大、
更灵活。Timer对应的是单个后台线程,而ScheduledThreadPoolExecutor可以在构造函数中指定多个对应的后台
线程数。
ScheduledThreadPoolExecutor的执行流程图如下:
DelayQueue是一个无界队列,所以ThreadPoolExecutor的maximumPoolSize在ScheduledThreadPoolExecutor
中没有什么意义(设置maximumPoolSize的大小没有什么效果)。ScheduledThreadPoolExecutor的执行主要分
为两大部分
1)当调用ScheduledThreadPoolExecutor的scheduleAtFixedRate()方法或者scheduleWithFixedDelay()方
法时,会向ScheduledThreadPoolExecutor的DelayQueue添加一个实现了RunnableScheduledFutur接口
的ScheduledFutureTask。
2)线程池中的线程从DelayQueue中获取ScheduledFutureTask,然后执行任务。
ScheduledThreadPoolExecutor为了实现周期性的执行任务,对ThreadPoolExecutor做了如下的修改。
- 使用DelayQueue作为任务队列。
- 获取任务的方式不同
- 执行周期任务后,增加了额外的处理
使用定时调度池
package Thread;
import java.util.concurrent.Executors;
import java.util.concurrent.ScheduledExecutorService;
import java.util.concurrent.TimeUnit;
/**
* Author:weiwei
* description:定时调度池
* Creat:2019/2/25
**/
public class TE25 {
public static void main(String[] args) {
ScheduledExecutorService executorService =
Executors.newScheduledThreadPool(5);
for(int i=0;i<5;i++){
executorService.scheduleAtFixedRate(new Runnable() {
@Override
public void run() {
for(int j=0;j<10;j++){
System.out.println(Thread.currentThread().getName()+","+j);
}
}
},2,3, TimeUnit.SECONDS);
}
}
}