为什么要用线程池
例子:
10年前单核CPU电脑,假的多线程,像马戏团小丑玩多个球,CPU需要来回切换.
现在是多核电脑,多个线程各自跑在独立的CPU上,不用切换效率高.
线程池的优势
线程池做的工作主要是控制运行的线程数量,处理过程中将任务放到队列中
,然后在线程创建后启动这些任务,如果线程池超过最大数量,超出数量的线程排队等候
,等其他线程执行完毕,再从队列中取出任务来执行.
特点
线程复用
;控制最大并发数量
;管理线程
.
- 降低资源消耗.通过重复利用已创建的线程降低线程和销毁线程的消耗.
- 提高响应速度.当任务到达时,任务可以不需要等待线程创建就能立即执行.
- 提高线程的可管理性.线程是稀缺的资源,如果无限制的创建,不仅会消耗系统资源,还会降低系统的稳定性,使用线程池进行统一分配,调优和监控.
线程池如何使用
架构说明
Java中的线程池是通过Executor框架实现的,该框架中用到了Executor,Executors,ExcutorService,ThreadPoolExecutor这几个类
UML图如下:
编码实现
newFixedThreadPool
1 public static ExecutorService newFixedThreadPool(int nThreads) {
2 return new ThreadPoolExecutor(nThreads, nThreads,
3 0L, TimeUnit.MILLISECONDS,
4 new LinkedBlockingQueue<Runnable>());
5 }
执行长期任务性能好,创建一个线程池,一池有N个固定的线程,有固定线程数的线程.
1package com.atguigu.juc.MyLock;
2
3import java.util.concurrent.ExecutorService;
4import java.util.concurrent.Executors;
5
6/**
7 * 线程池
8 */
9public class ThreadPoolDemo {
10 public static void main(String[] args) {
11 // 初始化线程池大小为5的线程池
12 ExecutorService executorService = Executors.newFixedThreadPool(5);
13
14 for (int i = 0; i < 10; i++) {
15 executorService.execute(() -> {
16 System.out.println(Thread.currentThread().getName() + "办理业务");
17
18 });
19 }
20 executorService.shutdown();
21 }
22}/**Output
23pool-1-thread-1办理业务
24pool-1-thread-4办理业务
25pool-1-thread-1办理业务
26pool-1-thread-3办理业务
27pool-1-thread-2办理业务
28pool-1-thread-3办理业务
29pool-1-thread-1办理业务
30pool-1-thread-4办理业务
31pool-1-thread-5办理业务
32pool-1-thread-2办理业务
33*///~
newSingleThreadExecutor
1 public static ExecutorService newSingleThreadExecutor() {
2 return new FinalizableDelegatedExecutorService
3 (new ThreadPoolExecutor(1, 1,
4 0L, TimeUnit.MILLISECONDS,
5 new LinkedBlockingQueue<Runnable>()));
6 }
一个任务一个任务地执行,一池一线程
1package com.atguigu.juc.MyLock;
2
3import java.util.concurrent.ExecutorService;
4import java.util.concurrent.Executors;
5
6/**
7 * 线程池
8 */
9public class ThreadPoolDemo {
10 public static void main(String[] args) {
11
12 ExecutorService executorService = Executors.newSingleThreadExecutor();
13
14 for (int i = 0; i < 10; i++) {
15 executorService.execute(() -> {
16 System.out.println(Thread.currentThread().getName() + "办理业务");
17
18 });
19 }
20 executorService.shutdown();
21 }
22}/**Output
23pool-1-thread-1办理业务
24pool-1-thread-1办理业务
25pool-1-thread-1办理业务
26pool-1-thread-1办理业务
27pool-1-thread-1办理业务
28pool-1-thread-1办理业务
29pool-1-thread-1办理业务
30pool-1-thread-1办理业务
31pool-1-thread-1办理业务
32pool-1-thread-1办理业务
33*///~
newCachedThreadPool
1 public static ExecutorService newCachedThreadPool() {
2 return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
3 60L, TimeUnit.SECONDS,
4 new SynchronousQueue<Runnable>());
5 }
执行很多短期异步任务,线程池根据需要创建新线程,但在先前构建的线程可用时将重用它们.可扩容,遇强则强
1package com.atguigu.juc.MyLock;
2
3import java.util.concurrent.ExecutorService;
4import java.util.concurrent.Executors;
5
6/**
7 * 线程池
8 */
9public class ThreadPoolDemo {
10 public static void main(String[] args) {
11 ExecutorService executorService = Executors.newCachedThreadPool();
12
13 for (int i = 0; i < 10; i++) {
14 executorService.execute(() -> {
15 System.out.println(Thread.currentThread().getName() + "办理业务");
16
17 });
18 }
19 executorService.shutdown();
20 }
21}/**Output
22pool-1-thread-1办理业务
23pool-1-thread-4办理业务
24pool-1-thread-3办理业务
25pool-1-thread-2办理业务
26pool-1-thread-5办理业务
27pool-1-thread-6办理业务
28pool-1-thread-5办理业务
29pool-1-thread-6办理业务
30pool-1-thread-2办理业务
31pool-1-thread-3办理业务
32*///~
由运行结果可见,我们没有设置线程池中线程的数量,但是newCachedThreadPool会根据需要为我们自动创建.
线程池的七大参数
构造器
1 public ThreadPoolExecutor(int corePoolSize,
2 int maximumPoolSize,
3 long keepAliveTime,
4 TimeUnit unit,
5 BlockingQueue<Runnable> workQueue,
6 ThreadFactory threadFactory,
7 RejectedExecutionHandler handler) {
8 if (corePoolSize < 0 ||
9 maximumPoolSize <= 0 ||
10 maximumPoolSize < corePoolSize ||
11 keepAliveTime < 0)
12 throw new IllegalArgumentException();
13 if (workQueue == null || threadFactory == null || handler == null)
14 throw new NullPointerException();
15 this.acc = System.getSecurityManager() == null ?
16 null :
17 AccessController.getContext();
18 this.corePoolSize = corePoolSize;
19 this.maximumPoolSize = maximumPoolSize;
20 this.workQueue = workQueue;
21 this.keepAliveTime = unit.toNanos(keepAliveTime);
22 this.threadFactory = threadFactory;
23 this.handler = handler;
24 }
我们讨论的七大参数也就是构造器中的七大参数
corePoolSize
线程池中的常驻核心线程数,也就是至少有多少个线程在等待任务的到来
maximumPoolSize
线程池中能够容纳同事执行的最大线程数
keepAliveTime
多余的空闲线程的存活时间,当线程中线程数量超过corePoolSize时,当空闲时间达到keepAliveTime时,多余线程会被销毁直到只剩下corePoolSize个线程为止
unit
keepAliveTime的单位
workQueue
任务队列,被提交但尚未被执行的任务
threadFactory
表示生成线程池中工作线程的线程工厂,用于创建线程,一般默认即可
handler
拒绝策略,表示当队列满时,并且工作线程大于等于线程池的最大线程数(maximumPoolSize)时如何来拒绝请求执行的runnable的策略
线程池底层工作原理
- 在创建了线程池后,开始等待请求
- 当调用execute()方法添加一个请求任务时,线程池会做出如下判断
2.1 如果正在运行的线程数量小于corePoolSize,那么马上创建线程执行这个任务;
2.2 如果正在运行的线程数量大于或等于corePoolSize,那么将这个任务放入队列
;
2.3 如果这个时候队列满了且正在运行的线程数量还小于maximumPoolSize,那么还是要创建非核心线程立刻运行这个任务;
2.4 如果队列满了且正在运行的线程数量大于或等于maximumPoolSize,那么线程池会启动饱和拒绝策略来执行. - 当一个线程完成任务时,它会从队列中取下一个任务来执行.
- 当一个线程无事可做超过一定时间(keepAliveTime)时,线程会判断:
如果当前运行的线程数大于corePoolSize,那么这个线程就被停止.所以线程池的所有任务完成后,它会最终收缩到corePoolSize的大小
.
注意
线程池不允许使用Executors去创建,而是通过ThreadPoolExecutor的方式,这样的处理方式让同学更加明确线程池的运行规则,规避资源耗尽的风险.说明
:Executors返回的线程池对象的弊端如下:
1) FixedThreadPool和SingleThreadPool:
允许的请求队列长度为Integer.MAX_VALUE,可能会堆积大量的请求,从而导致OOM
2) CacheThreadPool和ScheduledThreadPool:
允许的创建线程数量为Integer.MAX_VALUE,可能会创建大量的线程,从而导致OOM.
1 ExecutorService executorService = new ThreadPoolExecutor(
2 2,
3 5,
4 2L,
5 TimeUnit.SECONDS,
6 new LinkedBlockingDeque<>(3),
7 Executors.defaultThreadFactory(),
8 new ThreadPoolExecutor.AbortPolicy()
9
10 );
线程池用哪个?生产中如何设置合理参数
线程池的拒绝策略
是什么
等待队列已经排满了
,再也赛不下新任务了,同时,线程池中的max线程也达到了
,无法继续为新任务服务.这个时候我们就需要拒绝策略机制合理地处理这个问题.
JDK内置的拒绝策略
AbortPolicy(默认)
:直接抛出RejectedExecutionException
异常阻止系统正常运行CallerRunsPolicy
:"调用者运行"一种调节机制,该策略不会抛弃任务,也不会抛出异常,而是将某些任务回退到调用者,从而降低新任务的流量.DiscardOldestPolicy
:抛弃队列中等待最久的任务,然后把当前任务加入队列中尝试再次提交当前任务.DiscardPolicy
:该策略默默地丢弃无法处理的任务,不给予任何处理也不抛出异常.如果允许任务丢失,这是最好的一种策略.
AbortPolicy(默认)
1package com.atguigu.juc.MyLock;
2
3import java.util.concurrent.*;
4
5/**
6 * 线程池
7 */
8public class ThreadPoolDemo {
9 public static void main(String[] args) {
10 ExecutorService executorService = new ThreadPoolExecutor(
11 2,
12 5,
13 2L,
14 TimeUnit.SECONDS,
15 new LinkedBlockingDeque<>(3),
16 Executors.defaultThreadFactory(),
17 new ThreadPoolExecutor.AbortPolicy()
18
19 );
20
21 for (int i = 0; i < 15; i++) {
22 executorService.execute(() -> {
23 System.out.println(Thread.currentThread().getName() + "办理业务");
24
25 });
26 }
27 executorService.shutdown();
28 }
29}/**Output
30pool-1-thread-1办理业务
31pool-1-thread-3办理业务
32pool-1-thread-2办理业务
33pool-1-thread-3办理业务
34pool-1-thread-5办理业务
35pool-1-thread-1办理业务
36pool-1-thread-4办理业务
37pool-1-thread-2办理业务
38Exception in thread "main" java.util.concurrent.RejectedExecutionException: Task com.atguigu.juc.MyLock.ThreadPoolDemo$$Lambda$1/1831932724@7699a589 rejected from java.util.concurrent.ThreadPoolExecutor@58372a00[Running, pool size = 5, active threads = 3, queued tasks = 0, completed tasks = 5]
39 at java.util.concurrent.ThreadPoolExecutor$AbortPolicy.rejectedExecution(ThreadPoolExecutor.java:2063)
40 at java.util.concurrent.ThreadPoolExecutor.reject(ThreadPoolExecutor.java:830)
41 at java.util.concurrent.ThreadPoolExecutor.execute(ThreadPoolExecutor.java:1379)
42 at com.atguigu.juc.MyLock.ThreadPoolDemo.main(ThreadPoolDemo.java:22)
43*///~
从运行结果可以知道,线程池如果处理不过来任务会抛出异常结束程序.
CallerRunsPolicy
1package com.atguigu.juc.MyLock;
2
3import java.util.concurrent.*;
4
5/**
6 * 线程池
7 */
8public class ThreadPoolDemo {
9 public static void main(String[] args) {
10 ExecutorService executorService = new ThreadPoolExecutor(
11 2,
12 5,
13 2L,
14 TimeUnit.SECONDS,
15 new LinkedBlockingDeque<>(3),
16 Executors.defaultThreadFactory(),
17 new ThreadPoolExecutor.CallerRunsPolicy()
18
19 );
20
21 for (int i = 0; i < 20; i++) {
22 executorService.execute(() -> {
23 System.out.println(Thread.currentThread().getName() + "办理业务");
24
25 });
26 }
27 executorService.shutdown();
28 }
29}/**Output
30pool-1-thread-1办理业务
31pool-1-thread-4办理业务
32pool-1-thread-3办理业务
33pool-1-thread-2办理业务
34main办理业务
35main办理业务
36main办理业务
37pool-1-thread-3办理业务
38pool-1-thread-4办理业务
39pool-1-thread-1办理业务
40pool-1-thread-4办理业务
41pool-1-thread-3办理业务
42main办理业务
43pool-1-thread-5办理业务
44pool-1-thread-2办理业务
45pool-1-thread-5办理业务
46pool-1-thread-1办理业务
47pool-1-thread-4办理业务
48pool-1-thread-2办理业务
49pool-1-thread-3办理业务
50*///~
从运行结果可以看出,线程池处理不过来的任务会交由主线程处理
DiscardOldestPolicy
1package com.atguigu.juc.MyLock;
2
3import java.util.concurrent.*;
4
5/**
6 * 线程池
7 */
8public class ThreadPoolDemo {
9 public static void main(String[] args) {
10 ExecutorService executorService = new ThreadPoolExecutor(
11 2,
12 5,
13 2L,
14 TimeUnit.SECONDS,
15 new LinkedBlockingDeque<>(3),
16 Executors.defaultThreadFactory(),
17 new ThreadPoolExecutor.DiscardOldestPolicy()
18
19 );
20
21 for (int i = 0; i < 20; i++) {
22 executorService.execute(() -> {
23 System.out.println(Thread.currentThread().getName() + "办理业务");
24
25 });
26 }
27 executorService.shutdown();
28 }
29}/**Output
30pool-1-thread-1办理业务
31pool-1-thread-3办理业务
32pool-1-thread-1办理业务
33pool-1-thread-2办理业务
34pool-1-thread-1办理业务
35pool-1-thread-3办理业务
36pool-1-thread-5办理业务
37pool-1-thread-1办理业务
38pool-1-thread-4办理业务
39pool-1-thread-2办理业务
40pool-1-thread-4办理业务
41pool-1-thread-1办理业务
42pool-1-thread-3办理业务
43pool-1-thread-2办理业务
44pool-1-thread-3办理业务
45*///~
由运行结果可以看出,线程池有丢弃任务的现象,总共任务有20条,运行结果输出的数量明显没有20条.
DiscardPolicy
1package com.atguigu.juc.MyLock;
2
3import java.util.concurrent.*;
4
5/**
6 * 线程池
7 */
8public class ThreadPoolDemo {
9 public static void main(String[] args) {
10 ExecutorService executorService = new ThreadPoolExecutor(
11 2,
12 5,
13 2L,
14 TimeUnit.SECONDS,
15 new LinkedBlockingDeque<>(3),
16 Executors.defaultThreadFactory(),
17 new ThreadPoolExecutor.DiscardPolicy()
18
19 );
20
21 for (int i = 0; i < 20; i++) {
22 executorService.execute(() -> {
23 System.out.println(Thread.currentThread().getName() + "办理业务");
24
25 });
26 }
27 executorService.shutdown();
28 }
29}/**Output
30pool-1-thread-1办理业务
31pool-1-thread-2办理业务
32pool-1-thread-2办理业务
33pool-1-thread-1办理业务
34pool-1-thread-2办理业务
35pool-1-thread-1办理业务
36pool-1-thread-2办理业务
37pool-1-thread-1办理业务
38pool-1-thread-3办理业务
39pool-1-thread-2办理业务
40pool-1-thread-4办理业务
41pool-1-thread-3办理业务
42pool-1-thread-4办理业务
43pool-1-thread-5办理业务
44pool-1-thread-1办理业务
45pool-1-thread-5办理业务
46pool-1-thread-4办理业务
47pool-1-thread-3办理业务
48pool-1-thread-2办理业务
49*///~
由运行结果可以看出,线程池有丢弃任务的现象,总共任务有20条,运行结果输出的数量明显没有20条. DiscardPolicy和DiscardOldestPolicy策略差不多,只不过前者会丢掉处理不过来的任务,而后者是丢弃阻塞队列中等待最久的任务.
合理配置线程池如何考虑
CPU密集型
CPU密集型的意思是该任务需要大量运算而没有阻塞,CPU一直全速运行。CPU密集型任务只有在真正的多核CPU上才可能得到加速(通过多线程),而在单核CPU上,无论你开几个模拟的多线程该任务都不可能得到加速,因为CPU总的运算能力是有限的。
CPU密集型任务配置尽可能少的线程数量:
一般公式:CPU核数+1个线程的线程池
IO密集型
IO密集型任务有两种配置方式
方式一
由于IO密集型任务线程并不是一直在执行任务,则应该配置尽可能多的线程,如CPU核数×2
方式二
IO密集型,即该任务需要大量的IO,即大量的阻塞。
在单线程上运行IO密集型任务会导致浪费大量的CPU运算能力浪费在等待。
所以在IO密集型任务中使用多线程可以大大加速程序运行,即使在单核CPU上,这种加速主要是利用了被浪费掉的阻塞时间。
IO密集型时,大部分线程都阻塞,故需要多配置线程数:
参考公式:CPU核数 / (1-阻塞系数)
【阻塞系数在0.8~0.9之间】