一、作用
限制系统中执行任务的线程数量
二、种类
1. newSingleThreadExecutor
创建一个单线程的线程池。这个线程池只有一个线程在工作,也就是相当于单线程串行执行所有任务。如果这个唯一的线程因为异常结束,那么会有一个新的线程来替代它。此线程池保证所有任务的执行顺序按照任务的提交顺序执行。
2.newFixedThreadPool
创建固定大小的线程池。每次提交一个任务就创建一个线程,直到线程达到线程池的最大大小。线程池的大小一旦达到最大值就会保持不变,如果某个线程因为执行异常而结束,那么线程池会补充一个新线程。
3. newCachedThreadPool
创建一个可缓存的线程池。如果线程池的大小超过了处理任务所需要的线程,
那么就会回收部分空闲(60秒不执行任务)的线程,当任务数增加时,此线程池又可以智能的添加新线程来处理任务。此线程池不会对线程池大小做限制,线程池大小完全依赖于操作系统(或者说JVM)能够创建的最大线程大小。
4.newScheduledThreadPool
创建一个大小无限的线程池。此线程池支持定时以及周期性执行任务的需求。
三、核心参数
corePoolSize - 池中所保存的线程数,包括空闲线程。
maximumPoolSize-池中允许的最大线程数。
keepAliveTime - 当线程数大于核心时,此为终止前多余的空闲线程等待新任务的最长时间。
unit - keepAliveTime 参数的时间单位。
workQueue - 执行前用于保持任务的队列。此队列仅保持由 execute方法提交的 Runnable任务。
threadFactory - 执行程序创建新线程时使用的工厂。
handler - 由于超出线程范围和队列容量而使执行被阻塞时所使用的处理程序。
四、流程
1、当有任务到达时,并且线程池中的线程数量小于corePoolSize,则threadFactory会创建新的线程
2、当线程池中的线程数量创建到等于corePoolSize时候,再有任务到达时,任务会优先选择进入队列workQueue,queue有三种类型:SynchronousQueue(直接提交),LinkedBlockingQueue(无界队列),ArrayBlockingQueue(有界队列)
1> SynchronousQueue(直接提交):
SynchronousQueue队列中的任务必须在一个线程take()的同时另外一个线程才能put,给人的感觉是SynchronousQueue是可以存储一个元素的,其实必须是俩个线程同时操作才能实现,它本身是没有存储能力的;
后俩种队列未完待续。。。
3、当队列中无法再添加任务时,新任务会继续创建新的线程,当创建的总的线程数大于maximumPoolSize的时候会执行异常策略了。
五、线程池相关参数设置参考指标
tasks,每秒需要处理的最大任务数量
tasktime,处理第个任务所需要的时间
responsetime,系统允许任务最大的响应时间,比如每个任务的响应时间不得超过2秒。
示例:
场景1:
tasks:500~1000(大部分情况下任务数会在900以下)
tasktime:0.1s
responsetime:1s
线程池相关参数设置:
1、核心线程数量(corePoolSize)
500~(1/tasktime)*(corePoolSize)~1000
得出corePoolSize在50到100之间,根据业务场景假设大部分情况下任务数会在900以下所以设置corePoolSize设置成90
2、队列大小(queueCapacity)
(1/tasktime)*corePoolSize*responsetime 次数算得值为900,这个参数和系统最大响应时间相关,即队列中最大可以存放900个等待执行的任务,超过900个就可能出现队列中的任务等待时间超过responsetime,但是corePoolSize每秒执行的任务数为900个,最大每秒的任务数为1000个,所以queueCapacity只需要设置100即可
3、最大线程数(maxPoolSize)
maxPoolSize*(1/tasktime)+queueCapacity<最大任务数(1000) 计算得出maxPoolSize为90即与corePoolSize相等
4、keepAliveTime
一般采用默认值就可以了
5、allowCoreThreadTimeout
默认情况下核心线程不会退出,可通过将该参数设置为true,让核心线程也退出。
场景2:
tasks:100~1000(大部分情况下任务数会在200以下)
tasktime:0.1s
responsetime:1s
线程池相关参数设置:
1、核心线程数量(corePoolSize)
100~(1/tasktime)*(corePoolSize)~1000
得出corePoolSize在10到100之间,根据业务场景假设大部分情况下任务数会在200以下所以设置corePoolSize设置成20
2、队列大小(queueCapacity)
(1/tasktime)*corePoolSize*responsetime 次数算得值为200, 这个参数和系统最大响应时间相关,即队列中最大可以存放200个等待执行的任务,超过200个就可能出现队列中的任务等待时间超过responsetime,corePoolSize每秒执行的任务数为200个,200+200小于最大任务数所以queueCapacity为200
3、最大线程数(maxPoolSize)
maxPoolSize*(1/tasktime)+queueCapacity<最大任务数(1000) 计算得出maxPoolSize为80
注解:每秒处理多少请求可以理解成平均每0.1秒有多少请求(50到100)