线程池参数的合理设置

一:线程池参数简介

ThreadPoolExecutor类可设置的参数主要有:
corePoolSize:核心线程
1.核心线程会一直存活,及时没有任务需要执行
2.当线程数小于核心线程数时,即使有线程空闲,线程池也会优先创建新线程处理
3.设置allowCoreThreadTimeout=true(默认false)时,核心线程会超时关闭

queueCapacity:任务队列容量(阻塞队列)

当核心线程数达到最大时,新任务会放在队列中排队等待执行

maxPoolSize:最大线程数
1.当线程数>=corePoolSize,且任务队列已满时。线程池会创建新线程来处理任务
2.当线程数=maxPoolSize,且任务队列已满时,线程池会拒绝处理任务而抛出异常

keepAliveTime:线程空闲时间
1.当线程空闲时间达到keepAliveTime时,线程会退出,直到线程数量=corePoolSize
2.如果allowCoreThreadTimeout=true,则会直到线程数量=0

rejectedExecutionHandler:任务拒绝处理器
两种情况会拒绝处理任务:
1.当线程数已经达到maxPoolSize,切队列已满,会拒绝新任务
2.当线程池被调用shutdown()后,会等待线程池里的任务执行完毕,再shutdown。如果在调用shutdown()和线程池真正shutdown之间提交任务,会拒绝新任务。

线程池会调用rejectedExecutionHandler来处理这个任务。如果没有设置,默认是AbortPolicy,会抛出异常。
ThreadPoolExecutor类有几个内部实现类来处理拒绝任务:
1.AbortPolicy 丢弃任务,抛运行时异常
2.CallerRunsPolicy 执行任务
3.DiscardPolicy 忽视,什么都不会发生
4.DiscardOldestPolicy 从队列中踢出最先进入队列(最后一个执行)的任务
5.实现RejectedExecutionHandler接口,可自定义处理器

二:ThreadPoolExecutor执行顺序:

1.当线程数小于核心线程数时,创建线程。
2.当线程数大于等于核心线程数,且任务队列未满时,将任务放入任务队列。
3.当线程数大于等于核心线程数,且任务队列已满
3.1若线程数小于最大线程数,创建线程
3.2若线程数等于最大线程数,抛出异常,拒绝任务

三:线程池参数的合理设置

为了说明合理设置的条件,我们首先确定有以下几个相关参数:
1.tasks,程序每秒需要处理的最大任务数量(假设系统每秒任务数为100~1000)
2.tasktime,单线程处理一个任务所需要的时间(每个任务耗时0.1秒)
3.responsetime,系统允许任务最大的响应时间(每个任务的响应时间不得超过2秒)

corePoolSize

每个任务需要tasktime秒处理,则每个线程每秒可处理1/tasktime个任务。系统每秒有tasks个任务需要处理,则需要的线程数为:tasks/(1/tasktime)。
即tasks*tasktime个线程数。假设系统每秒任务数为100到1000之间,每个任务耗时0.1秒,则需要100x0.1至1000x0.1,即10到100个线程。那么corePoolSize应该设置为大于10。
具体数字最好根据8020原则,即80%情况下系统每秒任务数,若系统80%的情况下任务数小于200,最多时为1000,则corePoolSize可设置为20

queueCapacity:任务队列的长度

任务队列的长度要根据核心线程数,以及系统对任务响应时间的要求有关。队列长度可以设置为(corePoolSize/tasktime)responsetime: (20/0.1)2=400,即队列长度可设置为400。
如果队列长度设置过大,会导致任务响应时间过长,如以下写法:
LinkedBlockingQueue queue = new LinkedBlockingQueue();
这实际上是将队列长度设置为Integer.MAX_VALUE,将会导致线程数量永远为corePoolSize,再也不会增加,当任务数量陡增时,任务响应时间也将随之陡增。

maxPoolSize:最大线程数

当系统负载达到最大值时,核心线程数已无法按时处理完所有任务,这时就需要增加线程。每秒200个任务需要20个线程,那么当每秒达到1000个任务时,则需要(1000-queueCapacity)*(20/200),即60个线程,可将maxPoolSize设置为60。

keepAliveTime:

线程数量只增加不减少也不行。当负载降低时,可减少线程数量,如果一个线程空闲时间达到keepAliveTiime,该线程就退出。默认情况下线程池最少会保持corePoolSize个线程。keepAliveTiime设定值可根据任务峰值持续时间来设定。

以上关于线程数量的计算并没有考虑CPU的情况。若结合CPU的情况,比如,当线程数量达到50时,CPU达到100%,则将maxPoolSize设置为60也不合适,此时若系统负载长时间维持在每秒1000个任务,则超出线程池处理能力,应设法降低每个任务的处理时间(tasktime)。

ps:

该文章创作原因来源于阿里java后端面试:
如果给你8G内存,500G固态硬盘,双CPU四核的配置,现在有100个用户访问你的系统,请你设计一下你刚刚说的那些线程池参数。

 

  • 10
    点赞
  • 70
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
结构层次及相互联系 (1)、工作线程:响应连接的IO投递返回并负责投递读请求,并将IO返回结果投递给处理线程,可设定参数决定工作线程数量; (2)、处理线程:处理线程调用回调函数将信息传递给应用层或协议栈,可设定参数决定工作处理数量; (3)、看守线程:响应Accept事件调用AcceptEx,检测连接和心跳超时 ,将信息投递给工作线程,模块仅有一个看守线程。 1. 技术要求 (1)、线程同步:Lock指令、临界段; (2)、主要Socket API:WSASend、WSARecv、AcceptEx、DisconnectEx; (3)、内存管理:连接池(句柄重用)、内存池; (4)、数据0拷贝:通过内置处理线程,上层应用可以避免自建线程池及复制数据的过程。同时提供GBuf内存分配功能,应用层获得分配地址及填充数据之后亦可直接投递给内核/驱动层; (5)、数据顺序同步:同一个连接同时只有一个处理线程响应其IO事件; (6)、IO请求投递:单投递读、多投递写; (7)、0缓冲读投递:可条件编译实现,以适用大规模连接要求。 (8)、超时机制:可设置空连接(连接不发送数据)超时时间以防止DOS攻击,也可设置心跳超时时间防止网络故障导致的现有连接成为虚连接避免耗尽系统资源。 (9)、接口技术:API、回调函数、客户句柄(客户连接句柄)。 (10)、主、被动发送:不使用HASH、MAP及LIST技术,即可提供安全可靠高效的客户连接句柄,以实现服务器端主被动发送数据功能; (11)、PerHandleData的回收不以IO投递的计数器或链表来做依据但仍能安全回收,同时尽量避免在高频的读写操作时做其他无关的操作以提高读写效率。 (12)、处理线程和工作线程有着良好分工界限,繁重的工作交给处理线程完成,工作线程工作量最大限度的减少,仅响应投递返回及读投递的操作; (13)、支持AWE,模块自动识别AWE是否开启(需手动开启),“否”则使用虚拟内存机制。 2. 功能要求 (1)、多IP多端口监听,每个监听可设置不同的回调函数,以高效的区别处理数据 (2)、可设置每秒最大的连接并发量和空连接(连接不发数据)超时时间以防止DOS攻击造成的服务瘫痪、具有心跳处理(防网络异常造成的虚连接)功能 (3)、不加协议的透明传输,可适用广泛的网络通讯环境 (4)、可现实主、被动发送数据,但不会因兼顾主动发送而额外增加降低效率的工作 (5)、内置处理线程,上层应用可不必自建线程池处理数据,所有IO事件按顺序调用回调函数并可以在回调函数内直接处理数据,不必担心多线程造成的接收数据乱序的问题。 (6)、高效率的数据对应关联机制,在初次连接并根据登录数据设置每个连接对应的宿主(Owner)之后,再接收的数据即可立即获得该连接对应的宿主,而不必再做额外的查询工作,并且模块内部采用的是指针关联方式,对于长连接、主动发送的服务器系统而言是高效率的。 (7)、可兼容IPv6 3. 注意事项 因硬件环境和应用环境不同,不合理的配置会出现效率及性能上的问题,因此以下情况出现时,请务必与作者联系以确保获得更好的参数配置: (1)、连接量超过1000个的。超过的应结合具体硬件配置和网络带宽等因素综合设定运行参数。 (2)、带宽使用率超过20%的。工作线程和处理线程数量的设置也是综合考虑数据吞吐量和数据处理负载的因素来设置的,过多的线程会在调度上浪费时间,同时也应该综合考虑线程优先级别来设置工作线程和处理线程数量,两者的设置也不一定能相等。 (3)、服务器端有主动发送需求的、短连接(含网络故障造成的连接断开)出现频率高的。 压力测试工具介绍: 一、 使用G-TcpClient模块 二、 可以设定间隔时间发起大规模长、短连接 三、 可以发起密集数据包,包括即时和定时发送,1M的光纤带宽最大可以达到100K/S(单向)以上,100M本地网最大可以达到10M/S(单向)以上 四、 数据发送仅由一个独立线程但当,每点击一次Connect就创建一个线程根据当前参数发起连接。 五、 测试前提:服务器接收客户端数据后立即原样返回给客户端
功能强大 通用 易上手 易扩展改造 模版界面友好 亲 你需要的我都想到了 快来拿护甲吧 *这次福利例程完美通用于代理注册(只要是代理注册基本都可以直接套用此模版) *适合于新手(代码很容易看懂和修改扩展) *稳定多线程(鱼刺线程池 你值得拥有) *代理智能提取(代理快用完自动智能提取补充 工作不暂停极大提升效率) *界面设计合理可扩展(*支持运行中修改配置参数 *暂停/继续 *中途停止 *日志输出和保存到本地) -------------------------------------------- Config_Bints.ini 配置说明 触发补充阀值  : 当前剩余代理小于这个数值会触发自动提取并验证补充代理(0=自动(本次提取数量\4且>=10)) 提取地址      : 用于提取代理的API地址 提取间隔      : 两次提取最小间隔(毫秒) 为了防止提取API接口限制提取频繁冻结 验证地址      : 用于验证代理是否有效的url 比如IP138 又比如百度 是否UTF8解码  : 验证代理返回的网页内容是否进行UTF8解码 验证特征      : 验证代理URL返回的内容里存在这个特征既是有效(比如验证地址是(百度) 特征可以是'百度一下') 尝试验证次数  : 尝试验证次数 默认1次 代理生命值    : 提取的代理能被获取几次 比如采集东西的时候就可以设置10-50次 访问组件模式  : 提取和验证使用的访问组件 0=WinHttpRequest(默认=0) 1=WinHttpApi 鱼刺
功能强大 通用 易上手 易扩展改造 模版界面友好 亲 你需要的我都想到了 快来拿护甲吧 *这次福利例程完美通用于代理注册(只要是代理注册基本都可以直接套用此模版) *适合于新手(代码很容易看懂和修改扩展) *稳定多线程(鱼刺线程池 你值得拥有) *代理智能提取(代理快用完自动智能提取补充 工作不暂停极大提升效率) *界面设计合理可扩展(*支持运行中修改配置参数 *暂停/继续 *中途停止 *日志输出和保存到本地) -------------------------------------------- Config_Bints.ini 配置说明 触发补充阀值  : 当前剩余代理小于这个数值会触发自动提取并验证补充代理(0=自动(本次提取数量\4且>=10)) 提取地址      : 用于提取代理的API地址 提取分隔符    :  提取的代理的分隔符 默认=\\r\\n(换行符) 是否正则分割  : 是否使用正则匹配 真=使用正则匹配(正则必须包含两个子匹配项1为地址2为端口) 假=使用分割文本匹配 提取间隔      : 两次提取最小间隔(毫秒) 为了防止提取API接口限制提取频繁冻结 验证地址      : 用于验证代理是否有效的url 比如IP138 又比如百度  |如果想不验证提取的代理直接使用 请设置为:不验证 是否UTF8解码  : 验证代理返回的网页内容是否进行UTF8解码 验证特征      : 验证代理URL返回的内容里存在这个特征既是有效(比如验证地址是(百度) 特征可以是'百度一下') 尝试验证次数  : 尝试验证次数 默认1次 代理生命值    : 提取的代理能被获取几次 比如采集东西的时候就可以设置10-50次 访问组件模式  : 提取和验证使用的访问组件 0=WinHttpRequest(默认=0) 1=WinHttpApi x3.9 增加在配置设置'验证地址=不验证'时来支持提取的代理不需要验证直接使用 修正一处问题 会在特殊情况下照成正在验证数异常 鱼刺
x4.6(2018-12-24) 支持设置是否禁止重定向 提取也支持了是否进行UTF8解码 优化代码缩小了核心体积 改善了配置项名称 补全了使用说明 *例程完美通用于代理注册(只要是代理注册基本都可以直接套用此模版) *适合于新手(代码很容易看懂和修改扩展) *稳定多线程(鱼刺线程池 你值得拥有) *界面设计合理可扩展(*支持运行中修改配置参数 *暂停/继续 *中途停止 *日志输出和保存到本地) *代理智能提取(代理快用完自动智能提取补充 工作不暂停极大提升效率) *启动后依然可以继续修改配置文件`Config_Proxy.ini`里的参数 (你可以一边修改 一边观察效果) *支持可设置提取的代理可以被获取多次 (一条代理可以被使用多少次) *支持可设置提取的代理最长有效时间 (可避免提太多 用太慢 导致最后一部分代理全是过期的) -------------------------------------------- Config_Proxy.ini 配置说明 触发补充阀值         : 当前剩余代理小于这个数值会触发自动提取并验证补充代理(0=自动(本次提取数量\5+5且>=5)) 提取地址             : 用于提取代理的API地址 提取分隔符           : 提取后用这个分隔符来分割成多条 默认=\\r\\n(换行符)有的linux服务器可能会\\n作为换行符 (本参数也支持正则匹配) 是否正则分割         : 是否使用正则匹配 1=使用正则匹配(正则必须包含两个子匹配项1为地址2为端口) 0=使用分割文本匹配 提取是否UTF8解码     : 提取代理返回的网页内容是否进行UTF8解码 1=解码 0=不解码(默认) 提取是否禁止重定向   : 提取代理时是否禁止HTTP重定向 1=禁止 0=允许(默认) 提取自定义附加协议头 : 提取代理时自定义附加的HTTP协议头 默认=空(默认协议头) 注意:如果要提供多行协议头请使用 \\r\\n 代替 #换行符 进行隔开 提取间隔             : 两次提取最小间隔(毫秒) 为了防止提取API接口限制提取频繁冻结 默认=1000(1秒) ---------------- 验证地址             : 用于验证代理是否有效的url 比如IP138 又比如百度  |如果想不验证提取的代理直接使用 请设置为:不验证 验证特征             : 验证代理URL返回的内容里存在这个特征既是有效(比如验证地址是(百度) 特征可以是'百度一下') 验证是否UTF8解码     : 验证代理返回的网页内容是否进行UTF8解码 1=解码 0=不解码(默认) 验证是否禁止重定向   : 验证代理时是否禁止HTTP重定向 1=禁止 0=允许(默认) 验证自定义附加协议头 : 验证代理时自定义附加的HTTP协议头 默认=空(默认协议头) 注意:如果要提供多行协议头请使用 \\r\\n 代替 #换行符 进行隔开 验证超时             : 验证代理超时 默认=12 (秒) 尝试验证次数         : 尝试验证次数 默认=1 (次) 代理生命值           : 提取的代理能被获取几次 默认=1 (次)  (比如采集东西的时候就可以设置10-50次) 代理最长存活时间     : 提取的代理最长存活时间 0=不启用(默认) 大于0=启用(秒) 提取的代理过了这个时间后 将不会被提取直接被丢弃
对于Java线程池参数配置,可以根据实际需求来确定。以下是一些常见的参数及其推荐配置: 1. 核心线程数(corePoolSize):表示线程池中保持活动状态的线程数量。根据系统的负载情况和处理任务的类型来决定,一般推荐设置为CPU核心数的2倍。 2. 最大线程数(maximumPoolSize):表示线程池允许创建的最大线程数量。根据系统负载和可用资源来决定,一般推荐设置为CPU核心数的2倍或者更大。 3. 空闲线程存活时间(keepAliveTime):表示当线程池线程数量超过核心线程数时,空闲线程的存活时间。可以根据任务类型和系统负载来调整。如果任务较多且任务执行时间较长,可以适当增大该值。 4. 阻塞队列(workQueue):用于存储等待执行的任务的队列。常见的队列类型有无界队列(如LinkedBlockingQueue)和有界队列(如ArrayBlockingQueue)。根据应用场景和系统负载来选择合适的队列类型。 5. 拒绝策略(rejectedExecutionHandler):表示当任务无法被提交给线程池时的处理策略。例如,默认的ThreadPoolExecutor.AbortPolicy会抛出RejectedExecutionException异常,而ThreadPoolExecutor.CallerRunsPolicy会在提交任务的线程中执行该任务。根据业务需求和系统特点选择合适的拒绝策略。 需要注意的是,线程池参数的配置需要根据具体的业务场景和系统负载来进行调整,以达到最佳性能和资源利用的平衡。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值