tomcat的maxThreads、acceptCount,对高并发的影响

本文讲述了并发能力在系统架构和业务逻辑中的重要性,详细介绍了Tomcat的accept-count和max-threads参数的工作原理,并讨论了根据计算和等待操作类型调整这两个配置的策略。作者强调了线程过多可能降低CPU效率,并提倡在实践中进行测试和优化以找到最佳配置。
摘要由CSDN通过智能技术生成

并发能力问题涉及整个系统架构和业务逻辑。

系统环境不同,Tomcat版本不同、JDK版本不同、以及修改的设定参数不同。并发量的差异还是满大的。

二、accept-count 和 max-threads 的介绍


server.tomcat.accept-count:tomcat 启动的线程数达到最大时,接受排队的请求个数,默认值为200。

server.tomcat.max-threads:tomcat 启动的最大线程数,即同时处理的任务个数,默认值为100。

这两个值如何起作用,请看下面三种情况

情况1:接受一个请求,此时 tomcat 起动的线程数没有到达 max-threads,tomcat 会起动一个线程来处理此请求。

情况2:接受一个请求,此时 tomcat 起动的线程数已经到达 max-threads,tomcat 会把此请求放入等待队列,等待空闲线程。

情况3:接受一个请求,此时 tomcat 起动的线程数已经到达 max-threads,等待队列中的请求个数也达到了 accept-count,此时 tomcat 会直接拒绝此次请求,返回 connection refused。

三、max-threads 如何配置


一般的服务器操作都包括两方面:1计算(主要消耗 cpu),2等待(io、数据库等)

第一种极端情况,如果我们的操作是纯粹的计算,那么系统响应时间的主要限制就是 cpu 的运算能力,此时 max-threads 应该尽量设的小,降低同一时间内争抢 cpu 的线程个数,可以提高计算效率,提高系统的整体处理能力。

第二种极端情况,如果我们的操作纯粹是 IO 或者数据库,那么响应时间的主要限制就变为等待外部资源,此时 max-threads应该尽量设的大,这样 才能提高同时处理请求的个数,从而提高系统整体的处理能力。此情况下因为 tomcat 同时处理的请求量会比较大,所以需要关注一下 tomcat 的虚拟机内存设置和 linux 的 open file 限制。

我在测试时遇到一个问题,max-threads 我设置的比较大比如3000,当服务的线程数大到一定程度时,一般是2000出头,单次请求的响应时间就会急剧的增加,百思不得其解这是为什么,四处寻求答案无果,最后我总结的原因可能是 cpu 在线程切换时消耗的时间随着线程数量的增加越来越大,

cpu 把大多数时间都用来在这2000多个线程直接切换上了,当然cpu就没有时间来处理我们的程序了。

以前一直简单的认为多线程=高效率。其实多线程本身并不能提高 cpu 效率,线程过多反而会降低 cpu 效率。当 cpu 核心数<线程数时,cpu 就需要在多个线程直接来回切换,以保证每个线程都会获得 cpu 时间,即通常我们说的并发执行。所以 max-threads 的配置绝对不是越大越好。

现实应用中,我们的操作都会包含以上两种类型(计算、等待),所以maxThreads的配置并没有一个最优值,一定要根据具体情况来配置。

最好的做法是:在不断测试的基础上,不断调整、优化,才能得到最合理的配置。

四、accept-count 如何配置


accept-count 的配置,我一般是设置的跟 max-threads 一样大,这个值应该是主要根据应用的访问峰值与平均值来权衡配置的。

最后

分享一些资料给大家,我觉得这些都是很有用的东西,大家也可以跟着来学习,查漏补缺。

《Java高级面试》

《Java高级架构知识》

《算法知识》

[外链图片转存中…(img-oZawbZaC-1714479307784)]

《算法知识》

[外链图片转存中…(img-NIRlIO6b-1714479307784)]

本文已被CODING开源项目:【一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码】收录

  • 24
    点赞
  • 18
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值