去超市结账排队，如何估算一个队列有多长呢？
-
队列中如果每个人都买很多东西，那么结账的时间就越长，队列也会越长
-
短时间一下有很多人来收银台结账，队列也会变长
因此队列的长度等于 新人加入队列的频率 乘以 平均每个人处理的时间。
计算出了队列的长度，就创建相应数量线程处理请求，这样既能以最快速度处理完所有请求，同时又没有额外的线程资源闲置和浪费。
假设一个单核服务器在接收请求：
-
如果每秒10个请求到达，平均处理一个请求需要1秒，那么服务器任何时候都有10个请求在处理，即需要10个线程
-
如果每秒10个请求到达，平均处理一个请求需要2秒，那么服务器在每个时刻都有20个请求在处理，因此需要20个线程
-
如果每秒10000个请求到达，平均处理一个请求需要1秒，那么服务器在每个时刻都有10000个请求在处理，因此需要10000个线程。
因此可以总结出一个公式：
线程池大小 = 每秒请求数 × 平均请求处理时间
理想情况，线程一直在忙着干活，没有被阻塞在I/O等待。
实际上任务在执行中，线程不可避免会发生阻塞，比如阻塞在I/O等待上，等待DB或下游服务响应，虽然通过非阻塞I/O模型可减少线程的等待，但是数据在用户空间和内核空间拷贝过程中，线程还是阻塞。
线程一阻塞就会让出CPU，线程闲置下来，就好像工作人员不可能24h处理请求，解决办法就是增加工作人员数量，一个人去休息另一个人顶上。即增加线程数，因此I/O密集型应用需要设置更多的线程。
============================================================================
至此我们又得到一个线程池个数的计算公式，假设服务器是单核：
线程池大小 = （线程I/O阻塞时间 + 线程CPU时间 ）/ 线程CPU时间
线程I/O阻塞时间 + 线程CPU时间 = 平均请求处理时间
平均请求处理时间在两公式都有，这说明请求时间越长，必然需要更多的线程。
不同的是：
-
第一个公式用每秒请求数 乘 请求处理时间
-
第二个公式用 请求处理时间 除以 线程CPU时间，CPU时间＜请求处理时间
虽然这两个公式是从不同的角度来看待问题的，但都是理想情况，有前提条件：
-
请求处理时间越长，需要的线程数越多，但前提是CPU核数要足够，如果一个CPU来支撑10000 TPS并发，创建10000个线程，显然不合理，会造成大量线程上下文切换
-
请求处理过程中，I/O等待时间越长，需要的线程数越多，前提是CUP时间和I/O时间的比率要计算的足够准确
-
请求进来的速率越快，需要的线程数越多，前提CPU核数跟得上
===========================================================================
先用上面两公式估算出理想线程数，再压测调整，达到最优。
一般若系统TPS要求足够大，用第一个公式算出来的线程数往往会比公式二算出来的要大。我建议选取这两个值中间更靠近公式二的值。
即先设置一个较小的线程数，然后进行压测，当达到系统极限时（错误数增加，或者响应时间大幅增加），再逐步加大线程数，当增加到某个值，再增加线程数也无济于事，甚至TPS反而下降，那这个值可以认为是最佳线程数。
线程池中其他参数，最好就默认值，能不改就不改，除非在压测的过程发现瓶颈。
如果发现了问题就需要调整，比如maxQueueSize，如果大量任务来不及处理都堆积在maxQueueSize中，会导致内存耗尽，这个时候就需要给maxQueueSize设一个限制。当然，这是一个比较极端的情况了。
再比如minSpareThreads参数，默认25个线程，如果发现系统在闲的时候用不到25个线程，就可以调小一点；如果系统在大部分时间都比较忙，线程池中的线程总是远远多于25个，这个时候你就可以把这个参数调大一点，这样线程池就不需反复创建和销毁线程。
============================================================================
假如有个状况：系统响应比较慢，但CPU的用率不高，内存有所增加，通过分析Heap Dump发现大量请求堆积在线程池的队列中，请问这种情况下应该怎么办呢？
应该怀疑大量线程被阻塞了，应该看看web应用是不是在访问外部数据库或者外部服务遇到了延迟。
自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。
深知大多数Java工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！
因此收集整理了一份《2024年Java开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。
既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Java开发知识点，真正体系化！
由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新
如果你觉得这些内容对你有帮助，可以添加V获取：vip1024b （备注Java）
最后我们该如何学习？
1、看视频进行系统学习
这几年的Crud经历，让我明白自己真的算是菜鸡中的战斗机，也正因为Crud，导致自己技术比较零散，也不够深入不够系统，所以重新进行学习是很有必要的。我差的是系统知识，差的结构框架和思路，所以通过视频来学习，效果更好，也更全面。关于视频学习，个人可以推荐去B站进行学习，B站上有很多学习视频，唯一的缺点就是免费的容易过时。
另外，我自己也珍藏了好几套视频资料躺在网盘里，有需要的我也可以分享给你：
2、读源码，看实战笔记，学习大神思路
“编程语言是程序员的表达的方式，而架构是程序员对世界的认知”。所以，程序员要想快速认知并学习架构，读源码是必不可少的。阅读源码，是解决问题 + 理解事物，更重要的：看到源码背后的想法；程序员说：读万行源码，行万种实践。
Spring源码深度解析：
Mybatis 3源码深度解析：
Redis学习笔记：
Spring Boot核心技术-笔记：
3、面试前夕，刷题冲刺
面试的前一周时间内，就可以开始刷题冲刺了。请记住，刷题的时候，技术的优先，算法的看些基本的，比如排序等即可，而智力题，除非是校招，否则一般不怎么会问。
关于面试刷题，我个人也准备了一套系统的面试题，帮助你举一反三：
只有技术过硬，在哪儿都不愁就业，“万般带不去，唯有业随身”学习本来就不是在课堂那几年说了算，而是在人生的旅途中不间断的事情。
人生短暂，别稀里糊涂的活一辈子，不要将就。
一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
习本来就不是在课堂那几年说了算，而是在人生的旅途中不间断的事情。
人生短暂，别稀里糊涂的活一辈子，不要将就。
一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
[外链图片转存中…(img-s4CvEu2N-1712813942410)]
扫一扫
471
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
