nginx入门篇，Tomcat性能调优

线程池调优

====================================================================

跟I/O模型紧密相关的是线程池，线程池的调优就是设置合理的线程池参数。

• Tomcat线程池的关键参数：

如何确定maxThreads：

• 若该参数设置小了

Tomcat会发生线程饥饿，并且请求的处理会在队列中排队等待，导致响应时间变长

• 若过大

因为服务器的CPU的核数有限，线程数太多会导致线程在CPU上来回切换，耗费大量的切换开销。

maxThreads多少合适呢？

利特尔法则

====================================================================

系统中的请求数 = 请求的到达速率 × 每个请求处理时间

去超市结账排队，如何估算一个队列有多长呢？

• 队列中如果每个人都买很多东西，那么结账的时间就越长，队列也会越长

• 短时间一下有很多人来收银台结账，队列也会变长

因此队列的长度等于 新人加入队列的频率 乘以 平均每个人处理的时间。

计算出了队列的长度，就创建相应数量线程处理请求，这样既能以最快速度处理完所有请求，同时又没有额外的线程资源闲置和浪费。

假设一个单核服务器在接收请求：

• 如果每秒10个请求到达，平均处理一个请求需要1秒，那么服务器任何时候都有10个请求在处理，即需要10个线程

• 如果每秒10个请求到达，平均处理一个请求需要2秒，那么服务器在每个时刻都有20个请求在处理，因此需要20个线程

• 如果每秒10000个请求到达，平均处理一个请求需要1秒，那么服务器在每个时刻都有10000个请求在处理，因此需要10000个线程。

因此可以总结出一个公式：

线程池大小 = 每秒请求数 × 平均请求处理时间

理想情况，线程一直在忙着干活，没有被阻塞在I/O等待。

实际上任务在执行中，线程不可避免会发生阻塞，比如阻塞在I/O等待上，等待DB或下游服务响应，虽然通过非阻塞I/O模型可减少线程的等待，但是数据在用户空间和内核空间拷贝过程中，线程还是阻塞。

线程一阻塞就会让出CPU，线程闲置下来，就好像工作人员不可能24h处理请求，解决办法就是增加工作人员数量，一个人去休息另一个人顶上。即增加线程数，因此I/O密集型应用需要设置更多的线程。

线程I/O时间与CPU时间

============================================================================

至此我们又得到一个线程池个数的计算公式，假设服务器是单核：

线程池大小 = （线程I/O阻塞时间 + 线程CPU时间 ）/ 线程CPU时间

线程I/O阻塞时间 + 线程CPU时间 = 平均请求处理时间

平均请求处理时间在两公式都有，这说明请求时间越长，必然需要更多的线程。

不同的是：

• 第一个公式用每秒请求数 乘 请求处理时间

• 第二个公式用 请求处理时间 除以 线程CPU时间，CPU时间＜请求处理时间

虽然这两个公式是从不同的角度来看待问题的，但都是理想情况，有前提条件：

• 请求处理时间越长，需要的线程数越多，但前提是CPU核数要足够，如果一个CPU来支撑10000 TPS并发，创建10000个线程，显然不合理，会造成大量线程上下文切换

• 请求处理过程中，I/O等待时间越长，需要的线程数越多，前提是CUP时间和I/O时间的比率要计算的足够准确

• 请求进来的速率越快，需要的线程数越多，前提CPU核数跟得上

实际场景下如何确定线程数

===========================================================================
自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Java工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Java开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Java开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！

如果你觉得这些内容对你有帮助，可以扫码获取！！（备注Java获取）

总结

阿里伤透我心，疯狂复习刷题，终于喜提offer 哈哈~好啦，不闲扯了

1、JAVA面试核心知识整理（PDF）：包含JVM，JAVA集合，JAVA多线程并发，JAVA基础，Spring原理，微服务，Netty与RPC，网络，日志，Zookeeper，Kafka，RabbitMQ，Hbase，MongoDB，Cassandra，设计模式，负载均衡，数据库，一致性哈希，JAVA算法，数据结构，加密算法，分布式缓存，Hadoop，Spark，Storm，YARN，机器学习，云计算共30个章节。

2、Redis学习笔记及学习思维脑图

3、数据面试必备20题+数据库性能优化的21个最佳实践

《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取！
2)]

3、数据面试必备20题+数据库性能优化的21个最佳实践

[外链图片转存中…(img-Nse0ztc8-1713343358262)]
《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取！