配置线程池（笔记）

1. 线程池的关键参数

在配置Spring Boot的线程池时，通常需要关注以下几个主要参数：
核心线程数（corePoolSize）：这是线程池中保持活跃的最小线程数，即使这些线程处于空闲状态也不会被回收。通常，核心线程数的设置会根据系统的并发需求和硬件资源（例如CPU核心数）来确定。
最大线程数（maxPoolSize）：线程池中能够容纳的最大线程数量。超过这个数量的线程会被拒绝或放入阻塞队列，具体行为取决于线程池策略。这个值通常设置为比核心线程数大几倍，用于应对突发高并发情况。
队列容量（queueCapacity）：任务队列的长度，当所有核心线程都在忙碌时，新任务会进入队列等待处理。队列的大小决定了系统能够缓冲多少任务。队列过大会导致任务等待时间过长，队列过小则可能导致频繁地创建新线程。
线程存活时间（keepAliveTime）：线程空闲的最大存活时间。当线程数超过核心线程数时，空闲线程在指定的存活时间后会被回收。适当的存活时间有助于回收空闲线程，减少系统资源开销。
拒绝策略（RejectedExecutionHandler）：当线程池已满且队列容量达到上限时，拒绝策略决定了如何处理新任务。常见策略有：

• AbortPolicy：直接抛出 RejectedExecutionException 异常。
• CallerRunsPolicy：由调用线程执行任务（降低新任务的提交速度）。
• DiscardPolicy：直接丢弃任务，不抛出异常。
• DiscardOldestPolicy：丢弃队列中等待时间最长的任务，然后尝试执行新任务。

2. 线程池的合理配置建议

1.核心线程数（corePoolSize）：
核心线程数一般建议根据系统CPU核心数和任务的特点来设置：

• CPU密集型任务：这类任务需要大量的计算资源，建议核心线程数设置为 CPU核数 + 1。这是因为大多数情况下，CPU密集型任务受限于CPU资源，线程数与CPU核心数基本匹配即可。
• IO密集型任务：IO密集型任务常常在等待IO操作（如磁盘、网络等），并不是一直占用CPU。因此，可以设置更多的线程来处理任务。推荐公式为：核心线程数 = CPU核数 * 2 或者更多，具体数量需要通过压力测试来调整。

2.最大线程数（maxPoolSize）：
最大线程数通常设置为核心线程数的2到4倍。例如，如果核心线程数为8，最大线程数可以设置为16到32之间。需要根据系统承载的高峰流量进行压力测试，确保最大线程数足够处理突发的大量并发请求。
3.队列容量（queueCapacity）：
队列容量的配置取决于系统能够承受的任务等待时间和并发任务的多少。建议：

• 对于需要快速响应的系统，可以选择较小的队列容量（如100-500），避免过多的任务排队，影响系统响应。
• 对于可以接受一定等待时间的系统，可以选择较大的队列容量（如1000+），使系统有足够的缓冲能力。

4.线程存活时间（keepAliveTime）：
线程存活时间一般可以设置为几十秒或几分钟，常见的配置是30秒到60秒。如果系统任务波动较大，频繁创建和销毁线程的开销比较大，适当增大存活时间可以减少线程创建和销毁的频率。
5. 拒绝策略（RejectedExecutionHandler）：
根据业务需求选择合适的拒绝策略：
如果不能接受任务丢失，可以选择 CallerRunsPolicy，让调用线程执行任务，避免新任务进入线程池。
如果某些任务可以丢弃，选择 DiscardPolicy 或 DiscardOldestPolicy。
对于严肃的任务处理系统， AbortPolicy 可以确保在资源耗尽时抛出异常，防止任务被无声丢弃。

1. 压力测试步骤

确定测试场景：
模拟真实的业务负载场景，包括用户请求量、并发任务、任务的执行时间等。
确定不同类型的任务负载（如CPU密集型任务、IO密集型任务）。
选择压力测试工具：
使用合适的压力测试工具来生成负载并监控性能指标，例如：
JMeter、Gatling、Locust 等压力测试工具来模拟高并发。
Prometheus、Grafana 等工具监控CPU、内存、线程池使用情况。
测试目标：
观察系统的吞吐量（每秒处理的请求数）、响应时间（请求处理的平均/最大时间）。
监控CPU、内存的利用率，以及线程池的活跃线程数、队列长度、任务等待时间等。
从小到大逐步增加负载：
从较低的并发量开始，逐步增加并发请求或任务数，监控系统的性能表现。这可以帮助你找到系统的最大承载点和线程池配置的瓶颈。

2. 压力测试中的关键监控指标

CPU使用率：
对于CPU密集型任务，理想情况是CPU的使用率接近100%，而不会出现明显的上下文切换。
对于IO密集型任务，CPU使用率通常不会太高，但如果CPU利用率非常低，说明线程池配置可能不足。
线程池的活跃线程数：
监控线程池的活跃线程数，确认线程池的核心线程数和最大线程数是否能够满足系统需求。
如果线程池的活跃线程数始终接近maxPoolSize，且队列长度不断增加，说明线程池的最大线程数可能太小，需要增加。
队列长度：
如果线程池的队列长度经常达到或超过设定的queueCapacity，说明系统可能正在等待过多的任务。可以考虑增加线程池的maxPoolSize或优化任务的执行效率。
过长的队列会导致任务的等待时间过长，系统响应延迟。
任务的等待时间和执行时间：
测量每个任务从提交到开始执行的等待时间。如果等待时间过长，说明线程池线程数不足。
测量任务的执行时间，了解系统的处理效率。
吞吐量和响应时间：
系统的吞吐量（每秒处理的任务数）应该随着并发任务的增加而增加，但当达到某个临界点时，系统性能可能开始下降。找到吞吐量最大化的线程池配置。
响应时间的波动和上升表明系统的负载已接近或超过了其处理能力。

3.压力测试与调优的策略

调整核心线程数（corePoolSize）：
初始设置为 CPU核心数 + 1（对于CPU密集型任务）或 CPU核心数 * 2（对于IO密集型任务）。
通过压力测试观察系统的CPU利用率、活跃线程数等，逐步增加或减少核心线程数，找到既能高效利用系统资源、又不引起过多线程切换的最佳值。
调整最大线程数（maxPoolSize）：
最大线程数应设置为核心线程数的2-4倍。压力测试中，如果队列长度长时间处于高位或活跃线程数始终接近最大线程数，考虑增加maxPoolSize。
注意，如果maxPoolSize过高，可能会导致CPU过载、线程上下文切换频繁，从而影响系统性能。
调整队列容量（queueCapacity）：
根据压力测试中的任务等待时间，调整队列容量。如果任务等待时间过长，说明队列过大，可能需要减少队列容量以增加系统的响应速度。
如果系统能够承受一定的任务等待时间，增加队列容量可以减少过多的线程创建和销毁。
调整线程存活时间（keepAliveTime）：
线程存活时间通常设置在30秒到几分钟之间。如果测试结果显示系统负载波动大且线程频繁创建和销毁，可以增加存活时间。
如果负载相对稳定，减少存活时间可以回收空闲线程，节省资源。

4.压力测试的迭代过程

压力测试是一个迭代的过程，通常需要不断调整参数并测试，直到找到最优配置。
初始配置：
CPU密集型任务：corePoolSize = CPU核心数 + 1，maxPoolSize = corePoolSize * 2。
IO密集型任务：corePoolSize = CPU核心数 * 2，maxPoolSize = corePoolSize * 2。
运行测试并收集数据：
逐步增加负载，观察系统性能，记录CPU使用率、线程池活跃线程数、任务执行时间和等待时间等关键指标。
分析瓶颈：
如果CPU使用率接近100%，且线程池活跃线程数达到最大，可能需要增加线程池的maxPoolSize。
如果CPU使用率低，但任务等待时间长，可能需要增加队列容量或核心线程数。
调整参数并重复测试：
根据分析结果调整线程池配置，重新进行测试，直到找到性能和稳定性最佳的配置。

5. 压力测试示例

假设你的系统有8个CPU核心，初始线程池配置如下：
CPU密集型任务：corePoolSize = 9，maxPoolSize = 18，queueCapacity = 100。
IO密集型任务：corePoolSize = 16，maxPoolSize = 32，queueCapacity = 500。
你可以在测试中观察以下情况：
当任务提交量增加时，活跃线程数是否达到最大值。
CPU使用率是否过高或过低，特别是对于CPU密集型任务。
队列长度是否频繁接近或达到容量上限。
根据测试结果，调整这些参数，反复进行测试，直到系统在目标负载下达到最佳的响应速度和吞吐量。
总结
核心线程数与最大线程数的调优要基于CPU利用率、活跃线程数和队列长度等关键指标。
合适的配置可以通过压力测试找到，通常需要多次迭代调整。
关注系统吞吐量和响应时间，找到负载下的性能瓶颈，并通过调整线程池配置来优化。
通过这些方法，你可以确保线程池参数配置合理，最大限度地利用硬件资源，提高系统的并发处理能力和稳定性。