我们在多线程开发过程中,难免会遇到线程池使用, 但是,有时候我们会发现,线程池设置的线程数量是一个棘手的问题,线程数量设置过多或者过少,都会导致系统性能无法发挥出来,那我们该如何设置线程数量?
在确定线程数量前,我们首先要思考一个问题就是系统性能优化指标,通常情况下,优化指标有降低延迟和提高吞吐量两个。
降低延迟:发送请求到接收数据的时间。
提高吞吐量:单位时间能可以处理更多的请求。(重点)
从这两个指标,我们通常会分别采取优化算法和使硬件性能发挥到极致。
优化算法:降低时间和空间复杂度,使得程序执行时间更短。
硬件性能优化:提高I/O和CPU的利用率。
如何提高I/O和CPU的利用率?
如果是单核系统,只有一个程序执行,并且程序既有I/O操作和CPU计算,此时执行I/O操作,CPU空闲,此时,如果用两个线程去执行,一个线程执行I/O操作,一个线程执行CPu操作,此时就能将性能发挥出来。
我们在进一步的分析如何提高硬件的性能,根据线程的一般应用场景,由于I/O操作比CPU计算耗时多,所以,程序只要有IO操作,就归纳为IO密集型计算,程序中只有CPU计算,归纳为CPU密集型程序。
1、IO密集型
假如我们将R=IO耗时/CPU耗时=10。此时我们创建线程A执行IO操作,此时为了不让CPU闲着,此时,就需要10个线程去执行CPU计算。所以,不难发现,我们需要创建11个线程来执行,如果是多核CPU,线程数量是单核线程数*CPU核数。
2、CPU密集型
这个很简单,CPU核数=线程数,但是我们一般会设置CPU核数+1防止由于其他因素导致线程阻塞。