比较
在前面的一些文章里,我们已经讨论了手工创建和管理线程。在实际应用中我们有的时候也会经常听到线程池这个概念。在这里,我们可以先针对手工创建管理线程和通过线程池来管理做一个比较。通常,我们如果手工创建线程,需要定义线程执行对象,它实现的接口。然后再创建一个线程对象,将我们定义好的对象执行部分装载到线程中。对于线程的创建、结束和结果的获取都需要我们来考虑。如果我们需要用到很多的线程时,对线程的管理就会变得比较困难。我们手工定义线程的方式在时间和空间效率方面会存在着一些不足。比如说我们定义好的线程不能再进行重复利用,以后每次使用线程的时候都需要去向系统申请资源来创建一个。这样会导致对资源利用效率比较低。另外,我们知道线程的创建和启动都需要一定的时间,每次都从头启动一个线程这样效率也比较低。
以上这些问题恰恰都是线程池所能解决的。笼统的从概念上来说,线程池通过一个缓存池的空间预先创建了一部分线程,在我们需要使用的时候就从里面直接将线程资源取出来使用。在将线程使用完毕之后,线程池又会将线程回收进行再利用。正是因为线程池的这些优点,在一些对性能要求比较高以及线程请求比较多的时候,它是一个很理想的选择,也值得我们好好的研究研究。
Java线程池
线程池类型
自从Java 1.5以来提供的线程池功能,我们使用线程池还是很方便的。一般都是通过Executors类提供的方法来创建。Executors提供了创建一下几类线程池的方法:
- Single Thread Executor: 创建的线程只包含一个线程,所有提交到线程池的线程会按照提交的顺序一个接一个的执行。通过Executors.newSingleThreadExecutor()方法创建。这种线程池适用于我们只希望每次使用一个线程的情况。
- Cached Thread Pool: 线程池里会创建尽可能多的必须线程来并行执行。一旦前面的线程执行结束后可以被重复使用。当然,使用这种线程池的时候我们必须要小心。我们使用多线程的目的是希望能够提高并行度和效率,但是并不是线程越多就越好。如果我们设定的线程数目过多的时候,使用Cached Thread Pool并不是一个很理想的选择。因为一方面它占用了大量的线程资源,同时线程之间互相切换很频繁的时候也会带来执行效率的下降。它主要适用于使用的线程数目不多,但是对线程有比较灵活动态的要求。一般通过Executors.newCachedThreadPool()来创建。
- Fix Thread Pool: 线程池里会创建固定数量的线程。在线程都被使用之后,后续申请使用的线程都会被阻塞在那里。使用Executors.newScheduledThreadPool()创建。
- Scheduled Thread Pool: 线程池可以对线程执行的时间和顺序做预先指定。比如说要某些线程在某个时候才启动或者每隔多长时间就启动一次。有点像我们的Timer Job。使用Executors.newScheduledThreadPool()创建。
- Single Thread Scheduled Pool: 线程池按照指定的时间或顺序来启动线程池。同时线程池里只有一个线程。创建方法:Executors.newSingleThreadScheduledExecutor()
前面的这几种类型的线程池已经能够满足我们大多数的要求。从表面上看,这些线程的创建都是通过Executors的静态方法实现。实际上,我们所有创建的线程池都可以说是ExecutorService类型的。前面创建的线程池比如说Cached Thread Pool都是ExecutorService类型的子类。Executors, ExecutorService和ThreadPoolExecutor等各种具体的线程池的类关系图如下:
从这个类图我们可以看到,Executors本身会引用到各种具体ExecutorService的实现。它本身相当于是一个定义的工厂方法,将各种具体线程池的创建给封装起来。当然,我们也可以通过实例化具体的类来建立线程池,只不过相对来说更加麻烦。更加推荐使用Executors的工厂方法。
示例
有了前面那些讨论,我们可以举一个具体的实例来看看线程池的使用。通常来说,我们使用线程可以分为两种类型。一种是使用多个线程执行某些任务,但不一定要将线程执行的结果统一返回并统计。另外一种则需要将线程执行的结果统一记录和统计。我们就针对这两种情况来尝试。
运行线程不统一返回结果
假定我们就通过线程池创建若干个线程,每个线程仅仅是休眠若干秒钟然后打印一些信息。我们可以这样来实现代码:
首先定义要执行的线程:
- import java.util.Date;
- import java.util.concurrent.TimeUnit;
- public class Task implements Runnable {
- private Date initDate;
- private String name;
- public Task(String name) {
- initDate = new Date();
- this.name = name;
- }
- @Override
- public void run() {
- System.out.printf("%s: Task %s: Created on %s\n",
- Thread.currentThread().getName(), name, initDate);
- System.out.printf("%s: Task %s: Started on %s\n",
- Thread.currentThread().getName(), name, new Date());
- try {
- long duration = (long)(Math.random() * 10);
- System.out.printf("%s: Task %s: Doing a task during %d seconds\n",
- Thread.currentThread().getName(), name, duration);
- TimeUnit.SECONDS.sleep(duration);
- } catch(InterruptedException e) {
- e.printStackTrace();
- }
- System.out.printf("%s: Task %s: Finished on: %s\n",
- Thread.currentThread().getName(), name, new Date());
- }
- }
这部分代码很简单,就是定义一个Task类,它实现Runnable接口。
然后我们再定义一个封装了线程池的类:
- import java.util.concurrent.Executors;
- import java.util.concurrent.ThreadPoolExecutor;
- public class Server {
- private ThreadPoolExecutor executor;
- public Server() {
- executor = (ThreadPoolExecutor)Executors.newCachedThreadPool();
- }
- public void executeTask(Task task) {
- System.out.printf("Server: A new task has arrived\n");
- executor.execute(task);
- System.out.printf("Server: Pool Size: %d\n", executor.getPoolSize());
- System.out.printf("Server: Active Count: %d\n", executor.getActiveCount());
- System.out.printf("Server: Completed Tasks: %d\n", executor.getCompletedTaskCount());
- }
- public void endServer() {
- executor.shutdown();
- }
- }
Server类主要是内部定义了ThreadPoolExecutor的成员变量和executeTask, endServer两个方法。他们一个用于分配线程并执行,另外一个用于关闭整个线程池。
我们整个使用的代码如下:
- public class Main {
- public static void main(String[] args) {
- Server server = new Server();
- for(int i = 0; i < 10; i++) {
- Task task = new Task("Task " + i);
- server.executeTask(task);
- }
- server.endServer();
- }
- }
在这里我们通过线程池创建了10个线程。在执行结束之后我们要注意的一点是必须要调用endServer来终止线程池,否则线程池会一直处在一个运行的状态。
总的来说,前面使用线程池的方法非常简单。无非是创建线程执行对象,再将它传入给线程池的execute方法。最后,在使用完毕线程池之后关闭它。
运行线程统一返回结果
现在假定我们要使用一个线程池来调度几个线程。每个线程来计算一个 给定 数字的阶乘n!。那么,我们可以先定义需要提交计算的部分:
- import java.util.concurrent.Callable;
- import java.util.concurrent.TimeUnit;
- public class FactorialCalculator implements Callable<Integer> {
- private Integer number;
- public FactorialCalculator(Integer number) {
- this.number = number;
- }
- @Override
- public Integer call() throws Exception {
- int result = 1;
- if(number == 0 || number == 1) {
- result = 1;
- } else {
- for(int i = 2; i <= number; i++) {
- result *= i;
- TimeUnit.MILLISECONDS.sleep(200);
- }
- }
- System.out.printf("%s: %d\n", Thread.currentThread().getName(), result);
- return result;
- }
- }
这里,我们定义了FactorialCalculator类。它实现了接口Callable。这个接口后面会被ThreadPoolExecutor的submit方法所用到。线程池在收到Callable的参数后会启动一个线程来执行call方法里的运算。还有一个需要注意到的地方是,我们这里定义了返回值是Integer类型的。
现在我们再来看怎么使用他们:
- import java.util.ArrayList;
- import java.util.List;
- import java.util.Random;
- import java.util.concurrent.ExecutionException;
- import java.util.concurrent.Executors;
- import java.util.concurrent.Future;
- import java.util.concurrent.ThreadPoolExecutor;
- public class Main {
- public static void main(String[] args) {
- //创建固定长度为2的线程池
- ThreadPoolExecutor executor = (ThreadPoolExecutor)Executors.
- newFixedThreadPool(2);
- // 声明保存返回结果的列表,注意类型为Future<Integer>
- List<Future<Integer>> resultList = new ArrayList<>();
- Random random = new Random();
- // For循环中的submit方法在提交线程执行后会有一个返回类型为Future<Integer>的结果。将结果保存在列表中。
- for(int i = 0; i < 10; i++) {
- Integer number = random.nextInt(10);
- FactorialCalculator calculator =
- new FactorialCalculator(number);
- Future<Integer> result = executor.submit(calculator);
- resultList.add(result);
- }
- System.out.printf("Main: Results\n");
- for(int i = 0; i < resultList.size(); i++) {
- Future<Integer> result = resultList.get(i);
- Integer number = null;
- try {
- // 结果需要在线程执行完后才能get到,所以get执行时会使得线程等待,需要捕捉异常
- number = result.get();
- } catch(InterruptedException e) {
- e.printStackTrace();
- } catch(ExecutionException e) {
- e.printStackTrace();
- }
- System.out.printf("Main: Task %d: %d\n", i, number);
- }
- // 关闭线程池
- executor.shutdown();
- }
- }
前面的代码我增加了一些说明的注释。其中的要点就是我们submit提交运算之后并不会马上得到结果。但是这个结果集我们可以将他们保存到一个列表中。在后面通过get的方法来获取。
这里还有一个比较有意思的地方就是,在前面那种不返回结果的地方,我们是通过提交一个Runnable的参数给ThreadPoolExecutor的execute方法来安排线程执行。这个我们好理解。可是在后面这个返回结果的地方,我们是提交了一个Callable的参数给ThreadPoolExecutor的submit方法。这里没有声明线程的东西,比如说我实现Runnable或者集成Thread,我怎么知道分配线程来执行call方法里面的东西呢? 这个其实在ThreadPoolExecutor继承的类结构里有一个转换的方式,将Callable的变量绑定到一个线程对象实例当中,然后启动线程执行。在后续线程池详细的实现分析中我们再深入讨论。
综合这部分的讨论,返回结果集其实也就那么回事。不就是定义一个实现Callable的对象提交给线程池的submit方法么?后面我们只要等着去读submit返回的Future<T>结果就行了。So easy!
Java线程池和线程数的选择
我们使用线程池来做多线程运算的时候,问题类型和对应线程数量的选择都很重要。一般来说,我们面临的多线程处理问题会分为如下两类:
CPU密集
对于CPU密集类型的问题来说,更多只是CPU要做大量的运算处理。这个时候如果要保证系统最充分的利用率,我们最好定义的线程数量和系统的CPU数量一致。这样每个CPU都可以充分的运用起来,而且很少或者不会有线程之间的切换。在这种情况下,比较理想的线程数目是CPU的个数或者比CPU个数大1。一般来说,我们可以通过如下的代码来得到CPU的个数:
- Runtime.getRuntime().availableProcessors();
IO密集
对于IO密集型的问题来说,我们会发现由于IO经常会带来各种中断,并且IO的速度和CPU处理速度差别很大。因此,我们需要考虑到IO在整个运算时间中所占的比例。比如说我们有50%比例的时间是阻塞的,那么我们可以创建相当于当前CPU数目的两倍数的线程。假设我们知道阻塞的比例数的话,我们可以通过如下的一个简单关系来估算线程数的大小:
线程数 = 可用CPU个数 / (1 - 阻塞比例数)
当然,这种估算的方式是基于一个理想的条件,在实际问题中还需要根据具体场景来调整。
总结
和手动创建和管理线程比起来,使用线程池来管理线程是一种更加理想的选择。我们可以根据具体问题对线程的要求来选择不同的线程池。创建线程池一般推荐使用Executors里定义的工厂方法,它本身屏蔽了很多创建线程池的细节。另外,我们通常使用线程池来启用多个线程的时候,有的时候不需要去刻意统计每个线程执行的结果,有的时候又需要。可以笼统的将线程池的使用分成这两类。在我们不需要统计结果的时候可以直接用线程池里ThreadPoolExecutor的execute(Runnable command)方法来执行线程。如果我们需要获得线程执行的结果,可以使用ThreadPoolExecutor的submit(Callable call)来提交线程,然后通过收集submit返回的Future<T>结果进行统计。
另外,我们选择线程池执行多任务的时候也需要考虑执行的任务类型。通常这些任务可以分为CPU密集和IO密集的两种类型。对于CPU密集的任务,我们应该选择和CPU数量一致的线程数,这样可以达到理想的执行效果也减少了线程切换的开销。对于IO密集的任务,我们可以根据IO所占程序执行中的比例来选择,一般推荐线程数目是CPU数目的10倍。
参考材料
Programming Concurrency on the JVM: Mastering Synchronization, STM, and Actors
http://www.baptiste-wicht.com/2010/09/java-concurrency-part-7-executors-and-thread-pools/