ExecutorCompletionService处理并行业务

需求场景

如下图所示，需要服务Start获取A、B、C等等多个耗时任务的执行结果。使用ExecutorService也可以实现并行的效果，但是返回结果受限于加入ExecutorService的执行顺序；加入顺序是A>B>C 获取结果的顺序也是如此，即使A是最耗时的。当我们需要尽快获取结果处理业务时，就需要考虑使用别的方案。

解决方案

一种简单的处理方式是使用ExecutorCompletionService来代替ExecutorService。
ExecutorCompletionService内使用BlockingQueue<Future>来存放已经完成的任务。优先完成的任务会优先存放在BlockingQueue<Future>队列中，所以我们能及时的拿到最优先的处理结果。

public static void testExecutorCompletionService() throws InterruptedException, ExecutionException {
    Executor executor = Executors.newFixedThreadPool(10);
    CompletionService<String> service = new ExecutorCompletionService<>(executor);
    service.submit(new Callable<String>() {
        @Override
        public String call() throws Exception {
        	TimeUnit.MILLISECONDS.sleep(200);
            return "World--" + Thread.currentThread().getName();
        }
    });
    service.submit(new Callable<String>() {
        @Override
        public String call() throws Exception {
			TimeUnit.MILLISECONDS.sleep(100);
            return "Hello--" + Thread.currentThread().getName();
        }
    });
 
    // 优先取出执行完的，而不是submit顺序。
    // 增加2次就需要取出2次，否则永远被缓存在JVM中
    service.take().get();// Hello--
    service.take().get();// World--
}

QueueingFuture 继承自 FutureTask，重写了 done() 方法。
把 task 放到 completionQueue 队列里面，当任务执行完成后，task 就会被放到队列里面去了。
此时此刻 completionQueue 队列里面的 task 都是已经 done() 完成了的 task，而这个 task 就是我们拿到的一个个的 future 结果。
如果调用 completionQueue 的 task 方法，会阻塞等待任务。等到的一定是完成了的 future，我们调用 get() 方法就能立马获得结果。

注意

执行完的结果存储在completionQueue中，如果不完全取出结果会造成“垃圾对象”无法释放。