线程的并发工具类之Fork/Join

1. 简介

• Fork/Join 框架是 JDK 1.7 提供的并行执行任务框架，这个框架通过（递归）把问题划分为子任务，然后并行的执行这些子任务，等所有的子任务都结束的时候，再合并最终结果的这种方式来支持并行计算编程。
• 总体的设计参考了为 Cilk 设计的 work-stealing 框架。
• Fork/Join 并行方式是获取良好的并行计算性能的一种最简单同时也是最有效的设计技术，是 分治算法（Divide-and-Conquer） 的并行版本。
  • Fork 操作启动一个新的并行 Fork/Join 子任务。
  • Join 操作一直等待直到所有的子任务都结束。
  • Fork/Join 算法，如同其他分治算法一样，总是会递归的、反复的划分子任务，直到这些子任务可以用足够简单的、短小的顺序方法来执行。

2. 工作窃取（work-stealing）

• ForkJoin 框架的核心在于轻量级调度机制，使用了 工作窃取（Work-Stealing）所采用的基本调度策略。

work-stealing

• 每一个工作线程维护自己的调度队列中的可运行任务。
• 队列以双端队列的形式被维护。
  • 支持后进先出 LIFO 的 push 和 pop 操作。
  • 支持先进先出 FIFO 的 take 操作。
• 对于一个给定的工作线程来说，任务所产生的子任务将会被放入到工作者自己的双端队列中。
• 工作线程使用后进先出 LIFO（最新的元素优先）的顺序，通过弹出任务来处理队列中的任务。
• 当一个工作线程的本地没有任务去运行的时候，它将使用先进先出 FIFO 的规则尝试随机的从别的工作线程中拿（窃取）一个任务去运行。
• 当一个工作线程触及了 Join 操作，如果可能的话它将处理其他任务，直到目标任务被告知已经结束（通过 isDone() 方法）。所有的任务都会 无阻塞 的完成。
• 当一个工作线程无法再从其他线程中获取任务和失败处理的时候，它就会退出并经过一段时间之后再度尝试直到所有的工作线程都被告知他们都处于空闲的状态。
  • 在这种情况下，他们都会阻塞直到其他的任务再度被上层调用。
• 使用后进先出 LIFO 用来处理每个工作线程的自己任务，但是使用先进先出 FIFO 规则用于获取别的任务，这是一种被广泛使用的进行递归 Fork/Join 设计的一种调优手段。
  • 让窃取任务的线程从队列拥有者相反的方向进行操作会减少线程竞争。
  • 同样体现了递归分治算法的大任务优先策略。
  • 更早期被窃取的任务有可能会提供一个更大的单元任务，从而使得窃取线程能够在将来进行递归分解。
• 对于一些基础的操作而言，使用相对较小粒度的任务比那些仅仅使用粗粒度划分的任务以及那些没有使用递归分解的任务的运行速度要快。尽管相关的少数任务在大多数的 Fork/Join 框架中会被其他工作线程窃取，但是创建许多组织良好的任务意味着只要有一个工作线程处于可运行的状态，那么这个任务就有可能被执行。

代码实现：

public class SumArray {
    private static class SumTask extends RecursiveTask<Integer>{

        private final static int THRESHOLD = MakeArray.ARRAY_LENGTH/10;
        private int[] src; //表示我们要实际统计的数组
        private int fromIndex;//开始统计的下标
        private int toIndex;//统计到哪里结束的下标

        public SumTask(int[] src, int fromIndex, int toIndex) {
            this.src = src;
            this.fromIndex = fromIndex;
            this.toIndex = toIndex;
        }

      @Override
      protected Integer compute() {
         if(toIndex-fromIndex < THRESHOLD) {
            int count = 0;
            for(int i=fromIndex;i<=toIndex;i++) {
                //SleepTools.ms(1);
                count = count + src[i];
            }
            return count;
         }else {
            //fromIndex....mid....toIndex
            //1...................70....100
            int mid = (fromIndex+toIndex)/2;
            SumTask left = new SumTask(src,fromIndex,mid);
            SumTask right = new SumTask(src,mid+1,toIndex);
            invokeAll(left,right);
            return left.join()+right.join();
         }
      }
    }


    public static void main(String[] args) {

        ForkJoinPool pool = new ForkJoinPool();
        int[] src = MakeArray.makeArray();

        SumTask innerFind = new SumTask(src,0,src.length-1);

        long start = System.currentTimeMillis();

        pool.invoke(innerFind);//同步调用
        System.out.println("Task is Running.....");

        System.out.println("The count is "+innerFind.join()
                +" spend time:"+(System.currentTimeMillis()-start)+"ms");

    }
}