Java并发编程与技术内幕:ForkJoin 框架初探

 一、ForkJoin介绍

     ForkJoin是Java7提供的原生多线程并行处理框架,其基本思想是将大人物分割成小任务,最后将小任务聚合起来得到结果。它非常类似于HADOOP提供的MapReduce框架,只是MapReduce的任务可以针对集群内的所有计算节点,可以充分利用集群的能力完成计算任务。ForkJoin更加类似于单机版的MapReduce。

       

 

二、工作窃取       

工作窃取(work-stealing)算法是指某个线程从其他队列里窃取任务来执行。

 
        一个大任务分割为若干个互不依赖的子任务,为了减少线程间的竞争,把这些子任务分别放到不同的队列里,并未每个队列创建一个单独的线程来执行队列里的任务,线程和队列一一对应。比如线程1负责处理1队列里的任务,2线程负责2队列的。但是有的线程会先把自己队列里的任务干完,而其他线程对应的队列里还有任务待处理。干完活的线程与其等着,不如帮其他线程干活,于是它就去其他线程的队列里窃取一个任务来执行。而在这时它们可能会访问同一个队列,所以为了减少窃取任务线程和被窃取任务线程之间的竞争,通常会使用双端队列,被窃取任务线程永远从双端队列的头部拿任务执行,而窃取任务线程永远从双端队列的尾部拿任务执行。 

三、使用介绍

       Java提供了ForkJoinPool来支持将一个任务拆分成多个“小任务”并行计算,再把多个“小任务”的结果合成总的计算结果。

       第一步分割任务。首先我们需要有一个fork类来把大任务分割成子任务,有可能子任务还是很大,所以还需要不停的分割,直到分割出的子任务足够小。

       第二步执行任务并合并结果。分割的子任务分别放在双端队列里,然后几个启动线程分别从双端队列里获取任务执行。子任务执行完的结果都统一放在一个队列里,启动一个线程从队列里拿数据,然后合并这些数据。

Fork/Join使用两个类来完成以上两件事情:

  • ForkJoinTask:我们要使用ForkJoin框架,必须首先创建一个ForkJoin任务。它提供在任务中执行fork()和join()操作的机制,通常情况下我们不需要直接继承ForkJoinTask类,而只需要继承它的子类,Fork/Join框架提供了以下两个子类:

    • RecursiveAction:用于没有返回结果的任务。

    • RecursiveTask :用于有返回结果的任务。

  • ForkJoinPool :ForkJoinTask需要通过ForkJoinPool来执行,任务分割出的子任务会添加到当前工作线程所维护的双端队列中,进入队列的头部。当一个工作线程的队列里暂时没有任务时,它会随机从其他工作线程的队列的尾部获取一个任务。

实例1使用recursiveTask

public class CountTask extends RecursiveTask<Integer> {
private static final long serialVersionUID = -3611254198265061729L;

public static final int threshold = 2;
private int start;
private int end;

public CountTask(int start, int end) {
    this.start = start;
    this.end = end;
}

@Override
protected Integer compute() {
    int sum = 0;

    //如果任务足够小就计算任务
    boolean canCompute = (end - start) <= threshold;
    if (canCompute) {
        for (int i = start; i <= end; i++) {
            sum += i;
        }
    } else {
        // 如果任务大于阈值,就分裂成两个子任务计算
        int middle = (start + end) / 2;
        CountTask leftTask = new CountTask(start, middle);
        CountTask rightTask = new CountTask(middle + 1, end);

        // 执行子任务
        leftTask.fork();
        rightTask.fork();

        //等待任务执行结束合并其结果
        int leftResult = leftTask.join();
        int rightResult = rightTask.join();

        //合并子任务
        sum = leftResult + rightResult;

    }

    return sum;
}

public static void main(String[] args) {
    ForkJoinPool forkjoinPool = new ForkJoinPool();

    //生成一个计算任务,计算1+2+3+4
    CountTask task = new CountTask(1, 100);

    //执行一个任务
    Future<Integer> result = forkjoinPool.submit(task);

    try {
        System.out.println(result.get());
    } catch (Exception e) {
        System.out.println(e);
    }
}

}

实例2使用recursiveAction

public class ForkJoinPoolTest {
/**
 * @param args
 * @throws Exception
 */
public static void main(String[] args) throws Exception {
    // 创建包含Runtime.getRuntime().availableProcessors()返回值作为个数的并行线程的ForkJoinPool
    ForkJoinPool forkJoinPool = new ForkJoinPool();
    // 提交可分解的PrintTask任务
    forkJoinPool.submit(new PrintTask(0, 200));
    forkJoinPool.awaitTermination(2, TimeUnit.SECONDS);//阻塞当前线程直到 ForkJoinPool 中所有的任务都执行结束
    // 关闭线程池
    forkJoinPool.shutdown();
}

}

//RecursiveAction为ForkJoinTask的抽象子类,没有返回值的任务
class PrintTask extends RecursiveAction {
// 每个"小任务"最多只打印50个数
private static final int MAX = 50;

private int start;
private int end;

PrintTask(int start, int end) {
    this.start = start;
    this.end = end;
}

@Override
protected void compute() {
    // 当end-start的值小于MAX时候,开始打印
    if ((end - start) < MAX) {
        for (int i = start; i < end; i++) {
            System.out.println(Thread.currentThread().getName() + " value i:"
                    + i);
        }
    } else {
        // 将大任务分解成两个小任务
        int middle = (start + end) / 2;
        PrintTask left = new PrintTask(start, middle);
        PrintTask right = new PrintTask(middle, end);
        // 并行执行两个小任务
        left.fork();
        right.fork();
    }
}
}
©️2020 CSDN 皮肤主题: 编程工作室 设计师:CSDN官方博客 返回首页