并发编程系列之Fork/Join

前言

上节我们讲了阻塞队列,Java中的并发容器就算有了个基本的认识,今天我们来介绍一种线程工作模式,叫Fork/Join,他是JDK7之后提供的一个并行执行框架,主要的思想我觉得是分而治之,将一个大的任务分成多个小的任务并行执行,然后等所有小任务执行完毕后汇总结果,完成任务执行,是不是觉得这种模式挺好的,也有不少类似场景可以适用吧,那还等什么,开始进入我们今天的并发之旅吧。

什么是Fork/Join?

Fork/Join从上图很容易理解他是一种分合思想,Fork/Join最常用的场景就用在工作窃取算法上,那么什么是工作窃取算法呢?我们来对这个算法有个简单的认识:

窃取算法指一个线程从其他队列中窃取任务来执行,当然前提是本线程自己队列中的任务已经执行完毕,就比如,我们在工作过程中,有两个工人,每人分配了10个任务,其中某一个人干活效率比较高,当他干活自己的工作后,发现同事还有任务要做,就去帮他做,但是你又不能从第一个任务开始,因为前面的任务你并不知道你同事已经完成到第几个了,所以你就索性从最后一个任务开始往前执行,这就是工作窃取算法,当然我讲的比较通俗,那在我们Java中呢,最好是使用双向队列来做这件事情,线程1和线程2分别执行队列1和队列2中的任务,无论谁先执行完,都从队列尾部去窃取任务执行,当2个队列都空了,则任务全部执行完毕。应用Fork/Join中场景如下:

窃取算法优点:充分利用线程的并行计算,减少线程间的竞争;

窃取算法缺点:在极端情况下,队列中只有一个任务时,可能会发生两个线程或者多个线程同时执行,发生竞争,当然这种情况发生概率很低,此外该算法还会消耗更多的系统资源;

Fork/Join的设计?

Fork/Join从上面我们已经知道该框架的核心主要就是2步,那我们来看看如何将这简单的2步设计好,并为我们所用吧,

第一步:分割任务,首先我们需要有一个fork类来把大任务分割成子任务,有可能子任务还是很大,所以还需要不停的分割,直到分割出的子任务足够小(具体有多小就要根据我们的实际情况和系统资源,合适的配置执行子任务的线程数,并不是越小越好,也不是越多线程执行就会越快,因为我们知道,线程上下文切换是要占用CPU调度时间的);

第二步:执行任务并合并结果,分割的子任务分别放在双向队列里,然后几个启动线程分别从双端队列里获取任务执行。子任务执行完的结果都统一放在一个队列里,启动一个线程从队列里拿数据,然后合并这些数据,进行汇总计算;

Fork/Join的使用?

了解了如何设计Fork/Join,接下来我们再来看看如何使用呢,我们要知道要使用这种模式,Fork/Join提供了下面两个类分别来完成第一步和第二步要做的事:

  • ForkJoinTask:首先创建一个ForkJoin任务,它提供在任务中执行fork()和join()操作的机制,通常我们不需要直接继承ForkJoinTask类,而是继承其子类即可:

    • RecursiveAction:于没有返回结果的任务

    • RecursiveTask :用于有返回结果的任务

  • ForkJoinPool:ForkJoinTask需要通过ForkJoinPool来执行,任务分割出的子任务会添加到当前工作线程所维护的双端队列中,进入队列的头部。当一个工作线程的队列里暂时没有任务时,它会随机从其他工作线程的队列的尾部获取一个任务

下面我们以一个计算1+2+3+...的值:

public class ForkJoin extends RecursiveTask<Long> {
   // 计算1+2+3+...的值
   private int start;
   private int end;
   private final int DEFAULT_CAPACITY = 20;
   public ForkJoin(int start, int end) {
       this.start = start;
       this.end = end;
   }

   /**
    * 重载RecursiveTask的方法
    *
    * @return
    */
   @Override
   protected Long compute() {

       long sum = 0;
       //如果任务量在最大容量之内
       if (end - start < DEFAULT_CAPACITY) {
           for (int i = start; i <= end; i++) {
               sum += i;
           }
       } else {
           //如果超过了最大容量,那么就进行拆分处理
           //计算容量中间值
           int middle = (start + end) / 2;
           //进行递归
           ForkJoin fockJoinTest1 = new ForkJoin(start, middle);
           ForkJoin fockJoinTest2 = new ForkJoin(middle + 1, end);
           //执行任务
           fockJoinTest1.fork();
           fockJoinTest2.fork();
           //等待任务执行并返回结果
           sum = fockJoinTest1.join() + fockJoinTest2.join();
       }
       return sum;
   }

   public static void main(String[] args) {
       ForkJoinPool forkJoinPool = new ForkJoinPool();
       ForkJoin forkJoin = new ForkJoin(1, 100);
       //前面我们说过,任务提交中invoke可以直接返回结果
       long result = forkJoinPool.invoke(forkJoin);
       System.out.println("fock/join计算结果:" +result);
   }
}

Fork/Join的实现原理

Fork/Join的底层,要根据JDK版本来论,1.8之前和1.8及之后的底层实现不同,不过这些对于开发者来说都是透明的。

下面我们看下JDK1.7及之前版本的底层实现:

ForkJoinPool由ForkJoinTask数组和ForkJoinWorkerThread数组组成,ForkJoinTask数组负责存放程序提交给ForkJoinPool的任务,而ForkJoinWorkerThread数组负责执行这些任务。

public ForkJoinPool(int parallelism,
                       ForkJoinWorkerThreadFactory factory,
                       Thread.UncaughtExceptionHandler handler,
                       boolean asyncMode) {
       checkPermission();
               ...
       this.submissionQueue = new ForkJoinTask<?>[INITIAL_QUEUE_CAPACITY];
                 ...
       workers = new ForkJoinWorkerThread[n + 1];
       this.submissionLock = new ReentrantLock();
       this.termination = submissionLock.newCondition();
       StringBuilder sb = new StringBuilder("ForkJoinPool-");
       sb.append(poolNumberGenerator.incrementAndGet());
       sb.append("-worker-");
       this.workerNamePrefix = sb.toString();
   }

new ForkJoinTask<?>,我们再看下这个数组:

public final ForkJoinTask<V> fork() {
// 当我们调用ForkJoinTask的fork方法时,
// 程序会调用ForkJoinWorkerThread的pushTask方法异步的执行这个任务,然后立即返回结果
       ((ForkJoinWorkerThread) Thread.currentThread())
           .pushTask(this);
       return this;
   }

再看下pushTask方法:

// pushTask方法把当前任务存放在ForkJoinTask 数组queue里。
// 然后再调用ForkJoinPool的signalWork()方法唤醒或创建一个工作线程来执行任务
final void pushTask(ForkJoinTask<?> t) {
       ForkJoinTask<?>[] q; int s, m;
       if ((q = queue) != null) {    // ignore if queue removed
           long u = (((s = queueTop) & (m = q.length - 1)) << ASHIFT) + ABASE;
           UNSAFE.putOrderedObject(q, u, t);
           queueTop = s + 1;         // or use putOrderedInt
           if ((s -= queueBase) <= 2)
               pool.signalWork();
           else if (s == m)
               growQueue();
       }
   }

 

我们再看另一个方法Join方法:

// Join方法的主要作用是阻塞当前线程并等待获取结果
public final V join() {
// 它调用了doJoin()方法,通过doJoin()方法得到当前任务的状态来判断返回什么结果
       if (doJoin() != NORMAL)
           return reportResult();
       else
           return getRawResult();
   }

//已完成(NORMAL),被取消(CANCELLED),信号(SIGNAL)和出现异常(EXCEPTIONAL)
// 如果任务状态是已完成,则直接返回任务结果。
// 如果任务状态是被取消,则直接抛出CancellationException。
// 如果任务状态是抛出异常,则直接抛出对应的异常
private V reportResult() {
       int s; Throwable ex;
       if ((s = status) == CANCELLED)
           throw new CancellationException();
       if (s == EXCEPTIONAL && (ex = getThrowableException()) != null)
           UNSAFE.throwException(ex);
       return getRawResult();
   }

再看下dojoin方法:

// 首先通过查看任务的状态,看任务是否已经执行完了
// 如果执行完了,则直接返回任务状态
// 如果没有执行完,则从任务数组里取出任务并执行
// 如果任务顺利执行完成了,则设置任务状态为NORMAL
// 如果出现异常,则纪录异常,并将任务状态设置为EXCEPTIONAL  
private int doJoin() {
       Thread t; ForkJoinWorkerThread w; int s; boolean completed;
       if ((t = Thread.currentThread()) instanceof ForkJoinWorkerThread) {
           if ((s = status) < 0)
               return s;
           if ((w = (ForkJoinWorkerThread)t).unpushTask(this)) {
               try {
                   completed = exec();
               } catch (Throwable rex) {
                   return setExceptionalCompletion(rex);
               }
               if (completed)
                   return setCompletion(NORMAL);
           }
           return w.joinTask(this);
       }
       else
           return externalAwaitDone();
   }

 

对于Fork/Join在jdk8中的底层,我们下次有时间再分析

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值