任务拆分独立计算--ForkJoin

      任务拆分独立计算笼统的来讲就是一个大任务被分成若干个小任务,并行计算之后再将结果合并的过程。主要有MapReduce、ForkJoin等。

      MapReduce与ForkJoin的相似点:1.他们都是用于执行并行任务的;2.他们的基本思想都是把问题分解为一个个彼此独立的或可分解的子问题分别进行计算,再合并结果。

      MapReduce与ForkJoin的不同点:1.MapReduce的任务可以针对集群内的所有计算节点,可以充分利用集群的能力完成计算任务,ForkJoin更加类似于单机版的MapReduce;2.MapReduce是把大数据集切分成小数据集,并行分布计算后再合并,ForkJoin是将一个问题递归分解成子问题再将子问题并行运算后合并结果;3.ForkJoin只有在必要时如任务非常大的情况下才分割成一个个小任务,而MapReduce总是在开始执行第一步进行分割;4.ForkJoin更适合一个JVM内线程级别,而MapReduce适合分布式环境系统。

       这篇博客主要从代码层面讲解如何使用ForkJoin进行简单的任务拆分独立计算。以计数求和为例,废话不多说,直接上代码~


一、代码

package com.xzw.forkjoin;

import java.util.concurrent.ExecutionException;
import java.util.concurrent.ForkJoinPool;
import java.util.concurrent.Future;
import java.util.concurrent.RecursiveTask;

public class CountTask extends RecursiveTask<Integer>{
	public static final int threshold = 5;
	private int start;
	private int end;
	
	public CountTask(int start, int end){
		this.start = start;
		this.end = end;
	}

	@Override
	protected Integer compute() {
		int sum = 0;
		//如果任务足够小就计算任务
		boolean canCompute = (end - start) <= threshold;
		if (canCompute) {
			System.out.println(Thread.currentThread().getName() + " start:" + start + " end:" + end);
			for (int i = start; i <= end; i++) {
				sum += i;
			}
		}else {
			//如果任务大于阈值,就分裂成两个子任务进行计算
			int middle = (start + end) / 2;
			CountTask leftTask = new CountTask(start, middle);
			CountTask rightTask = new CountTask(middle + 1, end);
			leftTask.fork();
			rightTask.fork();
			//等待任务执行结束合并其结果
			sum = leftTask.join() + rightTask.join();
		}
		return sum;
	}
	
	public static void main(String[] args) {
		ForkJoinPool forkJoinPool = new ForkJoinPool();
		CountTask task = new CountTask(1, 200);
		Future<Integer> resultFuture = forkJoinPool.submit(task);
		try {
			System.out.println(resultFuture.get());
		} catch (InterruptedException e) {
			// TODO Auto-generated catch block
			e.printStackTrace();
		} catch (ExecutionException e) {
			// TODO Auto-generated catch block
			e.printStackTrace();
		}
	}

}

二、结果截图




至此,一个简单的任务拆分独立计算就完成了。


你们在此过程中还遇到了什么问题,欢迎留言,让我看看你们都遇到了哪些问题。

  • 6
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
### 回答1: 在SparkSQL中,可以使用explode函数将一行数据拆分成多行。具体操作如下: 1. 使用split函数将一行数据按照指定的分隔符拆分成数组。 2. 使用explode函数将数组中的每个元素拆分成一行数据。 例如,假设有如下一行数据: ``` 1,2,3,4,5 ``` 我们可以使用以下代码将其拆分成多行: ```sql SELECT explode(split('1,2,3,4,5', ',')) AS value ``` 执行结果如下: ``` value ----- 1 2 3 4 5 ``` 其中,split函数将字符串按照逗号拆分成数组,explode函数将数组中的每个元素拆分成一行数据。 ### 回答2: Spark SQL是Spark中用于处理结构化数据的模块,它支持执行SQL语句和Spark程序,并提供了一个与Hive兼容的SQL语言引擎。在Spark SQL中,可以使用各种函数对数据进行处理和转换,包括将一行数据拆分成多行的函数。 将一行数据拆分成多行,可以通过使用内置的explode和posexplode函数来实现。其中,explode函数将一个数组列拆分成多行,posexplode函数将一个数组列拆分成多行,并返回数组中每个元素在原数组中的索引。 例如,有以下一行数据: ``` id, names 1, ["Tom", "Jerry", "Lucy"] ``` 如果我们想将该行数据按照每个name单独拆成一行,可以使用explode函数: ``` SELECT id, name FROM table_name LATERAL VIEW explode(names) as name; ``` 该语句将会返回以下结果: ``` id, name 1, Tom 1, Jerry 1, Lucy ``` 如果我们想同时保留name在原数组中的索引,可以使用posexplode函数: ``` SELECT id, index, name FROM table_name LATERAL VIEW posexplode(names) as index, name; ``` 该语句将会返回以下结果: ``` id, index, name 1, 0, Tom 1, 1, Jerry 1, 2, Lucy ``` 通过使用explode和posexplode函数,我们可以将一行数据拆分成多行,并进一步进行数据分析和处理。 ### 回答3: 在Spark SQL中,可以使用explode函数将一行数据拆分成多行。explode函数是将一个数组或者一个map中的值展开成多行的函数,假设一个表中有一列是数组类型,若想将它拆分成多行,可以使用explode函数操作。 举一个例子:假设数据表中有如下数据 | id | name | hobbies | |----|---------|----------------------| | 1 | Alice | [reading, singing] | | 2 | Bob | [swimming, hiking] | | 3 | Charlie | [cooking, photography]| 可以使用以下代码拆分hobbies列: ``` SELECT id, name, hobby FROM data_table LATERAL VIEW explode(hobbies) exploded_table AS hobby; ``` 以上代码中,首先使用LATERAL VIEW关键字,将explode操作应用到hobbies列上,然后将拆分后的hobby列命名为新的列名hobby。最终,拆分后的结果如下: | id | name | hobby | |----|---------|------------| | 1 | Alice | reading | | 1 | Alice | singing | | 2 | Bob | swimming | | 2 | Bob | hiking | | 3 | Charlie | cooking | | 3 | Charlie | photography| 可以看到,hobbies列被成功拆分成了多行,每一行对应一个具体的爱好。利用这种方式拆分数据行,可以更方便地进行各种分析和计算

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

象在舞

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值