spark算子join操作

本文介绍了Spark中的join操作,它使用内连接的方式,基于相同KEY的数据进行结合。通过示例展示了如何创建并行集合,并对两个并行集合执行join操作,显示了join后的结果。
摘要由CSDN通过智能技术生成

一旦分布式数据集(distData)被创建好,它们将可以被并行操作。例如,我们可以调用distData.reduce(lambda a, b: a + b)来将数组的元素相加。我们会在后续的分布式数据集运算中进一步描述。
并行集合的一个重要参数是slices,表示数据集切分的份数。Spark将会在集群上为每一份数据起一个任务。典型地,你可以在集群的每个CPU上分布2-4个slices. 一般来说,Spark会尝试根据集群的状况,来自动设定slices的数目。然而,你也可以通过传递给parallelize的第二个参数来进行手动设置。(例如:sc.parallelize(data, 10)).

spark中的join算子使用的是内连接的join,以某一个表为基础,KEY相同的打印出来,不相同的不打印

scala> val visit = spark.sparkContext.parallelize(List(("index.html","1.2.3.4"),("about.html","3,4,5,6"),("index.html","1.3.3.1"),("hello.html","1,2,3,4")),2);

visit: org.apache.spark.rdd.RDD[(String, String)] = ParallelCollectionRDD[0] at parallelize at <console>:23

scala> val page = spark.sparkContext.parallelize(List(("index.html","home"),("

以下是Sparkjoin算子的用法和示例: 1.内连接(inner join):返回两个RDD中键相同的元素对,类似于SQL中的INNER JOIN操作。 ```scala val rdd1 = sc.parallelize(Seq((1, "A"), (2, "B"), (3, "C"))) val rdd2 = sc.parallelize(Seq((1, "D"), (2, "E"), (4, "F"))) val result = rdd1.join(rdd2) result.foreach(println) ``` 输出结果为: ``` (1,(A,D)) (2,(B,E)) ``` 2.左外连接(left outer join):返回左侧RDD中所有的元素以及右侧RDD中键相同的元素对,如果右侧RDD中没有匹配的元素,则用None表示。 ```scala val rdd1 = sc.parallelize(Seq((1, "A"), (2, "B"), (3, "C"))) val rdd2 = sc.parallelize(Seq((1, "D"), (2, "E"), (4, "F"))) val result = rdd1.leftOuterJoin(rdd2) result.foreach(println) ``` 输出结果为: ``` (1,(A,Some(D))) (2,(B,Some(E))) (3,(C,None)) ``` 3.右外连接(right outer join):返回右侧RDD中所有的元素以及左侧RDD中键相同的元素对,如果左侧RDD中没有匹配的元素,则用None表示。 ```scala val rdd1 = sc.parallelize(Seq((1, "A"), (2, "B"), (3, "C"))) val rdd2 = sc.parallelize(Seq((1, "D"), (2, "E"), (4, "F"))) val result = rdd1.rightOuterJoin(rdd2) result.foreach(println) ``` 输出结果为: ``` (1,(Some(A),D)) (2,(Some(B),E)) (4,(None,F)) ``` 4.全外连接(full outer join):返回左右两侧RDD中所有的元素以及键相同的元素对,如果左右两侧RDD中没有匹配的元素,则用None表示。 ```scala val rdd1 = sc.parallelize(Seq((1, "A"), (2, "B"), (3, "C"))) val rdd2 = sc.parallelize(Seq((1, "D"), (2, "E"), (4, "F"))) val result = rdd1.fullOuterJoin(rdd2) result.foreach(println) ``` 输出结果为: ``` (1,(Some(A),Some(D))) (2,Some(B),Some(E))) (3,(Some(C),None)) (4,(None,Some(F))) ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值