Spark之RDD的glom算子

glom

glom的作用是将同一个分区里的元素合并到一个array里
glom属于Transformation算子:这种变换并不触发提交作业,完成作业中间过程处理。
Transformation 操作是延迟计算的,也就是说从一个RDD 转换生成另一个 RDD 的转换操作不是马上执行,需要等到有 Action 操作的时候才会真正触发运算。
源码:

 /**
       * Return an RDD created by coalescing all elements within each partition into an array.
       */
      def glom(): RDD[Array[T]] = withScope {
        new MapPartitionsRDD[Array[T], T](this, (context, pid, iter) => Iterator(iter.toArray))
      }

举例说明
建一个RDD建一个RDD,glom之前为
在这里插入图片描述
glom之后在这里插入图片描述可见RDD中的元素已经变成了分片映射的列表

当调用parallelize()方法的时候,不指定分区数的时候,使用系统给出的分区数,我们这里指定了3
个分区

Java实现: ```java import org.apache.spark.SparkConf; import org.apache.spark.api.java.JavaRDD; import org.apache.spark.api.java.JavaSparkContext; import scala.Tuple2; import java.util.ArrayList; import java.util.List; public class GlomExample { public static void main(String[] args) { SparkConf conf = new SparkConf().setAppName("GlomExample").setMaster("local"); JavaSparkContext sc = new JavaSparkContext(conf); List<Integer> data = new ArrayList<>(); for (int i = 1; i <= 10; i++) { data.add(i); } JavaRDD<Integer> rdd = sc.parallelize(data, 2); JavaRDD<List<Integer>> glomRdd = rdd.glom(); List<List<Integer>> result = glomRdd.collect(); for (int i = 0; i < result.size(); i++) { System.out.println("Partition " + i + ": " + result.get(i)); } sc.stop(); } } ``` Scala实现: ```scala import org.apache.spark.{SparkConf, SparkContext} object GlomExample { def main(args: Array[String]): Unit = { val conf = new SparkConf().setAppName("GlomExample").setMaster("local") val sc = new SparkContext(conf) val data = 1 to 10 val rdd = sc.parallelize(data, 2) val glomRdd = rdd.glom() val result = glomRdd.collect() for (i <- result.indices) { println(s"Partition $i: ${result(i).toList}") } sc.stop() } } ``` Python实现: ```python from pyspark import SparkConf, SparkContext conf = SparkConf().setAppName("GlomExample").setMaster("local") sc = SparkContext(conf=conf) data = range(1, 11) rdd = sc.parallelize(data, 2) glom_rdd = rdd.glom() result = glom_rdd.collect() for i in range(len(result)): print(f"Partition {i}: {list(result[i])}") sc.stop() ```
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值