Spark Transformation 算子

1、map(func)
作用：返回一个新的RDD，该RDD由每一个输入元素经过func函数转换后组成
2、mapPartitions(func)
作用：类似于map,单独立在RDD的每一个分片上运行，因此在类型为T的RDD上云心时，func的函数类型必须是Iterator[T] => Iterator[U]
假设有N个元素，有M个分区，那么map的函数将被调用N次，而mapPartitions被调用M次，一个函数一次处理所有分区
3、mapPartitionsWithIndex(func(index,iterator))
作用：类似于mapPartitions，但func带有一个整数参数表示分片的索引值，因此在类型为T的RDD上运行时，func的函数类型必须是(Int,Iterator[T]) => Iterator
4、flatMap(func)
作用：类似于map，但是每一个输入元素可以被映射为0或多个输出元素(所以func应该返回一个序列，而不是单一元素)
5、map和mapPartition的区别
map():每次处理一条数据
mapPartitions:每次处理一个分区的数据
6、glom
作用：将每一个分区形成一个数组，形成新的RDD类型是RDD[Arrray[T]]
7、groupBy(func)
作用：分组，按照传入函数的返回值进行分组，将相同的Key对应的值放入一个迭代器中
8、filter(func)
作用：过滤，返回一个新的RDD，该RDD由经过func函数计算后返回值为true的输入元素组成
9、sample(withReplacement,fraction,seed)
作用：以指定的随机种子随机抽样出数量为fraction的数据
参数含义：
withReplacement：表示是抽出的数据是否放回，true为又放回的抽样，false为无放回的抽样
fraction：若为无放回的抽样，参数值必须在[0,1]之间
sedd：用于执行随机数生成器种子，最好随机值，不然多次抽样返回的值可能相同
**10、distinct([numTasks]) **
作用：对源RDD进行去重后返回一个新的RDD
11、coalesce(numPartitions)
作用：缩减分区数，用于大数据集过滤后，提高小数据集的执行效率
12、repartition(numPartitions)
作用：根据分区数，重新通过网络随机洗牌所有数据
coalesce 和 repartition区别
coalesce默认只能减少分区
repartition 查看底层源码可知，调用的也是coalesce 不过是把 默认的shuffle设置成了true
13、coalesce和repartition的区别
coalesce: 重新分区，可以选择是否进行shuffle过程，有参数shuffle：Boolean = false/true决定
repartition实际上是调用的coalesce，进行shuffle
14、sortBy(func,[ascending],[numTasks])
作用：使用func先对数据进行处理，按照处理后的数据比较结果排序，默认为正序
15、pipe(command,[envVars])
作用：管道，针对每个分区，都执行一个shell脚本，返回输出的RDD
16、union(otherDataset)
作用：对源RDD和参数RDD求并集返回一个新的RDD
17、subtract(otherDataset)
作用：计算差的一种函数，去除两个RDD中相同的元素，不同的RDD将保留下来
18、intersection(otherDataset)
作用：对源RDD和参数RDD求交集后返回一个新的RDD
19、cartesian(otherDataset)
作用：笛卡尔积
20、zip(otherDataset)
作用：将RDD组合成Key/Value形式的RDD，这里默认两个RDD的partition数量以及元素数量都相同，否则会抛出异常
20、partitionBy
作用：对pairRDD进行分区操作，如果原有的partitionRDD和现有的PartitoinRDD是一直的话就不进行分区，否则会生成shuffleRDD，即会产生shuffle过程
21、reduceByKey(func,[numTasks])
作用：在一个pairRDD上调用，将相同的Key聚合到一起，reduce的任务个数可以通过第二个参数来设置
22、groupByKey
作用：对每个Key进行操作，key对应的值保存到一个Seq中
23、reduceByKey和groupByKey的区别
reduceByKey 在进行Shuffle之前有一个预聚合的操作，groupByKey按照Key进行分组，直接进行shuffle
24、aggregateByKey(zeroValue:U,[partitioner: Partitioner]) (seqOp: (U, V) => U,combOp: (U, U) => U)
作用：将KV对的RDD中，按Key将Value进行分组合并，将每个value和初始值作为seq函数的参数进行计算，返回结果作为一个新的KV对，然后再将结果按照Key进行合并，最后将每个分组的value传递给combine函数进行计算(先将前两个value进行计算，返回结果和下一个value传给combine函数，以此类推)，将Key与计算结果作为一个新的KV对输出
参数描述：
（1）zeroValue：给每一个分区中的每一个key一个初始值；
（2）seqOp：函数用于在每一个分区中用初始值逐步迭代value；
（3）combOp：函数用于合并每个分区中的结果
25、foldByKey(zeroValue: V)(func: (V, V) => V): RDD[(K, V)]
作用：aggregateByKey的简化操作，seqOp和combOp相同
26、combineByKey[C] (createCombiner: V => C, mergeValue: (C, V) => C, mergeCombiners: (C, C) => C)
作用：针对相同K，将V合并成一个集合
参数描述：
（1）createCombiner: combineByKey() 会遍历分区中的所有元素，因此每个元素的键要么还没有遇到过，要么就和之前的某个元素的键相同。如果这是一个新的元素,combineByKey()会使用一个叫作createCombiner()的函数来创建那个键对应的累加器的初始值
（2）mergeValue: 如果这是一个在处理当前分区之前已经遇到的键，它会使用mergeValue()方法将该键的累加器对应的当前值与这个新的值进行合并
（3）mergeCombiners: 由于每个分区都是独立处理的， 因此对于同一个键可以有多个累加器。如果有两个或者更多的分区都有对应同一个键的累加器， 就需要使用用户提供的 mergeCombiners() 方法将各个分区的结果进行合并。
27、sortByKey([ascending], [numTasks])
作用：在一个(K,V)的RDD上调用，K必须实现Ordered接口，返回一个按照key进行排序的(K,V)的RDD
28、mapValues
作用：针对于(K,V)形式的类型只对V进行操作
29、 join(otherDataset, [numTasks])
作用：在类型为(K,V)和(K,W)的RDD上调用，返回一个相同key对应的所有元素对在一起的(K,(V,W))的RDD
30、cogroup(otherDataset, [numTasks])
作用：在类型为(K,V)和(K,W)的RDD上调用，返回一个(K,(Iterable,Iterable))类型的RDD

该篇章是观看尚硅谷的视频讲解后整理，详情请点击以下链接，如有侵权，请联系作者进行删除
视频连接