SparkCore之RDD编程（RDD的转换之Value类型常用）

Value类型

（1） map(func)
返回一个新的RDD，该RDD由每一个输入元素经过func函数转换后组成

（2）mapPartitions(func)
类似于map，但独立地在RDD的每一个分片上运行，因此在类型为T的RDD上运行时，func的函数类型必须是Iterator[T] => Iterator[U]。假设有N个元素，有M个分区，那么map的函数的将被调用N次,而mapPartitions被调用M次,一个函数一次处理所有分区。

(3)mapPartitionsWithIndex(func)
类似于mapPartitions，但func带有一个整数参数表示分片的索引值，因此在类型为T的RDD上运行时，func的函数类型必须是(Int, Interator[T]) => Iterator[U]；

(4) flatMap(func)
类似于map，但是每一个输入元素可以被映射为0或多个输出元素（所以func应该返回一个序列，而不是单一元素）

map()和mapPartition()的区别

1. map()：每次处理一条数据。
2. mapPartition()：每次处理一个分区的数据，这个分区的数据处理完后，原RDD中分区的数据才能释放，可能导致OOM。

(5)glom
将每一个分区形成一个数组，形成新的RDD类型时RDD[Array[T]]

(6)groupBy(func)
分组，按照传入函数的返回值进行分组。将相同的key对应的值放入一个迭代器。

(7) filter(func)
过滤。返回一个新的RDD，该RDD由经过func函数计算后返回值为true的输入元素组成。

(8)sample(withReplacement, fraction, seed)
以指定的随机种子随机抽样出数量为fraction的数据，withReplacement表示是抽出的数据是否放回，true为有放回的抽样，false为无放回的抽样，seed用于指定随机数生成器种子。

(9)distinct([numTasks]))
对源RDD进行去重后返回一个新的RDD。默认情况下，只有8个并行任务来操作，但是可以传入一个可选的numTasks参数改变它。

(10)coalesce(numPartitions)
缩减分区数，用于大数据集过滤后，提高小数据集的执行效率。

(11) repartition(numPartitions)
根据分区数，重新通过网络随机洗牌所有数据。

coalesce和repartition的区别

1. coalesce重新分区，可以选择是否进行shuffle过程。由参数shuffle: Boolean = false/true决定。
2. repartition实际上是调用的coalesce，进行shuffle。源码如下：

def repartition(numPartitions: Int)(implicit ord: Ordering[T] = null): RDD[T] = withScope {
  coalesce(numPartitions, shuffle = true)
}

(12)sortBy(func,[ascending], [numTasks])
使用func先对数据进行处理，按照处理后的数据比较结果排序，默认为正序。

(13)pipe(command, [envVars])
管道，针对每个分区，都执行一个shell脚本，返回输出的RDD。
注意：脚本需要放在Worker节点可以访问到的位置

双Value类型交互

（1）union(otherDataset)
对源RDD和参数RDD求并集后返回一个新的RDD

（2）subtract (otherDataset)
计算差的一种函数，去除两个RDD中相同的元素，不同的RDD将保留下来（差集）

（3）intersection(otherDataset)
对源RDD和参数RDD求交集后返回一个新的RDD

（4）cartesian(otherDataset)
笛卡尔积（尽量避免使用）

（5）zip(otherDataset)
将两个RDD组合成Key/Value形式的RDD,这里默认两个RDD的partition数量以及元素数量都相同，否则会抛出异常。