spark 算子例子_java-spark中各种常用算子的写法示例

Spark的算子的分类

从大方向来说，Spark 算子大致可以分为以下两类:

1)Transformation 变换/转换算子：这种变换并不触发提交作业，完成作业中间过程处理。

Transformation 操作是延迟计算的，也就是说从一个RDD 转换生成另一个 RDD 的转换操作不是马上执行，需要等到有 Action 操作的时候才会真正触发运算。

2)Action 行动算子：这类算子会触发 SparkContext 提交 Job 作业。

Action 算子会触发 Spark 提交作业(Job)，并将数据输出 Spark系统。

从小方向来说，Spark 算子大致可以分为以下三类:

1)Value数据类型的Transformation算子，这种变换并不触发提交作业，针对处理的数据项是Value型的数据。

2)Key-Value数据类型的Transfromation算子，这种变换并不触发提交作业，针对处理的数据项是Key-Value型的数据对。

3)Action算子，这类算子会触发SparkContext提交Job作业。

引言

通常写spark的程序用scala比较方便，毕竟spark的源码就是用scala写的。然而，目前java开发者特别多，尤其进行数据对接、上线服务的时候，这时候，就需要掌握一些spark在java中的使用方法了

一、map

map在进行数据处理、转换的时候，不能更常用了

在使用map之前 首先要定义一个转换的函数 格式如下：

Function transForm = new Function() {//String是某一行的输入类型