Spark实现全排序、二次排序

###############################################

数据如下：

年份：气温

2005 19
2005 40
2006 30
2008 50
2007 35

2007 32

1，spark实现全排序，即按照年份对数据升序排列，对以上的数据 实现的效果：

2005 19
2005 40
2006 30
2007 32
2007 35

2008 50

代码：

import org.apache.spark.{SparkConf, SparkContext}

object WordCount {

  def main(args: Array[String]): Unit = {
    val conf = new SparkConf();
    conf.setMaster("local")
    conf.setAppName("wangjk")
    conf.set("spark.testing.memory", "2147480000")
    val sc = new SparkContext(conf);
    val r1=sc.textFile("file:///D:/docment/spark3.txt")
    val r2=r1.collect().sorted
   r2.foreach(println)



  }
}

2，spark实现二次排序

要求：1，年份升序  2，气温取当年的最高气温

效果如下：

(2005,40)
(2006,30)
(2007,35)
(2008,50)

代码实现：

import org.apache.spark.{SparkConf, SparkContext}

object WordCount {

  def main(args: Array[String]): Unit = {
    val conf = new SparkConf();
    conf.setMaster("local")
    conf.setAppName("wangjk")
    conf.set("spark.testing.memory", "2147480000")
    val sc = new SparkContext(conf);
    val r1=sc.textFile("file:///D:/docment/spark3.txt")

    val r2=r1.map(e=>(e.split(" ")(0),e.split(" ")(1)))  //e 为当前文本的一行，按照空格切开，成为元组(2005,19)
      .map(e=>e._1->List(e._2))                           // 转化成 2005->list(19)的map
      .reduceByKey(_:::_)                                 // 将相同的key的map聚合，2005->list(19,40)
      .map(e=>(e._1,e._2.sorted.reverse(0)) )             //将第二个元素 即list 进行排序、反转成list(40,19),再取第一个元素，与年份组成元组
      .sortByKey()                                        //按照年份排序
      r2.foreach(println)



  }
}