SparkSQL中SQL风格和DSL风格的使用

准备工作

读取文件并转换为DataFrame或DataSet

val lineRDD= sc.textFile("hdfs://node-01:9000/person.txt").map(_.split(" "))

case class Person(id:Int, name:String, age:Int)

val personRDD = lineRDD.map(x => Person(x(0).toInt, x(1), x(2).toInt))

val personDF = personRDD.toDF

personDF.show

personDF.printSchema

//val personDS = personRDD.toDS

//personDS.show 

DSL风格

SparkSQL提供了一个领域特定语言(DSL)以方便操作结构化数据

 

1.查看name字段的数据

personDF.select(personDF.col("name")).show

personDF.select(personDF("name")).show

personDF.select(col("name")).show

personDF.select("name").show

 

2.查看 name 和age字段数据

personDF.select("name", "age").show

 

3.查询所有的name和age，并将age+1

 

personDF.select(personDF.col("id"), personDF.col("name"), personDF.col("age") + 1).show

personDF.select(personDF("id"), personDF("name"), personDF("age") + 1).show

personDF.select(col("id"), col("name"), col("age") + 1).show

personDF.select("id","name","age").show

personDF.select($"name",$"age",$"age"+1).show

 

4.过滤age大于等于25的，使用filter方法过滤

personDF.filter(col("age") >= 25).show

personDF.filter($"age" >25).show

 

5.统计年龄大于30的人数

personDF.filter(col("age")>30).count()

personDF.filter($"age" >30).count()

6.按年龄进行分组并统计相同年龄的人数

personDF.groupBy("age").count().show

 

 

​​​​​​​​​​​​​​SQL风格

DataFrame的一个强大之处就是我们可以将它看作是一个关系型数据表，然后可以通过在程序中使用spark.sql() 来执行SQL查询，结果将作为一个DataFrame返回

如果想使用SQL风格的语法，需要将DataFrame注册成表,采用如下的方式：

personDF.createOrReplaceTempView("t_person")

spark.sql("select * from t_person").show

 

1.显示表的描述信息

spark.sql("desc t_person").show

 

2.查询年龄最大的前两名

spark.sql("select * from t_person order by age desc limit 2").show

 

3.查询年龄大于30的人的信息

spark.sql("select * from t_person where age > 30 ").show

 

4.使用SQL风格完成DSL中的需求

spark.sql("select name,age+1 from t_person").show

spark.sql("select name,age from t_person where age > 25").show

spark.sql("select count(age) from t_person where age > 30").show

spark.sql("select age, count(age) from t_person group by age").show