Spark_DataFrame创建及使用


DataFrame创建

1.通过sparkSession构建DataFrame

1、读取文本文件

val personDF2 = spark.read.text("file:///export/servers/person.txt")

2、读取json文件创建DataFrame

val jsonDF = spark.read.json("file:///export/servers/spark-2.2.0-bin-2.6.0-cdh5.14.0/examples/src/main/resources/people.json")

3、读取parquet列式存储格式文件创建DataFrame

val parquetDF = spark.read.parquet("file:///export/servers/spark-2.2.0-bin-2.6.0-cdh5.14.0/examples/src/main/resources/users.parquet")
2.通过RDD配合case class进行转换DF

创建文本文件:
cd /export/servers/
vim person.txt

1 zhangsan 20
2 lisi 29
3 wangwu 25
4 zhaoliu 30
5 tianqi 35
6 kobe 40

定义RDD

val lineRDD = sc.textFile("file:///export/servers/person.txt").map(x => x.split(" "))

定义case class样例类

case class Person(id:Int,name:String,age:Int)

关联RDD与case class

val personRDD = lineRDD.map(x => Person(x(0).toInt,x(1),x(2).toInt))

将RDD转换成DF

val personDF  = personRDD.toDF

在这里插入图片描述

3.通过DataSet调用.toDF进行转换DF

都是调用.toDF方法

val personDF  = personDS.toDF

DataFrame的使用

1.DSL风格语法

查看DataFrame当中的数据
调用show方法
personDF.show

查看DataFram当中部分字段的数据:
查看字段:
第一种方式:personDF.select(personDF.col("name")).show
在这里插入图片描述

第二种方式:personDF.select("name").show
第三种方式:personDF.select(col("name"),col("age")).show
第四种方式:personDF.select($"name",$"age").show

打印DataFrame的Schema信息:
personDF.printSchema
在这里插入图片描述

查询所有的name和age,并将age+1:
personDF.select(col("id"), col("name"), col("age") + 1).show或者
personDF.select(personDF("id"), personDF("name"), personDF("age") + 1).show
在这里插入图片描述

过滤age大于等于25的,使用filter方法过滤:
personDF.filter(col("age") >= 25).show

统计年龄大于30的人数:
personDF.filter(col("age")>30).count()

按年龄进行分组并统计相同年龄的人数:
personDF.groupBy("age").count().show


2.SQL风格语法

1、将DataFrame注册成表
personDF.registerTempTable("t_person")

2、查询年龄最大的前两名
spark.sql("select * from t_person order by age desc limit 2 ").show
在这里插入图片描述

3、显示表的Schema信息
spark.sql("desc t_person").show

4、查询年龄大于30的人的信息
spark.sql("select * from t_person where age > 30").show

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值