[SparkSQL] 列转行lateral view explode函数和FlatMap算子两种方式实现炸裂

最新推荐文章于 2024-01-31 07:58:31 发布

林沐之森

最新推荐文章于 2024-01-31 07:58:31 发布

阅读量4.6k

点赞数 2

分类专栏： Spark 文章标签： sparksql spark 类转行炸裂 flatmap

本文链接：https://blog.csdn.net/weixin_43376907/article/details/99060249

版权

本文介绍了在SparkSQL中如何使用lateral view explode函数和FlatMap算子两种方法进行列转行操作，详细阐述了转换过程，并提到了数据膨胀和资源消耗的问题。内容包括开发环境、纯SQL实现以及DataFrame、RDD格式数据的处理方法。

摘要由CSDN通过智能技术生成

[SparkSQL] 列转行lateral view explode函数和FlatMap算子两种方式实现炸裂

我用了两种方法实现列转行，说一下我平时使用SparkSQL的习惯，我通常
1）是先读取HDFS中的文件，包括txt、parquet等格式
2）然后通过createOrReplaceTempView 方法创建临时表格
3）之后写sql直接处理
相关代码可以参考我写的另一篇文章：

一、开发环境

spark-2.1.0-bin-hadoop2.6

二、纯SQL实现列转行

1、因为我在项目中的需求是同时将两个Array字段展开，所以在这里举的例子是同时处理两个字段的情况。
2、要提醒的是，同时展开多个字段会造成数据膨胀严重，计算时会消耗大量的资源，需要根据实际情况进行考虑，选择比较合适的方法。
3、语法：使用lateral view explode 函数进行列转行，新字段的别名，不能和以前的字段名相同。

sparkSession.sql(
  s"""
    |select
    |    user_id,
    |    hobby,
    |    skill
    |from t1
    |lateral view explode(hobbies) tempcol as hobby
    |lateral view explode(skills) tempcol as skill
  """.stripMargin
  )