Spark SQL数据源 - 基本操作

目录

一、基本操作

二、默认数据源

（一）默认数据源Parquet

（二）案例演示读取Parquet文件

1、在Spark Shell中演示

2、通过Scala程序演示

---

一、基本操作

Spark SQL提供了两个常用的加载数据和写入数据的方法：load()方法和save()方法。load()方法可以加载外部数据源为一个DataFrame，save()方法可以将一个DataFrame写入指定的数据源。

二、默认数据源

（一）默认数据源Parquet

默认情况下，load()方法和save()方法只支持Parquet格式的文件，Parquet文件是以二进制方式存储数据的，因此不可以直接读取，文件中包括该文件的实际数据和Schema信息，也可以在配置文件中通过参数spark.sql.sources.default对默认文件格式进行更改。Spark SQL可以很容易地读取Parquet文件并将其数据转为DataFrame数据集。
 

（二）案例演示读取Parquet文件

将数据文件users.parquet上传到master虚拟机/home

 将数据文件users.parquet上传到HDFS的/input目录

1、在Spark Shell中演示

启动Spark Shell，执行命令：spark-shell --master spark://master:7077

加载parquet文件，返回数据帧

执行命令：val userdf = spark.read.load("hdfs://master:9000/input/users.parquet")