Spark SQL 数据加载和保存

本文详细介绍了Spark SQL中数据的加载和保存,包括通用方式、Parquet、JSON以及MySQL的数据交互。通过format指定数据类型,option设置参数,如在JDBC中设置url等。还讲解了如何从JSON文件加载数据并创建临时表,以及从MySQL读写数据的操作。
摘要由CSDN通过智能技术生成


一 、Spark 数据的加载和保存

(一)通用的加载和保存方式

  • SparkSQL 提供了通用的保存数据和数据加载的方式。这里的通用指的是使用相同的
    API,根据不同的参数读取和保存不同格式的数据,SparkSQL 默认读取和保存的文件格式
    为 parquet

1、加载数据

  • spark.read.load 是加载数据的通用方法
    在这里插入图片描述
  • 如果读取不同格式的数据,可以对不同的数据格式进行设定
scala> spark.read.format("…")[.option("…")].load("…")
  • format(“…”):指定加载的数据类型,包括"csv"、“jdbc”、“json”、“orc”、"parquet"和
    “textFile”。
  • load(“…”):在"csv"、“jdbc”、“json”、“orc”、"parquet"和"textFile"格式下需要传入加载
    数据的路径。
  • option(“…”):在"jdbc"格式下需要传入 JDBC 相应参数,url、user、password 和 dbtable
    我们前面都是使用 read API 先把文件加载到 DataFrame 然后再查询,其实,我们也可以直
    接在文件上进行查询: 文件格式.文件路径

                
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值