spark-14.sparkSQL_5_sparkSQL的输入、输出

1.输入

高级模式:

spark.read.json(path)
			jdbc
			csv
			parquet //默认格式,列存储格式,hive。
			orc
			table
			text
			textFile

低级模式:

spark.read.format(“json”).load(path)	

如果不指定format,默认是parquet格式。

2.输出

高级模式:

dataFrame/dataSet. json(path)
				jdbc
				csv
				parquet //默认格式,列存储格式,hive。
				orc
				table
				text
				textFile

低级模式:

dataFrame/dataSet.write.format(“jdbc”).参数.mode(saveMode).save

saveMode的类型:
Specifies the behavior when data or table already exists. Options include:

  • SaveMode.Overwrite: overwrite the existing data.
  • SaveMode.Append: append the data.
  • SaveMode.Ignore: ignore the operation (i.e. no-op).
  • SaveMode.ErrorIfExists: default option, throw an exception at runtime.

关系型数据库的读写:
1.保存mysql

dataFrame.write.format(“jdbc”)
.option(“url”,”jdbc:mysql://master:3306/rdd”)
.option(“dbtable”,”rddtable10”)
.option(“user”,”root”)
.option(“password”,”123456”)
.mode(“overwrite”)
.save()

2.读入到spark

val data = spark.read.format(“jdbc”)
.option(“url”,”jdbc:mysql://master:3306/rdd”)
.option(“dbtable”,”rddtable10”)
.option(“user”,”root”)
.option(“password”,”123456”)
.load()
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值