SparkSql——读文件写文件(一)

package spark.SparkSql

import org.apache.spark.sql.SparkSession

object SparkSql2 {
  def main(args: Array[String]): Unit = {
    //创建sqlSession
    val spark = SparkSession.builder().master("local[3]").appName("aa").getOrCreate()
    import spark.implicits._

  //读文件
    //不指定文件的类型
//    val userDs = spark.read.load("D://softwares//spark-2.1.1-bin-hadoop2.7//examples//src//main//resources/users.parquet")
    //指定读文件的类型,读文件的类型必须跟要读取的文件类型一直,要不会乱码
//    val userDs1 = spark.read.format("parquet").load("D://softwares//spark-2.1.1-bin-hadoop2.7//examples//src//main//resources/users.parquet")
  //写文件不指定类型是.parquet的文件
//    userDs.write.save("D://softwares//test")
    //指定存储的类型
//    userDs1.write.format("json").save("D://softwares//test1")
    //指定表里面是否有表头
//    val userDS = spark.read.format("csv")
//                .option("header","true")//把第一行当成表头schema
//                 .load("D://softwares/test.csv")
    //show里面能写数字代表显示多少行,默认20行

    //用sql语句直接读取文件 select * from 文件类型.`文件的路径`************注意是飘符号,esc符号下面的***********
    val userSql = spark.sql("select * from csv.`D://softwares/test1.csv`").show()







  }
}

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值