Spark------------SparkSQL知识点梳理

1. 概述

1.1 概念

Spark SQL 是 Spark 用于结构化数据(structured data)处理的 Spark 模块。

1.2 Hive and SparkSQL

SparkSQL的前身是Shark,以下是Hive和Shark的架构，主要是计算引擎发生了变化。

由于Shark 对于 Hive 的太多依赖（如采用 Hive 的语法解析器、查询优化器等等），制约了 Spark 的 One Stack Rule Them All 的既定方针，制约了 Spark 各个组件的相互集成，所以提出了 SparkSQL 项目。

SparkSQL 抛弃原有 Shark 的代码，汲取了 Shark 的一些优点，如内存列存储（In-Memory Columnar Storage）、Hive兼容性等，重新开发了SparkSQL代码；由于摆脱了对Hive的依赖性，SparkSQL 无论在数据兼容、性能优化、组件扩展方面都得到了极大的方便。

**Spark SQL 为了简化 RDD 的开发， 提高开发效率，提供了 2 个编程抽象，**类似 Spark Core 中的 RDD：
① ➢ DataFrame

DataFrame 带有schema元信息，它所表示的二维表数据集的每一列都带有名称和类型。

同时，与 Hive 类似，DataFrame 也支持嵌套数据类型（struct、array 和 map）。

与RDD的对比：

左侧的 RDD[Person]虽然以 Person 为类型参数，但 Spark 框架本身不了解 Person 类的内部结构。

而右侧的 DataFrame 却提供了详细的结构信息，使得 Spark SQL 可以清楚地知道该数据集中包含哪些列，每列的名称和类型各是什么。

DataFrame 也是懒执行的，但性能上比 RDD 要高，主要原因：优化的执行计划，即查询计划通过 Spark catalyst optimiser 进行优化。

逻辑查询计划优化就是一个利用基于关系代数的等价变换，将高成本的操作替换为低成本操作的过程。

② ➢ DataSet

DataSet 是分布式数据集合。

DataSet 是 Spark 1.6 中添加的一个新抽象，是 DataFrame 的一个扩展。它提供了 RDD 的优势（强类型，使用强大的 lambda 函数的能力）以及 Spark SQL 优化执行引擎的优点。DataSet 也可以使用功能性的转换（操作 map，flatMap，filter 等等）。

1.3 特点

易整合

统一的数据访问

兼容Hive

标准数据连接

2. SparkSQL核心编程

重点学习如何使用SparkSQL所提供的DataFrame和DataSet模型进行编程.，以及了解它们之间的关系和转换

SparkSession 是 Spark 最新的 SQL 查询起始点，实质上是 SQLContext 和 HiveContext 的组合。

2.1 DataFrame

Spark SQL 的 DataFrame API 允许我们使用 DataFrame 而不用必须去注册临时表或者生成 SQL 表达式。DataFrame API 既有 transformation 操作也有 action 操作。

① 创建DataFrame

通过 Spark 的数据源进行创建；

从一个存在的 RDD 进行转换；

还可以从 Hive Table 进行查询返回。

②SQL语法

SQL 语法风格是指我们查询数据的时候使用 SQL 语句来查询，这种风格的查询必须要有临时视图或者全局视图来辅助

③DSL语法

DataFrame 提供一个特定领域语言(domain-specific language, DSL)去管理结构化的数据。 可以在 Scala, Java, Python 和 R 中使用 DSL，使用 DSL 语法风格不必去创建临时视图

注意:涉及到运算的时候, 每列都必须使用$, 或者采用引号表达式：单引号+字段名

eg:

1)创建一个DataFrame

scala> val df = spark.read.json("data/user.json")
df: org.apache.spark.sql.DataFrame = [age: bigint， name: string]

2)查看DataFrame的Schema信息

scala> df.printSchema
root
|-- age: Long (nullable = true)
|-- username: string (nullable = true)

3)只查看“username”列数据

scala> df.select("username").show()
+--------+
|username|
+--------+
|zhangsan|
| lisi|
| wangwu|
+--------+

4)查看“username”列数据以及“age + 1”数据

scala> df.select($"username",$"age" + 1).show
scala> df.select('username, 'age + 1).show()
scala> df.select('username, 'age + 1 as "newage").show()
+--------+---------+
|username|(age + 1)|
+--------+---------+
|zhangsan| 21|
| lisi| 31|
| wangwu| 41|
+--------+---------+

④DataFrame <-----------> RDD转换

在 IDEA 中开发程序时，如果需要 RDD 与 DF 或者 DS 之间互相操作，那么需要引入 import spark.implicits._

实际开发中，一般通过样例类将 RDD 转换为 DataFrame

rdd.toDF()

DataFrame 其实就是对 RDD 的封装，所以可以直接获取内部的 RDD

df.rdd

2.2 DataSet

DataSet是具有强类型的数据集合，需要提供对应的类型信息。

①创建DataSet

使用样例类序列创建 DataSet

使用基本类型的序列创建 DataSet

注意：在实际使用的时候，很少用到把序列转换成DataSet，更多的是通过RDD来得到DataSet

②RDD <-----------> DataSet转换

2.3 RDD,DataFrame和DataSet关系

①相互转换

②共性

➢ RDD、DataFrame、DataSet 全都是 spark 平台下的分布式弹性数据集，为处理超大型数据提供便利;

➢ 三者都有惰性机制，在进行创建、转换，如 map 方法时，不会立即执行，只有在遇到 Action， 如 foreach 时，三者才会开始遍历运算;

➢ 三者有许多共同的函数，如 filter，排序等;

➢ 在对 DataFrame 和 Dataset 进行操作许多操作都需要这个包:import spark.implicits._（在创建好 SparkSession 对象后尽量直接导入）

➢ 三者都会根据 Spark 的内存情况自动缓存运算，这样即使数据量很大，也不用担心会内存溢出

➢ 三者都有 partition 的概念

➢ DataFrame 和 DataSet 均可使用模式匹配获取各个字段的值和类型

③区别

RDD

➢ RDD 一般和 spark mllib 同时使用

➢ RDD 不支持 sparksql 操作

DataFrame

➢ 与 RDD 和 Dataset 不同，DataFrame 每一行的类型固定为 Row，每一列的值没法直接访问，只有通过解析才能获取各个字段的值

➢ DataFrame 与 DataSet 一般不与 spark mllib 同时使用

➢ DataFrame 与 DataSet 均支持 SparkSQL 的操作，比如 select，groupby 之类，还能注册临时表/视窗，进行sql 语句操作

➢ DataFrame 与 DataSet 支持一些特别方便的保存方式，比如保存成 csv，可以带上表头，这样每一列的字段名一目了然

DataSet

➢ Dataset 和 DataFrame 拥有完全相同的成员函数，区别只是每一行的数据类型不同。 DataFrame 其实就是 DataSet 的一个特例 type DataFrame = Dataset[Row]

➢ DataFrame 也可以叫 Dataset[Row],每一行的类型是 Row，不解析，每一行究竟有哪些字段，各个字段又是什么类型都无从得知，只能用上面提到的 getAS 方法或者共性中的第七条提到的模式匹配拿出特定字段。

而 Dataset 中，每一行是什么类型是不一定的，在自定义了 case class 之后可以很自由的获得每一行的信息

3. IDEA开发SparkSQL

3.1 开发流程

object SparkSQL01_Demo {
 def main(args: Array[String]): Unit = {
 //创建上下文环境配置对象
 val conf: SparkConf = new 
SparkConf().setMaster("local[*]").setAppName("SparkSQL01_Demo")
     
 //创建 SparkSession 对象
 val spark: SparkSession = SparkSession.builder().config(conf).getOrCreate()
     
 //RDD=>DataFrame=>DataSet 转换需要引入隐式转换规则，否则无法转换
 //spark 不是包名，是上下文环境对象名
 import spark.implicits._
     
 //读取 json 文件 创建 DataFrame {"username": "lisi","age": 18}
 val df: DataFrame = spark.read.json("input/test.json")
 //df.show()
 //SQL 风格语法
 df.createOrReplaceTempView("user")
     
 //spark.sql("select avg(age) from user").show
 //DSL 风格语法
 //df.select("username","age").show()
 //*****RDD=>DataFrame=>DataSet*****
 //RDD
 val rdd1: RDD[(Int, String, Int)] = 
spark.sparkContext.makeRDD(List((1,"zhangsan",30),(2,"lisi",28),(3,"wangwu",
20)))
     
 //DataFrame
 val df1: DataFrame = rdd1.toDF("id","name","age")
     
 //df1.show()
 //DateSet
 val ds1: Dataset[User] = df1.as[User]
     
 //ds1.show()
 //*****DataSet=>DataFrame=>RDD*****
 //DataFrame
 val df2: DataFrame = ds1.toDF()
     
 //RDD 返回的 RDD 类型为 Row，里面提供的 getXXX 方法可以获取字段值，类似 jdbc 处理结果集，
 // 但是索引从 0 开始
 val rdd2: RDD[Row] = df2.rdd
     
 //rdd2.foreach(a=>println(a.getString(1)))
 //*****RDD=>DataSet*****
 rdd1.map{
case (id,name,age)=>User(id,name,age)
 }.toDS()
     
 //*****DataSet=>=>RDD*****
 ds1.rdd
     
 //释放资源
 spark.stop()
 }
}
case class User(id:Int,name:String,age:Int)在这里插入代码片

3.2 用户自定义函数

用户可以通过 spark.udf 功能添加自定义函数，实现自定义功能-------UDF

UDAF----弱类型函数实现-------现在已不建议使用

UDAF----强类型函数实现

4. 数据的读取和保存

SparkSQL默认读取和保存的文件格式是parquet；

4.1 加载

spark.read.load 是加载数据的通用方法；

如果读取不同格式的数据，可以对不同的数据格式进行设定

scala> spark.read.format("…")[.option("…")].load("…")

➢ format("…")：指定加载的数据类型，包括"csv"、“jdbc”、“json”、“orc”、"parquet"和 “textFile”。

➢ load("…")：在"csv"、“jdbc”、“json”、“orc”、"parquet"和"textFile"格式下需要传入加载 数据的路径。

➢ option("…")：在"jdbc"格式下需要传入 JDBC 相应参数，url、user、password 和 dbtable 我们前面都是使用 read API 先把文件加载到 DataFrame 然后再查询，其实，我们也可以直 接在文件上进行查询: 文件格式.文件路径

4.2 保存

df.write.save 是保存数据的通用方法

注意：

保存操作可以使用 SaveMode, 用来指明如何处理数据，使用 mode()方法来设置。

有一点很重要: 这些 SaveMode 都是没有加锁的, 也不是原子操作。

SaveMode 是一个枚举类，其中的常量包括：

4.3 操作

①操作JSON & CSV

②操作MySQL

Spark SQL 可以通过 JDBC 从关系型数据库中读取数据的方式创建 DataFrame，通过对 DataFrame 一系列的计算后，还

可以将数据再写回关系型数据库中。

③操作内置 Hive（基本不使用）

④SparkSQL操作外置 Hive

➢ Spark 要接管 Hive 需要把 hive-site.xml 拷贝到 conf/目录下

➢ 把 Mysql 的驱动 copy 到 jars/目录下

➢ 如果访问不到 hdfs，则需要把 core-site.xml 和 hdfs-site.xml 拷贝到 conf/目录下

➢ 重启 spark-shell

⑤beeline操作hive

5. 补充

单例对象：

scala中的类不能定义静态成员，而代之以定义单例对象来替代；单例对象通过object关键字来声明。

单例对象是一种特殊的类，有且只有一个实例。和惰性变量一样，单例对象是延迟创建的，当它第一次被使用时创建。

当对象定义于顶层时(即没有包含在其他类中)，单例对象只有一个实例。

当对象定义在一个类或方法中时，单例对象表现得和惰性变量一样。

伴生对象：

当一个单例对象和某个类共享一个名称时，这个单例对象称为 伴生对象。 同理，这个类被称为是这个单例对象的伴生类。类和它的伴生对象可以互相访问其私有成员。

使用伴生对象来定义那些在伴生类中不依赖于实例化对象而存在的成员变量或者方法。

object food {
  def getFood(){
    println("this is not the same")
  }
}
 
class food{
  def getFood(): Unit ={
    println("this is your food.")
  }
}

样例类：

Case Class一般被翻译成样例类，它是一种特殊的类，能够被优化以用于模式匹配。

当一个类被声明为case class的时候，scala会帮助我们做下面几件事情：

1、构造器中的参数如果不被声明为var的话，它默认的是val类型的，但一般不推荐将构造器中的参数声明为var。

2、自动创建伴生对象，同时在里面给我们实现apply方法，使我们在使用的时候可以不直接使用new创建对象。

3、伴生对象中同样会帮我们实现unapply方法，从而可以将case class应用于模式匹配。

4、实现自己的toString、hashCode、copy、equals方法，除此之此，case class与其它普通的scala类没有区别。

apply方法：

类和单例对象间的一个差别是，单例对象不带参数，而类可以。因为你不能用new关键字实例化一个单例对象，你没机会传递给它参数。每个单例对象都被作为由一个静态变量指向的虚构类：synthetic class的一个实例来实现，因此它们与Java静态类有着相同的初始化语法。Scala程序特别要指出的是，单例对象会在第一次被访问的时候初始化。