SparkSql

SparkSql

1.sparkSQL概述

• Spark SQL是Spark用来处理结构化数据的一个模块，它提供了一个编程抽象叫做DataFrame并且作为分布式SQL查询引擎的作用。它是sparkSQL的底层抽象
• 有多种方式去使用Spark SQL，包括SQL、DataFrames API和Datasets API。但无论是哪种API或者是编程语言，它们都是基于同样的执行引擎.

1.1.sparkSQL的四大特性

• 1.易整合

  • 将sql查询与spark程序无缝混合，可以使用java、scala、python、R等语言的API操作。

• 2.统一的数据访问

  • 以相同的方式连接到任何数据源。以一种方式连接任意数据源
  • sparkSession.read.文件格式(“当前文件格式的路径”)

• 3.兼容Hive

  • 支持hiveSQL的语法。

• 4.标准的数据连接

  • 可以使用行业标准的JDBC或ODBC连接。

2.DataFrame

1DataFrame概念

• 在Spark中，DataFrame是一种以RDD为基础的分布式数据集，类似于传统数据库的二维表格，DataFrame带有Schema元信息，即DataFrame所表示的二维表数据集的每一列都带有名称和类型，但底层做了更多的优化。DataFrame可以从很多数据源构建，比如：已经存在的RDD、结构化文件、外部数据库、Hive表。

2DataFrame与RDD的区别

• DataFrame可看作是分布式的Row对象的集合，其提供了由列组成的详细模式信息，使得Spark SQL可以进行某些形式的执行优化。

​ 左侧的RDD[Person]虽然以Person为类型参数，但Spark框架本身不了解 Person类的内部结构。

​ 而右侧的DataFrame却提供了详细的结构信息，使得Spark SQL可以清楚地知道该数据集中包含哪些列，每列的名称和类型各是什么，DataFrame多了数据的结构信息，即schema。这样看起来就像一张表了，DataFrame还配套了新的操作数据的方法，DataFrame API（如df.select())和SQL(select id, name fromxx_table where …)。

​ 此外DataFrame还引入了off-heap,意味着JVM堆以外的内存, 这些内存直接受操作系统管理（而不是JVM）。Spark能够以二进制的形式序列化数据(不包括结构)到off-heap中, 当要操作数据时, 就直接操作off-heap内存. 由于Spark理解schema, 所以知道该如何操作。

​ RDD是分布式的Java对象的集合。DataFrame是分布式的Row对象的集合。DataFrame除了提供了比RDD更丰富的算子以外，更重要的特点是提升执行效率、减少数据读取以及执行计划的优化。

​ 有了DataFrame这个高一层的抽象后，我们处理数据更加简单了，甚至可以用SQL来处理数据了，对开发者来说，易用性有了很大的提升。

​ 不仅如此，通过DataFrame API或SQL处理数据，会自动经过Spark 优化器（Catalyst）的优化，即使你写的程序或SQL不高效，也可以运行的很快。

3DataFrame与RDD的优缺点

• RDD的优缺点：
  
  • 优点:
  • （1）编译时类型安全
    
    • 编译时就能检查出类型错误
  • （2）面向对象的编程风格
    
    • 直接通过对象调用方法的形式来操作数据
  • 缺点:
  • （1）序列化和反序列化的性能开销
    
    • 无论是集群间的通信, 还是IO操作都需要对对象的结构和数据进行序列化和反序列化。
  • （2）GC的性能开销
    
    • 频繁的创建和销毁对象,势必会增加GC
  • DataFrame通过引入schema和off-heap（不在堆里面的内存，指的是除了不在堆的内存，使用操作系统上的内存），解决了RDD的缺点, Spark通过schame就能够读懂数据, 因此在通信和IO时就只需要序列化和反序列化数据, 而结构的部分就可以省略了；通过off-heap引入，可以快速的操作数据，避免大量的GC。但是却丢了RDD的优点，DataFrame不是类型安全的, API也不是面向对象风格的。

4创建DataFrame

​ 创建dataframe的方式（统一的数据源访问接口sparkSession）

• 1、读取文本文件创建

  • spark.read.text(“路径”)

• 2、读取json格式文件创建

  • spark.read.json(“路径”)

• 3、读取parquet格式化文件创建

  • spark.read.parquet(“路径”)

  在spark shell 执型命令 ,读取文件信息

(1)先执行spark-shell --master local[2]
val lineRDD= sc.textFile("/person.txt").map(_.split(" "))

(2)定义case class（相当于表的schema）
case class Person