Spark SQL、DateFrame、DataSet详细概述

Spark SQL的前世今生

Shark是一个为Spark设计的大规模数据仓库系统,它与Hive兼容。Shark建立在Hive的代码基础上,并通过将Hive的部分物理执行计划交换出来。这个方法使得Shark的用哦过户可以加速Hive的查询,但是Shark继承了Hive的大且负责的代码使得Shark很难优化和维护,同时Shark依赖Spark的版本。随着我们遇到了性能优化的上限,以及集成SQL的一些负责的分析功能,我们发现Hive的MapReduce涉及的框架限制了Shark的发展。在2014年7月1日的Spark Summit上,Databricks宣布终止对Shark的开发,将重点放到Spark SQL上。

Hive和Shark的架构图

什么是Spark SQL

       Spark SQL是Spark用来处理结构化数据的一个模块,它提供了一个编程抽象叫做DataFrame并且作为分布式SQL查询引擎的作用。
       相对比于Spark RDD API,Spark SQL包含了对结构化数据和在其上运算的更多信息,Spark SQL 使用这些信息进行了额外的优化,使对结构化数据的操作更加高效和方便。
       有多种方式去使用Spark SQL,包括SQLDateFrames APIDatasets API。但无论是哪种API或者是编程语言,它们都是基于同样的执行引擎,因此你可以在不同的API之间随意切换,它们各有各的特点,看你喜欢哪种风格。

为什么要学习Spark SQL

       学习过Hive的朋友,都知道它是将Hive SQL转换成MapReduce然后提交到集群中去执行,大大简化了编写MapReduce程序的复杂性,由于MapReduce这种计算模型执行效率比较慢,所以Spark SQL应用而生,它将是Spark SQL转换成RDD,然后提交到集群中去运行,执行效率非常快!

Spark SQL的优点

  1. 易整合:将sql查询与spark程序无缝混合,可以使用java、scala、python、R等语言的API操作
  2. 统一的数据访问:以相同的方式连接到任何数据源
  3. 兼容Hive:支持hiveSQL的语法
  4. 标准的数据连接:可以使用行业标准的KDBC或ODBC连接

什么是DateFrame

       DateFrame的前身是SchemaRDD,从Spark1.3.0开始SchemaRDD更名为DataFrame。与SchemaRDD的主要区别是:DataFrame不再直接继承自RDD,而是自己实现了RDD的绝大多数功能。你仍旧可以再DataFrame上调用rdd方法将其转换为一个RDD
       在Spark中,DataFrame是一种以RDD为基础的分布式数据集,类似于传统数据库的二维表格,DataFrame带有Schema元信息,即DataFrame所表示的二维表数据集的每一列都带有名称和类型,但底层做了更多的优化。DataFrame可以从很多数据源构建,比如:已经存在的RDD、结构化文件、外部数据库、Hive表。

Data与RDD的区别

       RDD可看作是分布式的对象的集合,Spark并不知道对象的详细模式信息,DataFrame可看作是分布式的Row对象的集合,其提供了由列组成的详细模式信息,使得Spark SQL可以进行某些形式的执行优化。DataFrame和普通的RDD的逻辑框架区别如下所示:

在这里插入图片描述
       上图直观的体现了DataFrame和RDD的区别。
       左侧的RDD[person]虽然以Person为类型参数,但Spark框架本身不了解Person类的内部结构。
       而右侧的DataFrame却提供了详细的结构信息,使得Spark SQL 可以清楚地知道该数据集中包含哪些列,每列的名称和类型各式什么。DataFrame多了数据的结构信息,即schema。这样看起来就像一张表了,DataFrame还配套了新的操作数据的方法,DataFrame API(如df.sekect) 和SQL(select id,name from xx_table where …)。
       此外DataFrame还引入了off-heap,意味着JVM堆以外的内存,这些内存直接受操作系统管理(而不是JVM)。Spark能够以二进制的形式序列化数据(不包括结构)到off-heap中,当要操作数据时,就直接操作off-heap内存,由于Spark理解schema,所以知道该如何操作。

DataFrame与RDD的优缺点

优点:
(1) 编译时类型安全
编译时就能检查出类型错误

(2)面向对象的编程风格
直接通过对象调用方法的形式来操作数据

缺点:
(1)序列化和反序列化的性能开销无论式集群间的通信,还式IO操作都需要对对象的结构和数据进行序列化和反序列化

(2)GC的性能开销
频繁的创建和销毁对象,势必会增加GC

DataFrame通过引入schema和off-heap(不在堆里面的内存,指的是除了不在堆的内存,使用操作系统上的内存),解决了RDD的缺点, Spark通过schame就能够读懂数据, 因此在通信和IO时就只需要序列化和反序列化数据, 而结构的部分就可以省略了;通过off-heap引入,可以快速的操作数据,避免大量的GC。但是却丢了RDD的优点,DataFrame不是类型安全的, API也不是面向对象风格的。

什么是DataSet

DataSet是分布式的数据集合。DataSet是再Spark1.6中添加的新的接口。它集中了RDD的优点(强类型和可以用强大lambda函数)以及Spark SQL优化的执行引擎。DataSet可以通过JVM的对象进行构建,可以用函数式的转换(map/flatmap/fifter)进行多种操作。

DataFrame、DataSet、RDD的区别

假设RDD中的俩行数据如下所示:
在这里插入图片描述
那么DataFrame中的数据是这样:
在这里插入图片描述
DataSet中的数据是这样:
在这里插入图片描述
或者又是这样(每行数据是个Object)
在这里插入图片描述
DataSet包含了DataFrame的功能,Spark2.0中俩者统一,DataFrane表示为DataSet[Row],即DataSet的子集

(1) DataSet可以在编译时检查类型
(2) 并且是面向对象的编程接口

相比DataFrame,DataSet提供了编译时类型检查,对于分布式程序来讲,提交一次作业太费劲了(要编译、打包、上传、运行),到提交到集群运行时才发现错误,这会浪费大量的时间,这也是引入DataSet的一个重要原因。

Data与DataSet的互转

DataFrame和DataSet可以互相转化。
(1) DataFrame转为DataSet
df.as[ElementType]这样可以把DataFrame转化为DataSet

(2)DataSet转为DataFrame
ds.toDF()这样可以把DataSet转化为DataFrame

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值