文章目录
一、RDD讲述
(一)RDD概念
- Spark提供了一种对数据的核心抽象,称为弹性分布式数据集(Resilient Distributed
Dataset,RDD)。这个数据集的全部或部分可以缓存在内存中,并且可以在多次计算时重用。RDD其实就是一个分布在多个节点上的数据集合。 - RDD的弹性主要是指当内存不够时,数据可以持久化到磁盘,并且RDD具有高效的容错能力。
分布式数据集是指一个数据集存储在不同的节点上,每个节点存储数据集的一部分。
(二)RDD主要特征
- RDD是不可变的,但可以将RDD转换成新的RDD进行操作。
- RDD是可分区的。RDD由很多分区组成,每个分区对应一个Task任务来执行。
- 对RDD进行操作,相当于对RDD的每个分区进行操作
- RDD拥有一系列对分区进行计算的函数,称为算子。
- RDD之间存在依赖关系,可以实现管道化,避免了中间数据的存储。
二、RDD例题
(一)创建文件
1、准备本地系统文件
- 在home目录里创建hh.txt
- 写入内容,单词用空格隔开