创建RDD方式

I : 通过外部的存储系统创建RDD,如本地文件,hdfs等

scala> val a = sc.textFile("/root.text.txt")
a: org.apache.spark.rdd.RDD[String] = /root.text.txt MapPartitionsRDD[22] at textFile at <console>:24
scala> val a = sc.textFile("hdfs://hadoop-01:9000/text.txt")
a: org.apache.spark.rdd.RDD[String] = hdfs://hadoop-01:9000/text.txt MapPartitionsRDD[24] at textFile at <console>:24

II :将Driver的scala集合通过并行化的方式变成RDD(通常用于测试,实验)

scala> val a = sc.parallelize(List(1,2,4,5))
a: org.apache.spark.rdd.RDD[Int] = ParallelCollectionRDD[25] at parallelize at <console>:24

III : 调用已存在的RDD的Transformation,会生成一个新的RDD

scala> val b = a.map(x=>(x,1))
b: org.apache.spark.rdd.RDD[(Int, Int)] = MapPartitionsRDD[26] at map at <console>:26

RDD之Transformation的特点:
● lazy,需要用到的时候才进行计算
● 生成新的RDD

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值