rdd的持久化的三种方式:cache,persist,checkpoint

rdd的持久化算子有三种:

1、cache:将数据持久化到内存

2、persist:可以将数据持久化到磁盘,也可以将数据持久化到内存

3、checkpoint:将数据持久化到磁盘。

persist的几个参数:

cache和persist的注意事项

1、cache和persist都是懒执行算子,需要有一个action算子触发执行

2、cache和persist算子的返回执行都必须赋值给一个变量,在接下来的job中直接使用这个变量,那么就是使用了持久化数据了,如果application中只有一个job,没有必要使用rdd进行持久化

3、cache和persist算子后边不能立即紧跟action类算子,比如count算子,但是下一行可以有action算子

4、cache是persist的特殊情况

checkpoint算子实际上是将rdd持久化到hdfs上的,同时切断rdd之间的依赖。 

  • 3
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值