rdd的持久化算子有三种:
1、cache:将数据持久化到内存
2、persist:可以将数据持久化到磁盘,也可以将数据持久化到内存
3、checkpoint:将数据持久化到磁盘。
persist的几个参数:
cache和persist的注意事项
1、cache和persist都是懒执行算子,需要有一个action算子触发执行
2、cache和persist算子的返回执行都必须赋值给一个变量,在接下来的job中直接使用这个变量,那么就是使用了持久化数据了,如果application中只有一个job,没有必要使用rdd进行持久化
3、cache和persist算子后边不能立即紧跟action类算子,比如count算子,但是下一行可以有action算子
4、cache是persist的特殊情况
checkpoint算子实际上是将rdd持久化到hdfs上的,同时切断rdd之间的依赖。