1RDD的依赖关系及容错
1.1RDD的依赖关系
RDD的依赖关系分为两种:窄依赖(Narrow Dependencies)与宽依赖(Wide Dependencies,源码中称为ShuffleDependencies)
依赖有2个作用,其一用来解决数据容错的高效性;其二用来划分stage。
窄依赖:每个父RDD的一个Partition最多被子RDD的一个Partition所使用(1:1 或n:1)。例如map、filter、union等操作都会产生窄依赖;
子RDD分区通常对应常数个父RDD分区(O(1),与数据规模无关。
宽依赖:一个父RDD的Partition会被多个子RDD的Partition所使用,例如groupByKey、reduceByKey、sortByKey等操作都会产生宽依赖;(1:m 或n:m)
(子RDD分区通常对应所有的父RDD分区(O(n),与数据规模有关)
相比于宽依赖,窄依赖对优化很有利,主要基于以下两点:
1、宽依赖往往对应着shuffle操作,需要在运行过程中将同一个父RDD的分区传入到不同的子RDD分区中,中间可能涉及多个节点之间的数据传输;而窄依赖的每个父RDD的分区只会传入到一个子RDD分区中,通常可以在一个节点内完成转换。
2、当RDD分区丢失时(某个节点故障),spark会对数据进行重算。
Ø对于窄依赖,由于父RDD的一个分区只对应一个子RDD分区,这样只需要重算和子RDD分区对应的父RDD分区即可,所以这个重算对数据的利用率是100%的;
Ø对于宽依赖,重算的父RDD分区对应多个子RDD分区,这样实际上父RDD中只有一部分的数据是被用于恢复这个丢失的子RDD分区的,另一部分对应子RDD的其它未丢失分区,这就造成了多余的计算;更一般的,宽依赖中子RDD分区通常来自多个父RDD分区,极端情况下,所有的父RDD分区都要进行重新计算。
Ø如下图所示,b1分区丢失,则需要重新计算a1,a2和a3,这就产生了冗余计算(a1,a2,a3中对应b2的数据)。
区分这两种依赖很有用。首先,窄依赖允许在一个集群节点上以流水线的方式(pipeline)计算所有父分区。例如,逐个元素地执行map、然后filter操作;而宽依赖则需要首先计算好所有父分区数据,然后