Spark学习-窄依赖和宽依赖的概念

窄依赖：Narrow Dependency，父RDD和子RDD的partition之间的对应关系是一对一的。RDD的每个partition，仅仅依赖父RDD中的一个partition。

宽依赖：Shuffle Dependency，每一个父RDD的partition中的数据，都可能会传输一部分到下一个RDD的每个partition中。他们之间发生的操作就是shuffle。

二者的特性主要基于以下两点：

1. 宽依赖的shuffle操作，需要在运行过程中将同一个父RDD的分区传入到不同的子RDD分区中，中间可能涉及多个节点之间的数据传输；而窄依赖的每个父RDD的分区只会传入到一个子RDD分区中，通常可以在一个节点内完成转换。

2. 当RDD分区丢失时（某个节点故障），spark会对数据进行重算。

   1. 对于窄依赖，由于父RDD的一个分区只对应一个子RDD分区，这样只需要重算和子RDD分区对应的父RDD分区即可，所以这个重算对数据的利用率是100%的；
   2. 对于宽依赖，重算的父RDD分区对应多个子RDD分区，这样实际上父RDD 中只有一部分的数据是被用于恢复这个丢失的子RDD分区的，另一部分对应子RDD的其它未丢失分区，这就造成了多余的计算；更一般的，宽依赖中子RDD分区通常来自多个父RDD分区，极端情况下，所有的父RDD分区都要进行重新计算。