spark学习笔记：Spark任务调度

9.      Spark任务调度

9.1 任务调度流程图

 

各个RDD之间存在着依赖关系，这些依赖关系就形成有向无环图DAG，DAGScheduler对这些依赖关系形成的DAG进行Stage划分，划分的规则很简单，从后往前回溯，遇到窄依赖加入本stage，遇见宽依赖进行Stage切分。完成了Stage的划分。DAGScheduler基于每个Stage生成TaskSet,并将TaskSet提交给TaskScheduler。TaskScheduler 负责具体的task调度,最后在Worker节点上启动task。

9.2 DAGScheduler

1. DAGScheduler对DAG有向无环图进行Stage划分。
2. 记录哪个RDD或者 Stage 输出被物化（缓存），通常在一个复杂的shuffle之后，通常物化一下(cache、persist)，方便之后的计算。
3. 重新提交shuffle输出丢失的stage（stage内部计算出错）给TaskScheduler
4. 将 Taskset 传给底层调度器

1. – spark-cluster TaskScheduler
2. – yarn-cluster YarnClusterScheduler
3. – yarn-client YarnClientClusterScheduler

9.3 TaskScheduler

（1）为每一个TaskSet构建一个TaskSetManager 实例管理这个TaskSet 的生命周期

（2）数据本地性决定每个Task最佳位置

（3）提交 taskset( 一组task) 到集群运行并监控

（4）推测执行，碰到计算缓慢任务需要放到别的节点上重试

（5）重新提交Shuffle输出丢失的Stage给DAGScheduler