Spark内核架构--清晰图解

详细步骤:1.提交的jar包2.spark-submit提交到集群上运行3.在提交的机器上,运行sparkSubmit的main方法(通过反射的方式创建我们编写主类的实例对象,调用main方法,执行代码)4.当代码到SparkContext,开始初始化SparkContxt5.初始化SparkContext,创建DAGscheduler,TaskScheduler6、当T...
摘要由CSDN通过智能技术生成


详细步骤:

1.提交的jar包

2.spark-submit提交到集群上运行

3.在提交的机器上,运行sparkSubmit的main方法(通过反射的方式创建我们编写主类的实例对象,调用main方法,执行代码)

4.当代码到SparkContext,开始初始化SparkContxt

5.初始化SparkContext,创建DAGscheduler,TaskScheduler

6、当TaskSchedule启动后,会将用户提交的任务和相关的参数,提交给master进行任务的注册

7、当master接受到任务请求时,会将请求参数进行解析,并封装成Application,然后将其持久化,然后将其加入到任务队列waitingApps中

8、当轮到我们提交的任务运行时,就开始调用schedule(),进行任务资源的调度

9、master将调度好的资源封装到launchExecutor中发送给指定的worker

10、worker接受到Maseter发送来的launchExecutor时,会将其解压并封装到ExecutorRunner中,然后调用这个对象的start(), 启动Executor

11、Executor启动后会向DriverActor进行反向注册

12、TaskScheduler发送注册成功的消息给Executor

13、Executor接受到注册成功的消息后会创建一个线程池,用于执行TaskScheduler发送过来的task任务

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值