MapReduce的Job提交运行流程

运行图

在这里插入图片描述

  1. 客户端通过hadoop -jar的形式,运行写好的MR程序
    2.客户端将任务提交到ResourceManager,并获取ResourcesManage返回的一个JobID
    3.客户端得到JobId后将
    ①根据指定的路径,到HDFS上获取文件
    ②对文件进行切片,并记录切片信息
    ③分片信息复制到HDFS文件系统上
  2. 客户端将信息提交到HDFS上后,通知ResourcesManager运行该JobID的任务
  3. a.resourcemanager会找空闲的nodemanager
    b.在此空闲NodeManager上启动一个MRApplicationMaster,用于Job任务的具体划分
  4. mrappmaster 会初始化这个job任务,
  5. mrappmaster会从hdfs上获取这个job的切块信息,以此来判断需要几个
    MapTask和ReduceTask
  6. mrappmaster划分好任务后,会请求Resourcesmanager分配资源。RM会返回一个Container,里面是分配的资源(就是让哪个节点执行哪个任务)
  7. a.mrappmaster根据ResourcesManager分配的NodeManager上分配具体的任务
    b.相应的NodeManager节点收到此消息后,会开启一个JVM
  8. 开启JVM后,会启动一个YarnChild线程,YarnChild去HDFS获取相应的分片信息 11. YarnChild线程启动MapTask或者ReduceTask(具体看分配的是啥了)
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值