MapReduce执行流程图解

这里写图片描述

上图是官方的mapreduce的图解,下面我们进行执行流程具体分析。

MR执行流程分析:

 1.run job。
                     客户端提交一个mr的jar包给JobClient(提交方式:./hadoop jar ··· )
 2. get new job ID。
                     JobClient通过RPC和JobTracker进行通信,返回一个存放jar包的地址(HDFS)和jobId.
 3. copy jobresources。
                     client将jar包写入到HDFS当中(path=hdfs上的地址+jobid)
 4. submit job。
                     开始提交任务。(任务的描述信息,不是jar。包括jobID,jar的存放位置,配置信息等等)
 5. Initialize job
                     JobTracker进行初始化任务
 6.  retrieve
                     读取HDFS上的要处理的文件,开始计算输入分片,每一个分片对应一个MapperTask
 7. heratbeat
                     TaskTracker通过心跳机制领取任务(任务的信息)
 8. retrieve job
                     下载所需要的jar,配置文件等
 9. ChildJVM
                     TaskTracker启动一个java child子进程,用来执行具体的任务(MapperTask或ReducerTask)
 10. run
                 将结果写入到HDFS当中
执行MR的命令:
    hadoop jar <jar在linux的路径> <main方法所在的类的全类名> <参数> 
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值