Mapreduce(二):MR的执行过程分析

1.MR的作业执行流程图

       

        (1).客户端提交一个mr的jar包给JobClient(提交方式:hadoop jar ...)


(2).JobClient通过RPC和JobTracker进行通信,返回一个存放jar包的地址(HDFS)和jobId


(3).client将jar包写入到HDFS当中(path = hdfs上的地址 + jobId)


(4).开始提交任务(任务的描述信息,不是jar, 包括jobid,jar存放的位置,配置信息等等)


(5).JobTracker进行初始化任务

        (6).读取HDFS上的要处理的文件,开始计算输入分片,每一个分片对应一个MapperTask


(7).TaskTracker通过心跳机制领取任务(任务的描述信息)


(8).下载所需的jar,配置文件等


(9).TaskTracker启动一个java child子进程,用来执行具体的任务(MapperTask或ReducerTask)


(10).将结果写入到HDFS当中

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值