MapReduce执行过程

2019独角兽企业重金招聘Python工程师标准>>>

• 执行命令

        yarn jar <jar在linux的路径> <main方法所在的类的全类名> <参数>

        例：

        yarn jar /workspace/WordCount.jar MapReduce.WOrdCount hdfs://192.168.56.101:9000/

• MapReduce执行流程

    (1).客户端提交一个mr的jar包给JobClient(提交方式：hadoop jar ...)
    (2).JobClient通过RPC和ResourceManager进行通信，返回一个存放jar包的地址（HDFS）和jobId
    (3).client将jar包写入到HDFS当中(path = hdfs上的地址 + jobId)
    (4).开始提交任务(任务的描述信息，不是jar, 包括jobid，jar存放的位置，配置信息等等)
    (5).ResourceManager进行初始化任务
    (6).读取HDFS上的要处理的文件，开始计算输入分片，每一个分片对应一个MapperTask
    (7).NodeManager通过心跳机制领取任务（任务的描述信息）
    (8).下载所需的jar，配置文件等
    (9).NodeManager启动一个java child子进程，用来执行具体的任务（MapperTask或ReducerTask）
    (10).将结果写入到HDFS当中

转载于:https://my.oschina.net/u/3424784/blog/2994831