Hadoop Mapreduce架构--Hadoop技术内幕读书笔记

214343_tW7u_256373.png

1、Client

用户编写的MapReduce程序通过Client提交到JobTracker端;同时,用户可通过Client提供的一些接口查看作业运行状态。在Hadoop内部用“作业”Job表示MapReduce程序。一个MapReduce程序可对应若干个作业,而每个作业会被分解成若干个Map/Reduce任务(Task)。

2、JobTracker

JobTracker主要负责作业调度和资源监控。

作业调度:监控所有TaskTracker与作业的健康状况,一旦发现失败情况后,其会将相应的任务转移到其它节点。

资源监控:JobTracker会跟踪任务执行进度、资源使用量等信息,并将这些信息告诉任务调度器,而调度器会在资源出现空闲时,选择合适的任务使用这些资源。在Hadoop中任务调度器是一个可插拨的模块,可自行设计。

3、TaskTracker

TaskTracker会周期性地通过Heartbeat将本节点上资源的使用情况和任务的运行进度汇报给JobTracker,同时接收JobTracker发送过来的命令并执行相应的操作(如启动新任务、杀死任务等)。

TaskTracker使用"slot"等量划分本节点上的资源量。”slot“代表计算资源。一个Task获取一个slot后才有机会运行。而Hadoop调度器的作用就是将各个TaskTracker上的空闲slot分配给Task使用。slot分为Map slot和Reduce slot两种,分别供Map Task和Reduce Task使用。TaskTracker通过slot数目限定Task的并发度。

4、Task

Task分为Map Task 和Reduce Task两种,均由TaskTracker启动。HDFS以固定大小的block为基本单位存储数据,而对MapReduce而言,其处理单位是split。split与block的对应关系如下图

223030_dMnv_256373.png

split是一个逻辑概念,它只包含一些元数据信息,比如数据起始位置、数据长度、数据所在节点等.划分方法完全由用户自己决定。split的多少决定Map Task数量,一个split对应一个Map Task。


Map Task执行过程如下图:

Map Task先将对应的split迭代解析成一个key/value对,依次调用map函数进行处理,并将处理结果存放在本地磁盘,其中临时数据被分为若干个partition,每个partition将被一个Reduce Task处理。

224151_UVap_256373.png


Reduce Task执行过程如下图:

该过程分为三个阶段:1、shuffle阶段,从远程节点上读取Map Task中间结果;2、Sort阶段,按照key对key/value进行排序;3、reduce阶段,依次读取<key,value list>,调用reduce函数处理,并存入HDFS。224536_NWMe_256373.png




转载于:https://my.oschina.net/u/256373/blog/215249

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值