MapReduce运行框架

在Hadoop1.X版本中,MapReduce是通过JobTracker运行实现的
Hadoop1.X中的MapReduce
我们写好MapReduce程序打成jar包交给client端,client把jar包提交到JobTracker。JobTracker把这个作业拆分成很多份,然后分配给TaskTracker去执行。JobTracker和TaskTracker是主从关系,通过心跳机制管理。TaskTracker并不是随机分配任务的,这里有个概念叫:数据本地化。意思是:将map task分配给含有该map处理的数据块(block)的TaskTracker上,运算向数据移动。在分配reduce任务时并不考虑数据本地化。

在MR1.X运行架构中,有3个角色:

  • JobTracker
  • TaskTracker
  • Client

JobTracker是这个框架的核心,在框架中不仅是资源调度的主节点,也是任务调度的主节点。这会造成节点负载过重,容易发生单点故障。而且资源管理与计算调度强耦合,其他计算框架需要重复实现资源管理。不同框架对资源不能全局管理。

在Hadoop2.X版本中,引入的资源管理系统yarn
在这里插入图片描述

工作流程:

  1. client拿到Application计算的文
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值