hadoop yarn的原理和工作流程

之前写过 mapreduce的原理和工作流程,包括了一小部分yarn的内容,因为yarn本来就是从mrv1中提出来的,所以二者有千丝万缕的联系,另外,作为一个新手也在梳理的阶段,所以记录的内容或多或少会有混乱或者不精准,还请大家包涵。
结构如下:先简要介绍一下mrv1中的资源管理,然后概述yarn。

一,mrv1
    这个阶段资源管理和计算都是由mapreduce独自完成。

    执行阶段包括:map  sort/shuffle/merge  以及reduce等几个阶段实现
    mapreduce框架负责管理集群资源,调度数以千计的作业以及其他的一些事情。

    包括几个组件:Job tracker   teskTracker管理相应节点的任务。tt与jt通信,并被jt控制。jt负责工作服务器节点的资源管理,跟踪资源使用率/可用率,生命周期,调度作业的各个任务,跟踪进度,以及为任务提供容灾服务。tt根据JT的命令启动清除任务,并且向JT提供任务的状态信息。、

    但是:不能支持非MR应用的需求,可扩展性不高,资源使用率不高(map  reduce节点不能互换)兼容等问题导致了YARN的出现
二 YARN

   YARN的主要想法:将JT的两大主要职能,资源管理ÿ
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值