大数据--Hadoop生态5--Yarn总结

 

目录

一:Yarn的定义和作用

二:Yarn体系结构

三:Yarn工作流程

四:Yarn的发展目标

五:Yarn和zookeeper相似点

六:Yarn和ZooKeeper的区别


一:Yarn的定义和作用

    Yarn是一个分布式资源调度器组件这个组件的主要作用是在每次接收到请求后,会查看当下的各个子节点的状况,

统筹出运算资源的调度方案来保证任务可以顺利执行。通常来说,Yarn所调度的资源常常包括磁盘空间的资源,

内存的资源和通讯带宽的资源等。Yarn是Hadoop V2.0开始引入的一个组件,

这个组件可以说是针对Hadoop1.0系统所爆露出的计算资源使用不合理等设计上的问题进行的修正和补充。

二:Yarn体系结构

三:Yarn工作流程

  1. 用户编写客户端命令,向yarn提交应用程序,提交的内容包括ApplicationMaster程序,启动ApplicationMaster的命令,用户程序等。
  2. Yarn中的ResourceManager负责接收和处理来自客户端的请求,为应用程序分配一个容器,在该容器中启动一个ApplicationMaster
  3. ApplicationMaster被创建后会首先向ResourceManager注册
  4. ApplicationMaster采用轮询的方式向ResourceManager申请资源
  5. ResourceManager以容器的形式向提出申请的Application分配资源
  6. 在容器中启动任务
  7. 各个任务向applicationMaster汇报自己的状态和进度。
  8. 应用程序运行完成后,ApplicationMaster向ResourceManager的应用程序管理器注销并关闭自己。

四:Yarn的发展目标

  •  一个集群多个框架
  • 提供统一的资源调度管理服务,实现集群资源共享和资源弹性收缩。
  • 有效提供集群利用率

五:Yarn和zookeeper相似点

    都是分布式的
    都具备监听和控制子节点运行的能力

六:Yarn和ZooKeeper的区别

      Yarn的核心功能在于资源调度与管理,而ZooKeeper的核心功能在于分布式系统中的一致性服务。

Zookeeper和Yarn是一起工作的,它们一起管理资源
 

参考:

https://blog.csdn.net/jiayunfei521/article/details/103520158

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值