【大数据项目学习】第六章:YARN:一种新的Hadoop资源管理器(详述及部署)

第六章:YARN:一种新的Hadoop资源管理器

一个初学者的大数据学习过程



1. YARN 概述

1.1 YARN是什么?

YARN 是Hadoop2.x版本新引入的资源管理系统,直接从MR1演化而来。Apache Hadoop YARN (Yet Another Resource Negotiator,另一种资源协调者)是一种新的 Hadoop 资源管理器,它是一个通用资源管理系统,可为上层应用提供统一的资源管理和调度,它的引入为集群在利用率、资源统一管理和数据共享等方面带来了巨大好处。

核心思想: 将MR1中JobTracker的资源管理和作业调度两个功能分开,分别由ResourceManager和ApplicationMaster进程来实现。

 ResourceManager:负责整个集群的资源管理和调度。

 ApplicationMaster:负责应用程序相关的事务,比如任务调度、任务监控和容错等。

YARN的出现,使得多个计算框架运行在一个集群当中。

 每个应用程序对应一个ApplicationMaster。

 目前可以支持多种计算框架运行在YARN上面,比如MapReduce、Storm、Spark、Flink等。

1.2 YARN在生态圈中的位置

在这里插入图片描述

1.3 YARN与MapReduce关系

在这里插入图片描述

  1. YARN是一个资源管理系统,负责资源管理和调度。
  2. MapReduce只是运行在YARN上的一个应用程序。
  3. 如果把YARN看做"android",则MapReduce只是一个"app"。
  4. MapReduce 1.0是一个独立的系统
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值