快来看看,如何搭建hadoop集群???

此过程没有在服务器搭建的具体步骤,仅有思路

zookeeper集群管控

Hadoop2.0之后,达到了元数据(用于存储NameNode寻找DataNode的信息)的实时备份,所有有两台NameNode(standby、active)。不管你Hadoop集群有多少节点,NameNode只有两个

两个NameNode为了数据之间的同步,会通过一组JournalNodes的独立进程进行相互通信。当active状态的NameNode的命名空间有任何修改时,会告知大部分的JournalNode进程,standby状态的NameNode就会从JournalNodes中同步信息

当active状态的NameNode宕机时,确保standby状态的NameNode中的命名中心状态已经完全同步了

也就是说,JournalNode的作用,就为了在两个NameNode之间传输信息,如下图

两个ResourceManager(active和standby)节点

首先我们要了解YARN ???

在Hadoop1.x中,jobTracker的任务过重,所以引出了YARN

它的基本思想就是拆分资源管理的功能

首先说的是YARN集群的管理者ResourceManager (Hadoop集群中有两个standby、active)

然后是NodeManger是运行在集群中单个节点的代理对象,主要的功能:管理Container(容器)的生命周期,监控每个Container的资源使用(内存、CPU等)情况、追踪节点健康状况等

NodeManger也需要与应用程序的ApplicationMaster和集群管理者ResourceManager交互

ApplicationMaster负责对应的job任务分配、管理和监控。它不会再ResourceManager服务器上启动,会随机在某台NodeManger上启动

 ApplicationMaster可以将Container相关操作通过RPC的方式第一时间告诉NodeManager

三者之间的关系如下图:

DataNode是用于存储的节点

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值