hadoop的高可用机制和联邦机制

本文介绍了Hadoop的高可用机制,包括NameNode的Active/Standby状态切换、ZKFC组件、健康监控以及数据同步。同时,讨论了Hadoop的联邦机制,旨在解决NameNode的横向扩展问题,实现多个NameNode的命名空间隔离和共享存储资源。此外,提到了Federation并未完全消除单点故障,大型集群通常采用HA+Federation组合方案。
摘要由CSDN通过智能技术生成

1. hadoop的高可用机制

高可用机制主要是解决NameNode单点故障问题

在Hadoop 中,NameNode 所处的位置是非常重要的,整个HDFS文件系统的元数据信息都由NameNode 来管理,NameNode的可用性直接决定了Hadoop 的可用性,一旦NameNode进程不能工作了,就会影响整个集群的正常使用。所以在实际应用中一般会使用高可用集群(HA),在hadoop集群中配置两个NameNode。

在典型的HA集群中,两台独立的机器被配置为NameNode。在工作集群中,NameNode机器中的一个处于Active状态,另一个处于Standby状态。Active NameNode负责群集中的所有客户端操作,而Standby充当从服务器。Standby机器保持足够的状态以提供快速故障切换(如果需要)。

在这里插入图片描述

ZKFC组件:

  • ZKFailoverController

    是基于Zookeeper的故障转移控制器,它负责控制NameNode的主备切换,ZKFailoverController会监测NameNode的健康状态当发现Active NameNode出现异常时会通过Zookeeper进行一次新的选举,完成Active和Standby状态的切换

  • HealthMonitor

    周期性调用

  • 0
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值