Hadoop HA(HDFS HA 和 ResourceManager HA)架构

本文深入探讨了Hadoop HA架构,包括HDFS HA和YARN HA。在HDFS HA中,通过主备NameNode节点、JournalNode集群以及ZKFC实现高可用,确保数据安全和连续服务。而YARN HA则利用ZK进行ResourceManager的主备切换,保证任务调度不中断。详细介绍了各个组件的角色和交互机制。
摘要由CSDN通过智能技术生成

HDFS HA 架构

  1. 架构图
    在这里插入图片描述

  2. 架构说明

  • HA 使用主备两个 NN 节点解决单点问题,一个状态为 active,另一个为 standby
  • 两个 NN 节点通过 JN 集群共享状态,通过 ZKFC 选举 active 节点
  • DN 会同时向两个 NN 节点发送心跳
  • active 状态的 NN
    • 接收 client 的 RPC 请求并处理,自己写一份 editlog,同时也向 JN 的共享存储上的 editlog 写一份
    • 接收 DN 的 block report,block location updates 和 heartbeat
  • standby 状态的 NN
    • 从 JN 集群读取并执行 log 操作,使自己 NN 的元数据和 active NN 的元数据是同步的
    • standby NN 是 active NN 的一个热备,如果active NN 出现问题,standby NN 切换到 active 状态,就能立即对外提供服务
    • 接收 DN 的 block report,block location updates 和 heartbeat
  • JN
    • 用于同步 active NN 和 standby NN 的数据,本身是由一组 JN 节点组成的集群,奇数台(至少3台),支持Paxos协议,保证高可用
  • <
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值