hadoop HA架构模式

1.为什么要使用hadoop HA部署

① 当使用非HA部署方式时,只有一个NN(namenode),当该namenode 即整个集群的master宕机时,整个集群将会面临短期内乃至长期无法访问的窘境直到问题解决
②非HA部署方式时,使用的是SNN的时间为一小时checkpoint机制,无法做到灵活切换,即高可用,所以要使用HA方式部署

2.hadoop HA部署整体思路

①部署两个namenode,其中一台为另外一台的备份,为了防止脑裂现象的产生,同一时间只能有一个namenode以active形式被外界访问,另一个namenode为standby状态
②当通过命名空间访问namenode时,会根据配置文件进行轮询请求,直到请求到状态为active的namenode节点

3.hadoop HA 整体架构图

在这里插入图片描述
JN集群:

  • 共享状态
  • 用于active standby节点的数据同步
  • 一般部署2n+1个

ZKFC:
选举active机器

  • 单独进程
  • 监控NN健康状况
  • 向ZK集群定期发送心跳,使得自己可以被选举
  • 当自己被ZK选举为active的时候,zkfc进程通过RPC协议调用使NN节点的状态变为active,对外提供服务,这个过程是无感知的

ACTIVE NN:

  • 操作记录写到自己的editlog
  • 同时写JN集群
  • 接收DN的心跳和块报告

standby NN:

  • 同步接收JN集群的日志
  • 显示读取执行log操作(重演),使得自己的元数据和active nn节点保持一致
  • 接收DN的心跳和块报告
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值