HDFS的一些常见机制

1、HDFS的心跳机制

  Hadoop2.x包含两个主从架构(Master/Slave)HDFS和YARN,这两个其实可以看做时两个独立的架构。
其中hdfs包含NamenNode和DataNode两个守护进程
yarn包含resourcemanager和NodeManager两个守护进程

  hdfs的心跳机制指的是从节点DataNode会再一定的时间间隔向主节点NameNode发送数据包汇报自身的状态,hdfs也因此来判断DataNode是否存活。
  在hdfs的Master节点启动时同时会启动一个IPC 通信服务,等待slave节点的连接,slave启动后会每隔3秒(默认的情况下)通过这个IPC服务向Master节点连接也就是心跳,这个时间间隔可以通过dfs.heartbeat.interval 参数配置。NameNode通过心跳获取DataNode的状态,ResourceManager通过心跳获取NodeManager的状态。
在间隔一定的时间没有获取到DataNode的心跳反馈后,NameNode会判断这个DataNode宕机。
这个时间是默认10次心跳间隔+两次NameNode主动检查时间

timeout = 2 * heartbeat.recheck.interval + 
  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值