hadoop 命名空间的维护机制

hadoop 1.x secondarynamenode合并edits 和 fsimage 流程

c91504c7f4e344750da4f9d03e6dc897edf.jpg

如何触发 secondaryNameNode合并edits 和 fsimage  

  • fs.checkpoint.period:3600s 默认一小时触发一次(core-site.xml)
  • fs.checkpoint.size:64MB 或者 edits 大小达到 64MB(core-site.xml)

hadoop 2.x HA 主备同步namespace流程(Journal 模式 )

b025a133a1e1fdf71210fe5cc60f9bbde74.jpg

     active namenode 每次有文件有变化会写入本地的edits log并且会向 journal node的edits也写入一份, 而standy namenode 会监听journal node上edits文件的变化,如果有变化将会同步变化到自己本地edits,journal是一组相互独立的进程,当多数journal响应active namenode成功的时候,就认为写入成功了,当 active namenode 挂掉的时候 ,通过zk standy会感知到这一变化,然后再确保同步了全部 journal的edits之后,会把自己状态提升到active

 

 

 

 

转载于:https://my.oschina.net/u/2969788/blog/3060663

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值