SNameNode工作原理

介绍

由于edits记录了集群运行期间所有对HDFS的相关操作,所以这个文件会很大。集群关闭后再次启动时会将Fsimage,edits加载到内存中,进行合并,恢复到集群的。由于edits文件很大所有,集群再次启动时会花费较长时间。为了加快集群的启动时间,所以使用secondarynameNode辅助NameNode合并Fsimage,editsfsimage与edits的合并时机取决于两个参数
第一个参数:时间达到一个小时fsimage与edits就会进行合并
dfs.namenode.checkpoint.period:3600
第二个参数:hdfs操作达到1000000次也会进行合并
dfs.namenode.checkpoint.txns:1000000
还有一个参数是每隔多长时间检查一次hdfs的操作次数
dfs.namenode.checkpoint.check.period :60

作用

SecondaryNamenode周期性复制NameNode的Fsimage和edits到SecondaryNamenode本机,将两个
文件进行合并,最终生成全新的Fsimage,将最新的Fsimage发送回Namenod

意义

辅助NameNode合并Fsimage edits.减小了日志的大小,加快了集群的二次启动速度

步骤
1.secnonaryNN通知NameNode切换edits
在这里插入图片描述

2.secondaryNN从NameNode中获得FSImage和edits(通过http方式)
在这里插入图片描述

3.secondaryNN将FSImage载入内存,然后开始合并edits与FSimage,合并之后成为新的FSimage
在这里插入图片描述

4.secondaryNN将新的Fsimage发回给NameNode
在这里插入图片描述

5.NameNode用新的FSimage替换旧的FSimage,新的edits替换旧的edits
在这里插入图片描述

  • 7
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值