fsimage和edits

本文详细解析了Hadoop中fsimage与edits的运作机制,阐述两者如何协同工作来保持namenode的元数据一致性。fsimage保存某一时刻的namenode状态,而edits记录所有修改操作,通过定期合并生成最新的fsimage。
  • fsimage保持着某一时刻的namenode信息,之后修改的信息保存在edits中。
  • fsimage并不保存block和datanode之间的关系,namenode将这种映射关系放在内存中,datanode启动通过注册汇报

fsimage和edits合并过程:

  • fsImage文件只会和某一时刻namenode内存中的元数据保持一致,当客户端做修改操作时,namenode会在edits文件中记录操作日志。fsImage和edits的合并过程在secondry namenode中进行,当一定时间后或者edits大小达到一定空间时,会触发checkpoint,会在namenode中生成一个新的edits文件,此时的客户端修改操作会记录到这个新的edits(edits.new)中,secondry NN会从namenode中将fsImage和旧的edits下载过来,然后进行合并,生成一个新的fsImage(fsImage.chkpoint),将新的fsImage上传到namenode。namenode删除旧的fsImage和edits,并修改新的fsImage和edits名字,修改成和旧的一样。

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值