HDFS原理详解_fsinage与edits

  • 文件系统的目录树中的每个节点包含了文件的信息(比如文件名、文件属性等)以及文件与DataNode的对应关系,这些数据成为原数据(meta data)
  • 要读写HDFS中的文件,必须经过NameNode(先从目录树中找到文件Meta数据)
  • HDFS使用了日志,就是在那些引起HDFS文件系统改变的操作执行时,在改变元数据的同时把操作记录在日志文件中,这些文件就是edits文件,当NameNode重启时,会从edits文件中读出那些操作,一条条地执行,将目录树恢复到关机前最后一次操作的样子
  • HDFS引入了一个叫做fsImage的文件,用于保存NameNode的所有元数据(整个目录树就是HDFS文件系统的描述,所以叫fs镜像)。当执行改变文件系统的操作时,依然先写入edits中,只不过每隔一段时间要将edits合并到fsimage中,合并完的edits被扔掉,如此可以保证fsimage与当前最新的元数据没有太大的差距,而edits中保存的实际是fsimage与内存中元数据的差异。也就是说,“fsimage+edits=内存元数据”。此方案使得NameNode重启时可以将fsimage直接读到内存中,恢复元数据,及时有edits需要合并,也没有太大的差距,很快就能完成
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值