HDFS启动过程了解

4 篇文章 0 订阅

Namenode目录:元数据(name,permission,block,replication),没有dn的位置

当系统启动并加载fsimage完成之后(这个时候元数据都加载到内存中)dnnamenode报告自己的块列表,这个时候形成数据块->datanode列表的映射,数据块到datanode列表的映射关系在namenode内存中维护。在实际的应用中,数据块到datanode的对应关系经常用到,datanode到数据块的对应关系很少用。

NameNode作为HDFS中文件目录和文件分配的管理者,它保存的最重要信息,就是下面两个映射:

1)文件名=>数据块(2)数据块=>DataNode列表

其中,文件名=>数据块保存在磁盘上,但NameNode上不保存数据块=>DataNode列表,该列表是通过DataNode上报建立起来的。

Namenode会定期将文件系统的命名空间(文件目录树、文件/目录元信息)保存到fsimage二进制文件中,以防止Namenode掉电或进程崩溃。但如果Namenode实时地将内存中的元数据同步到fsimage文件中,将会非常消耗资源且造成Namenode运行缓慢。所以Namenode会先将命名空间的修改操作保存在editlog文件中,当editlog达到一定的大小(bytes,由fs.checkpoint.size参数定义)或从上次保存过后一定时间段过后(sec,由fs.checkpoint.period参数定义)合并fsimageeditlog文件。Namenode就是通过这种方式来保证HDFS中元数据信息的安全性。

查看nn的镜像文件---元数据:hdfs oiv –p XML –I fsimage –o xxx  oiv(offline image viewer) 离线镜像读取器

查看nn的编辑日志文件---hdfs做的操作都记录在了编辑日志文件中

Hdfs oev –p XML –I fsedit –xxx –o xxx//oev:offline edit viewer

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值