hadoop元数据管理机制

NAMENODE职责:

负责客户端请求的响应

元数据的管理(查询,修改)

客户端经常性的会有 查询元数据的请求 和更新元数据的请求
namenode对数据的管理采用了三种存储形式:
内存元数据(NameSystem)
磁盘元数据镜像文件(fsimage)
数据操作日志文件(可通过日志运算出元数据edits)
 
secondary namenode 主要对image镜像文件的管理
 
1.当有元数据有更新请求的时候,先记录操作日志edits,
2.然后会更新到内存当中
3.checkpiont  触发条件:定时 或者是edits中的记录数量(默认情况下30分钟)
4.namenode检查触发条件,当满足条件,会向secondarynamenode做出请求
5 edits.inprogress会立马滚动一次,将正在写的数据生成为旧的edits
6.secondarynamenode会将namenode上的fsimage和若干个edits下载下来
7,将fsimage和edits合并成为一个新的文件fsimage
8,把生成的新的文件请求上传到namenode,nomenode会将本地fsimage进行覆盖
 
之前的edits文件在下载完以后,会清除
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值