HDFS架构师3.1-元数据管理流程2(日志同步及fsimage互传)

19} 20} 21} 22}

元数据源码剖析.png

1、内存里面的元数据刷盘

image.png

19}
接上期

——1.1 .1.1》 FSEditLog.logSync()
——1.1 .1.1.1》 EditLogOutputStream.flush()

//第一次:FileJouranlManager -> EditLogFileOutputStream
//第二次:QuorumJounalManager -> QuorumOutputStream

flushAndSync(durable);
                         ↓ 先看这个

——1.1 .1.1.1》EditLogFileOutputStream# flushAndSync(durable)
//TODO 涮写磁盘
doubleBuf.flushTo(fp);
↓ 再看这个
——1.1 .1.1.2》QuorumOutputStream#flushAndSync
——1.1 .1.1.2.1》AsyncLoggerSet#sendEdits()
//往journalnode去发送日志。
logger.sendEdits(segmentTxId, firstTxnId, numTxns, data);

2、内存里面的元数据刷盘和journalnode 19},20} 10分钟

3、standby的 namenode 同步 元数据 by journalnode

21} 40分钟 22} 18 分钟

元数据管理.png

/* EditLogTailer是一个后台线程,启动了以后会周期性的去journalnode集群上面去

  • 读取元数据日志,然后再把这些元数据日志应用到自己的元数据里面(内存+磁盘)
    */
    EditLogTailer类
    EditLogTailer.EditLogTailerThread.run()方法
    ——1》EditLogTailer.EditLogTailerThread.doWork()
    //TODO 重要的代码
    doTailEdits();
    //TO

  • 2
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值