hdfs的checkpoint及namenode故障恢复

本文介绍了HDFS中NameNode的持久化机制,重点讲解了CheckPoint的过程,包括SecondaryNameNode如何合并FSImage和edits,以及何时触发Checkpoint。同时,讨论了NameNode故障恢复的策略,当发生故障时,如何根据磁盘状态进行恢复,以确保数据的完整性。
摘要由CSDN通过智能技术生成

Hdfs中 nameNode的持久化相关

# 1. HDFS接受客户端的文件操作后。
# 2. 先将操作的命令 以日志的方式记录到editslog中。
# 3. 然后再将指令对应的文件元数据的修改操作,修改内存中的元数据信息。
# 4. SNN定期负责将editslog中的文件合并到fsimage中。

在这里插入图片描述

Hdfs的checkPoint机制

  1. SecondaryNameNode向NameNode发起合并请求

  2. NameNode将当前的Editslog文件保存改名edits,并新建EditsLog继续持久化工作。

  3. 将改名后的edits文件和本地的FSImage(旧)发送给sencondaryNameNode

  4. SecondaryNameNode负责将FSImage(旧)+edits文件合并成FSImage(新)

  5. 将新的FSImage(新)发送给NameNode保存。

  6. 将最新的FSImage替换旧的,并将其删除。
    在这里插入图片描述

checkpoint触发条件(时机)

# 每1分钟检查一次触发条件。(SNN没隔1分钟&#x
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值