fsimage,edits ,SNN介绍

fsimage:命名空间镜像文件,不及时更新,存储多个NameNode信息。(一个文件一个NameNode)

  • 把文件和目录的元数据信息持久化地存储到fsimage文件中,每次启动时从中将元数据加载到内存中构建目录结构树,之后的操作记录在edits log中

edits log:编辑日志,实时更新,程序运行过程中对DataNode的操作记录。

fsimage和edits log均存储在磁盘,而不是内存上

思考:NameNode中的元数据是存储在哪里的?

首先,我们做个假设,如果存储在NameNode节点的磁盘中,因为经常需要进行随机访问,还有响应客户请求,必然是效率过低。因此,元数据需要存放在内存中。但如果只存在内存中,一旦断电,元数据丢失,整个集群就无法工作了。因此产生在磁盘中备份元数据FsImage

这样又会带来新的问题,当在内存中的元数据更新时,如果同时更新FsImage,就会导致效率过低,但如果不更新,就会发生一致性问题,一旦NameNode节点断电,就会产生数据丢失。因此,引入Edits文件(只进行追加操作,效率很高)。每当元数据有更新或者添加元数据时,修改内存中的元数据并追加到Edits中。这样,一旦NameNode节点断电,可以通过FsImage和Edits的合并,合成元数据。

但是,如果长时间添加数据到Edits中,会导致该文件数据过大,效率降低,而且一旦断电,恢复元数据需要的时间过长。因此,需要定期进行FsImage和Edits的合并,如果这个操作由NameNode节点完成,又会效率过低。因此,引入一个新的节点SecondaryNamenode,专门用于FsImage和Edits的合并

1. SNN

它不是NN的备份(但可以做备份),它的主要工作是帮助NN合并edits log到fsimage中,减少NN启动时间

SecondaryNameNode就是当edits log文件到达一定阈值时或到达规定的时间时会获取NameNode中的fsimage和editslog文件并将它们做一次合并,然后将新的fsimage文件发送给NameNode,这样edits log文件就可以更新为空文件,继续存储新的操作记录。

SNN执行合并时机

  • 根据配置文件设置的时间间隔fs.checkpoint.period 默认3600秒
    (一小时)
  • 根据配置文件设置edits log大小 fs.checkpoint.size 规定edits文件的最大值默认是64MB

edits log文件很小,每次做合并操作时不会耗时很久。

  • 为什么edits log文件很小?
    • HDFS架构中,除了NameNode,还有一个SecondaryNameNode.
    • SecondaryNameNode就是当edits log文件到达一定阈值时或到达规定的时间时会获取NameNode中的fsimage和editslog文件并将它们做一次合并,然后将新的fsimage文件发送给NameNode,这样edits log文件就可以更新为空文件,继续存储新的操作记录。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Iip1uB4C-1607394453230)(img\1560239274499.png)]

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-yx6hA492-1607394453234)(img\373XQ]I@@Z[7ARTDKPVI0.png)]

2. Fsimage和Edits介绍

NameNode被格式化之后,将在/opt/module/hadoop-2.7.2/data/tmp/dfs/name/current目录中产生如下文件
fsimage 0000000000000000000
fs image 0000000000000000000 . md5
seen txid
VERSION

(1) Fsimage文件: HDFS文件系统元数据的一个永久性的检查点,其中包含HDFS文件系统的所有目录和文件inode的序列化信息。
(2) Edits log文件: 存放HDFS文件系统的所有更新操作的路径,文件系统客户端执行的所有写操作首先会被记录到Edits文件中。
(3) seen txid文件保存的是一个数字,就是最后一个edits_ 的数字
(4)每次NameNode启动的时候都会将Fsimage文件读入内存,加载Edits里面的更新操作,保证内存中的元数据信息是最新的、同步的,可以看成NameNode启动的时候就将Fsimage和Edits文件进行了合并。

Namenode主要维护两个文件,一个是fsimage,一个是edits log。

  • fsimage

    保存了最新的元数据检查点,包含了整个HDFS文件系统的所有目录和文件的信息。对于文件来说包括了数据块描述信息、修改时间、访问时间等;对于目录来说包括修改时间、访问权限控制信息(目录所属用户,所在组)等。

  • edits log

    主要是在NameNode已经启动情况下对HDFS进行的各种更新操作进行记录,HDFS客户端执行所有的写操作都会被记录到edits log中。

简单来想,NameNode维护了文件与数据块的映射表以及数据块与数据节点的映射表,什么意思呢?就是一个文件,它切分成了几个数据块,以及这些数据块分别存储在哪些datanode上,namenode一清二楚。Fsimage就是在某一时刻,整个hdfs 的快照,就是这个时刻hdfs上所有的文件块和目录,分别的状态,位于哪些个datanode,各自的权限,各自的副本个数。然后客户端对hdfs所有的更新操作,比如说移动数据,或者删除数据,都会记录在edits log中。

为了避免editlog不断增大,secondary namenode会周期性合并fsimage和edits成新的fsimage,新的操作记录会写入新的editlog中,这个周期可以自己设置(editlog到达一定大小或者定时)。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-4cWN4mcw-1607394453236)(img\1560238719464.png)]

可以很清晰看出

第一步:将hdfs更新记录写入一个新的文件——edits.new。

第二步:将fsimage和editlog通过http协议发送至secondary namenode。

第三步:将fsimage与editlog合并,生成一个新的文件——fsimage.ckpt。这步之所以要在secondary namenode中进行,是因为比较耗时,如果在namenode中进行,或导致整个系统卡顿。

第四步:将生成的fsimage.ckpt通过http协议发送至namenode。

第五步:重命名fsimage.ckpt为fsimage,edits.new为edits。

这样的话,fsimage与editlog合并的过程就完成了。所以如果namenode宕机,其实secondary namenode还保存这一份不久前的fsimage,还能挽回一些损失吧。

一旦有datanode挂掉了(宕机或者是网络阻塞),namenode能很快感知到,并且将宕机的节点上的数据块转移至其余空闲节点。这点是因为hdfs的心跳机制(heartbeat)。

心跳机制默认3s一次,datanode会向namenode发送一次心跳,告知namenode当前节点上存放的数据文件是什么。如果namenode中记录的是该datanode存放了文件A的两个数据块和文件B的一个数据块,但是心跳中只有文件A的一个数据块信息,namenode就会知道该datanode数据块损坏了,会把损坏的数据块在别的datanode上补充.

SNN每隔一段时间会向NN发出停止使用EditLog的请求,NN接收到请求后会生成新的EditLog.New,暂时将更新操作日志写入其中。SNN会将NN的FsImage和EditLog拉回本地并加载至内存,逐条执行EditLog,使FsImage保持最新(即合并操作),然后SNN将合并后的新FsImage发送回NN,NN收到后替换原有的FsImage,并使用EditLog.New替换原有的EditLog,从而减小了NN中EditLog的体积,同时也实现了定时冷备份的功能。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

陈小哥cw

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值