Hadoop NameNode元数据相关文件目录解析

转载 2015年11月19日 17:53:54
下面所有的内容是针对Hadoop 2.x版本进行说明的,Hadoop 1.x和这里有点不一样。

  在第一次部署好Hadoop集群的时候,我们需要在NameNode(NN)节点上格式化磁盘:

1 [wyp@wyp hadoop-2.2.0]$  $HADOOP_HOME/bin/hdfs namenode -format

  格式化完成之后,将会在$dfs.namenode.name.dir/current目录下如下的文件结构

1 current/
2 |-- VERSION
3 |-- edits_*
4 |-- fsimage_0000000000008547077
5 |-- fsimage_0000000000008547077.md5
6 `-- seen_txid

其中的dfs.namenode.name.dir是在hdfs-site.xml文件中配置的,默认值如下:

01 <property>
02   <name>dfs.namenode.name.dir</name>
03   <value>file://${hadoop.tmp.dir}/dfs/name</value>
04 </property>
05  
06 hadoop.tmp.dir是在core-site.xml中配置的,默认值如下
07 <property>
08   <name>hadoop.tmp.dir</name>
09   <value>/tmp/hadoop-${user.name}</value>
10   <description>A base for other temporary directories.</description>
11 </property>

  dfs.namenode.name.dir属性可以配置多个目录,如/data1/dfs/name,/data2/dfs/name,/data3/dfs/name,....。各个目录存储的文件结构和内容都完全一样,相当于备份,这样做的好处是当其中一个目录损坏了,也不会影响到Hadoop的元数据,特别是当其中一个目录是NFS(网络文件系统Network File System,NFS)之上,即使你这台机器损坏了,元数据也得到保存。
  下面对$dfs.namenode.name.dir/current/目录下的文件进行解释。
  1、VERSION文件是Java属性文件,内容大致如下:

1 #Fri Nov 15 19:47:46 CST 2013
2 namespaceID=934548976
3 clusterID=CID-cdff7d73-93cd-4783-9399-0a22e6dce196
4 cTime=0
5 storageType=NAME_NODE
6 blockpoolID=BP-893790215-192.168.24.72-1383809616115
7 layoutVersion=-47

其中
  (1)、namespaceID是文件系统的唯一标识符,在文件系统首次格式化之后生成的;
  (2)、storageType说明这个文件存储的是什么进程的数据结构信息(如果是DataNode,storageType=DATA_NODE);
  (3)、cTime表示NameNode存储时间的创建时间,由于我的NameNode没有更新过,所以这里的记录值为0,以后对NameNode升级之后,cTime将会记录更新时间戳;
  (4)、layoutVersion表示HDFS永久性数据结构的版本信息, 只要数据结构变更,版本号也要递减,此时的HDFS也需要升级,否则磁盘仍旧是使用旧版本的数据结构,这会导致新版本的NameNode无法使用;
  (5)、clusterID是系统生成或手动指定的集群ID,在-clusterid选项中可以使用它;如下说明

a、使用如下命令格式化一个Namenode:

1 $ $HADOOP_HOME/bin/hdfs namenode -format [-clusterId <cluster_id>]

选择一个唯一的cluster_id,并且这个cluster_id不能与环境中其他集群有冲突。如果没有提供cluster_id,则会自动生成一个唯一的ClusterID。

b、使用如下命令格式化其他Namenode:

1 $ $HADOOP_HOME/bin/hdfs namenode -format -clusterId <cluster_id>

c、升级集群至最新版本。在升级过程中需要提供一个ClusterID,例如:

1 $ $HADOOP_PREFIX_HOME/bin/hdfs start namenode       \
2           --config $HADOOP_CONF_DIR  -upgrade -clusterId <cluster_ID>

如果没有提供ClusterID,则会自动生成一个ClusterID。

  (6)、blockpoolID:是针对每一个Namespace所对应的blockpool的ID,上面的这个BP-893790215-192.168.24.72-1383809616115就是在我的ns1的namespace下的存储块池的ID,这个ID包括了其对应的NameNode节点的ip地址。
  
  2、$dfs.namenode.name.dir/current/seen_txid非常重要,是存放transactionId的文件,format之后是0,它代表的是namenode里面的edits_*文件的尾数,namenode重启的时候,会按照seen_txid的数字,循序从头跑edits_0000001~到seen_txid的数字。所以当你的hdfs发生异常重启的时候,一定要比对seen_txid内的数字是不是你edits最后的尾数,不然会发生建置namenode时metaData的资料有缺少,导致误删Datanode上多余Block的资讯。

  3、$dfs.namenode.name.dir/current目录下在format的同时也会生成fsimage和edits文件,及其对应的md5校验文件。fsimage和edits是Hadoop元数据相关的重要文件.


转自:http://www.iteblog.com/archives/967

相关文章推荐

Hadoop NameNode元数据相关文件目录解析

本文转自 Hadoop NameNode元数据相关文件目录解析 一 NameNode 元数据相关文件目录架构二 元数据相关文件解析 1 VERSION 文件2 seen_txi...
  • cyony
  • cyony
  • 2017-06-28 10:29
  • 79

Hadoop NameNode元数据相关文件目录解析

在第一次部署好Hadoop集群的时候,我们需要在NameNode(NN)节点上格式化磁盘: 1 [wyp@wyp hadoop-2.2.0]$  $HAD...

【总结】Hadoop NameNode元数据相关文件目录解析

原文:https://www.iteblog.com/archives/967.html 在第一次部署好Hadoop集群的时候,我们需要在NameNode(NN)节点上格式化磁盘: ...

第123讲:Hadoop集群管理之Namenode目录元数据结构详解学习笔记

第123讲:Hadoop集群管理之Namenode目录元数据结构详解学习笔记 hadoop-2.x的集群管理与hadoop-1.x有很大不同 hdfs-site.xml: dfs.replica...

Android应用相关文件目录、清除数据和缓存的介绍

Android应用文件存储目录的结构,及进入应用详情页时,清除数据和清除缓存的介绍。

第126讲:Hadoop集群管理之Datanode目录元数据结构详解学习笔记

第126讲:Hadoop集群管理之Datanode目录元数据结构详解学习笔记 namenode是管理hdfs文件系统的元数据 datanode是负责当前节点上的数据的管理,具体目录内容是在初始阶段...

Android应用程序相关的文件目录详解

一、方法介绍:                每个Android应用程序都可以通过Context来获取与应用程序相关的目录,这些目录的功能各异,每一个目录都有自己的特点,有时候可能会搞混淆,本文结合a...
  • zmywly
  • zmywly
  • 2014-09-28 19:19
  • 3778

Qt中与文件目录相关操作

一、与文件目录操作有关操作。          Qt中与文件目录相关的操作在QDir中,需加入#include 语句。         ...

利用 Hadoop FileSystem listStatus 遍历文件目录 实现HDFS操作

Hadoop 版本 2.7.0利用 Hadoop FileSystem listStatus 遍历文件目录 实现HDFS操作

Linux文件目录操作相关命令

查看文件内容命令: 1.cat 从第一行开始显示文件内容 -b 列出行号,除空白行 -n,列出行号,包括空白行 -A 列出所有的特殊字符2.tac 从最后一行开始反过来显示3.nl 添加行号显...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:深度学习:神经网络中的前向传播和反向传播算法推导
举报原因:
原因补充:

(最多只允许输入30个字)