前言
在Hadoop内部,具体实现了许多类的文件系统,当然最最被我们用到的就是他的分布式文件系统HDFS了。但是本篇文章不会讲HDFS的主从架构等东西,因为这些东西网上和资料书中都讲得很多了。所以,我决定以我个人的学习所得,来讲讲HDFS内部的一些有意思的东西,也作为一个起始点,为后续继续深入其中模块的学习做基础。
HDFS两大主流关系模块
与NameNode相关,文件系统元数据操作相关。包括文件目录树,每个文件对于数据块列表,fsImgae镜像文件和editlog编辑日志在维护整个集群元数据的时候的各种操作。
与DataNode相关,指的就是数据块与数据节点的对应关系,通俗的理解就是某个数据块保存在哪些数据节点上。里面其实会涉及到很多操作,包括block副本复制,损坏块删除,租约机制等等。
第一关系模块(NameNode相关)
涉及的类
INode
Hadoop也同样用了类似linux文件系统中的i-node的概念,即索引节点。INode是一个抽象类,后面的INodeDirectory以及INodeFile都是他的子类,这样就可以做到保持一些共有的属性。
INodeDirectory,INodeFile
- 常用方法:
- INodeDirectory.removeChild()
FSImage
- 命名空间镜像类,下面是常用的方法