2.5 Apache Hadoop、HDFS -HDFS工作流程和机制

HDFS工作流程和机制

一、HDFS集群角色与职责

官方架构图

主角色：namenode

• NameNode是Hadoop分布式文件系统的核心，架构中的主角色。
• NameNode维护和管理文件系统元数据，包括名称空间目录树结构、文件和块的位置信息、访问权限等信息。
• 基于此，NameNode成为了访问HDFS的唯一入口。
• NameNode内部通过内存和磁盘文件两种方式管理元数据。
• 其中磁盘上的元数据文件包括Fsimage内存元数据镜像文件和edits log（Journal）编辑日志。
  

从角色：datanode

• DataNode是Hadoop HDFS中的从角色，负责具体的数据块存储。
• DataNode的数量决定了HDFS集群的整体数据存储能力。通过和NameNode配合维护着数据块
  

主角色辅助角色： secondarynamenode

• Secondary NameNode充当NameNode的辅助节点，但不能替代NameNode。
• 主要是帮助主角色进行元数据文件的合并动作。可以通俗的理解为主角色的“秘书”。
  

namenode职责

• NameNode仅存储HDFS的元数据ÿ