hdfs的实验总结_HDFS学习心得

本文详细介绍了Hadoop文件系统HDFS的组成部分,包括Namenode、Datanode和SecondaryNamenode。Namenode作为管理者负责元数据管理和数据读写决策,其硬盘中的edits日志记录操作历史,fsimage存储元数据镜像。SecondaryNamenode用于定期合并edits和fsimage,确保元数据一致性,并在Namenode故障时提供恢复支持。
摘要由CSDN通过智能技术生成

HDFS-Hadoop文件系统

第一节:HDFS的文件结构

学习HDFS首先得了解HDFS的文件结构,以及它是如何更新和保存数据的,要了解HDFS首先得知道HDFS主要由三个部分组成:namenode,datanode,secondaryNamenode.

这三者的关系按照我的理解就是主人,下人,小秘的关系。namenode是主人的角色,他是一个管理者,是一个决策者。datanode是一个下人,准确来说是一堆下人,他们的工作就是按照主人的吩咐干好本职工作,总是前赴后继的角色。secondaryamenode就是一个小蜜,主人以一大堆下人之间以一种特定的合同文书来维持,小蜜的人物就是在一定时间或者文书积累到一定量的时候,帮主人整理这些文书,保持最简介高效。

1.1 namenode

namenode作为hdfs的头脑,他的主要工作是接受客户端请求,合理的读取和划分数据并存储;而namenode数据存放也是分为两个部分:内存,硬盘中。

内存的数据主要是一些元数据信息,元数据信息就像是一个索引信息,通过索引可以轻松的找到需求的数据的位置包括副本位置;元数据的存在主要是为了便于读取hdfs中的数据。

硬盘中的数据比较多,最新格式化的namenode会生成以下文件目录结构:${dfs.name.dir}/current/VERSION

/edits

/fsimage

/fstime

这四个文件以及文件夹。VERSION文件里面记载了一些namenode的基础信息,而其中有一个namespaceID,这是这个namenode的唯一标示ÿ

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值