大数据-HDFS(Hadoop Distributed File System)

Hadoop是一种分布式系统基础架构。它的目的是从单一的服务器到上千台机器的扩展,每一个台机都可以提供本地计算和存储。

Hadoop主要包括HDFS,YARN,MapReduce三个核心组件:

HDFS:负责海量数据的存储

MapRduce:负责海量苏剧的运算

YARN:负责资源调度

HDFS是一个分布式文件系统,主要过程如下:

可见,主要分为四个部分:

1,client

HDFS是一个主从关系的结构,client就是客户端,负责文件切分,与namenode和datanode交互。

2,namenode

namenode是一个master(大管家,主管),管理HDFS的命名空间(namespace),保存了两个重要的内容:fsimage和editlog。fsimage用于维护文件系统树以及文件树中所有的文件和文件夹的元数据;editlog则记录了文件的编辑日志。

3,datanode

datanode是一个slave(奴隶),用来存储具体的文件,执行数据块的读写操作。

4,secondarynamenode

secondarynamenode是用来辅助namenode,减轻其负担的。因为fsimage往往十分巨大而且及其重要,因此需要secondary定期和namenode通信完成备份。过程如下:

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值