HDFS理论(内含hdfs命令)

1、HDFS的应用场景

适合的应用场景:
存储非常大的文件,需要高吞吐量,对延时没有要求;
采用流式的数据访问方式,一次写入多次读写
需要高容错性
为数据存储提供所需的扩展能力
不适合的应用场景:
低延时的数据访问,对延时要求在毫秒级别的应用,不适合采用HDFS
不适合存放大量小文件
多方读写,不支持文件的任意修改

2、HDFS的架构

hdfs是一个 主/从 (mater/slave)体系架构
hdfs由四部分组成:HDFS Client、Namenode、DataNode和Secondary Namenode。
1、Client:就是客户端
文件切分。文件上传HDFS的时候,Client将文件切分成一个一个的Block,然后进行存储。
与NameNode交互,获取文件的位置信息。
与DataNode交互,读取或者写入数据。
Clinet提供一些命令来管理和访问HDFS,比如启动或者关闭HDFS。
2、NameNode:就是master,它是一个主管,管理者
管理HDFS的名称空间
管理数据块(Block)映射信息
配置副本策略
处理客户端读写请求
3、DataNode:就是Slave。NameNode下达命令,DataNode执行实际的操作。
存储实际的数据块
执行数据块的读/写操作
4、Secondary NameNode:并非NameNode的热备,当NameNode挂掉的时候,它并不能马上替换NameNode并提供服务。
辅助NameNode,分担其工作
定期合并fsimage和fsedits,并推送给NameNode
在紧急情况下,可辅助恢复NameNode

3、NameNode和DataNode作用

1、NameNode作用
NameNode在内存中保存着整个文件系统的名称空间和文件数据块的地址映射;
整个HDFS可存储的文件数受制于NameNode的内存大小。<

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值