hdfs体系结构与读写过程

1.Namenode

  • 管理文件系统的命名空间
  • 记录每个文件数据块在各个Datanode上的位置和副本信息
  • 协调客户端对文件的访问
  • 记录命名空间内的改动或空间本身属性的改动
  • Namenode使用事务日志记录HDFS元数据的变化。使用影响文件存储文件系统的命名空间,包括文件映射,文件属性等

2.Datanode

  • 负责所在五里界点的存储管理
  • 一次写入,多次读取(不修改)
  • 文件有数据块组成,典型的块大小是64MB
  • 数据块尽量散布到各个几点

读取数据流程

  • 客户端要访问HDFS中的一个文件
  • 首先从namenode获得组成这个文件的数据块位置列表
  • 根据列表知道存储数块的datanode
  • 访问datanode获取数据
  • Namenode并不参与数据实际传输

写数据流程

  • 客户端提出写数据请求
  • namenode将写入的数据进行切分成若干的数据块,再将每个数据块复制到三个地方
  • namenode再根据距离为为一个数据块对应的存储数据进行排序,再讲排好序户的规则告诉datanode
  • datanode会根据排好的顺序将每个数据块进行存储,等存储完毕之后,datanode会向namenode发送完成请求,namenode再告知客户端
  • 剩下的数据则按照这个规则依次写入
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值