HDFS

HDFS(Hadoop Distributed Files System ,Hadoop分布式文件系统)是一个块结构的文件系统。它将一个文件按块划分成多个子块,并将子块复制多份存储于多个节点上,从而达到容错的效果。

HDFS包含两类节点:NameNode和DataNode。NameNode用于管理元数据,如文件名称,权限,文件地址等;DataNode用于存储实际的数据。NameNode周期性地接受来自DataNode的两种类型消息,分别是心跳消息和块报告消息。DataNode发送心跳消息告知NameNode工作正常,块报告消息包含一个DataNode上所有数据块的列表。

HDFS的读写工作过程:

1.读。客户端向NameNode发送读取文件的请求,NameNode返回读取文件的块位置(标识了持有所有对应文件块数据的DataNode)。接着,客户端将块位置发送给DataNode,获取数据。

2.写。客户端向NameNode发送写入文件的请求,NameNode判断文件是否存在及是否有创建权限。接着,客户端请求NameNode为文件的第一个块选择DataNode,多个节点的DataNode在本地存储数据块后,客户端请求NameNode为文件的第二块选择DataNode,多个节点的DataNode在本地存储数据块后,……,直到所有文件快都在DataNode上存储。最后,客户端告知NameNode文件写操作已完成。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值