HDFS写数据流程

写数据流程:

1.客户端通过调用,分布式文件系统对象中的Create创建一个文件。DistributedFileSystem会通过RPC调用的名称节点中的文件系统命名空间创建一个新文件。

2.名称节点通过多种验证,确保请求客户端y拥有创建文件的权限,新的文件不存在文件系统中。当所有的验证通过时,名称节点就会创建一个新文件的记录。

3.客户端调用FSDataOutputStearm的Write函数,向对应的文件写入数据

4.当客户端开始写入数据时,DFSDataOutputStream会将文件分割,然后放入一个内容“数据队列”中,数据系统会将这些小的文件放入数据流中,DataStreamer的作用是请求名称节点为新的文件包分配合适的数据节点存放副本。返回的数据节点形成一个“通道”,假设这里的副本有三个,那么这个管道中就会有三个数据节点将文件包以流的方式传给队列中的第一个数据节点。第一个数据节点会存储这个包,然后将它推送到第二个数据节点,无限反复,直到完成“数据流管道”中的最后一个数据节点。

5.DFDSataOutputStream也会保存一个的内部队列来等待管道中的数据节点返回确认信息,这个队列被称为“确认队列”。只有当所有管道中的数据节点都返回写入成功的信息后,才会从确认队列中删除。

6.当客户端成功完成数据写入的操作后,调用FASA的Close方法,将所有的数据块写入数据流管道中的数据节点,并等待确认返回成功,最后通过名称节点完成写入。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值