HDFS写数据的过程

本文详细阐述了分布式文件系统中创建和写入文件的过程。客户端首先通过名称节点创建文件,接着数据被分割并由数据节点存储为多个副本,形成数据管道。每个数据节点写入成功后,客户端收到确认,最终完成文件的写入操作。
摘要由CSDN通过智能技术生成

1.客户端首先通过分布式文件系统创建一个文件,并以名称节点中来创建命名空间新文件。

 

2.名称节点通过多种的验证来请求客户端创建文件,创建成功时分布式文件系统将返回文件系统数据流给客户端写数据。这时产生的数据流对象将被客户端用来处理数据节点和名称节点间的通信。

 

3.客户端将会调用文件系统数据输出流的Write()函数,向对应文件写入数据。

4.当客户端写入数据时,文件系统输出流会将文件分割成包,然后放入“数据队列”中。数据流系统将会将这些小文件放入数据流中,并请求数据节点把分割包分配并存放副本。这时将会有三个副本形成一个“管道”,以一二三的顺序依次推送来重复操作,直到完成最后一个数据节点。

5.文件系统数据输出流同时会保存一个包的内部队列,用来等待“管道”中的数据节点返回确认信息,这个队列被称为“确认队列”。

6.当数据写入成功的操作后,将会调用文件系统数据输出流的Close()方法,将数据写入数据道管道中的数据节点,并等待确认返回成功,最后完成写入。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

BKURION

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值