HDFS的读写流程

HDFS的写数据流程

1.  客户端需要上传文件，客户端就会创建一个Distributed FileSystem，向NameNode请求上传文件。
2. 此时，NameNode要检查，该客户端是否有权限进行操作。然后开始检查目录结构能否创建成功。检查完成后，Namenode就会响应，通知客户端上传文件。
3. 客户端此时会请求上传第一个Block,需要NN返回DataNode，告知客户端上传的位置。
4. NN会返回几个DataNode，例如返回了3个节点。表示告知客户端要用返回的三个节点存储数据。
5. 此时HDFS客户端会创建一个FSDataOutPutSystream，用该流来传输数据。创建完成后，首先先向第一个DataNode，请求建立传输通道。（注意：此时我们只需要向一个DataNode建立即可，该DataNode会与剩下的DataNode建立通道。即我们只需要将数据传输给第一个Node，之后客户端就可以关闭，让DataNode与DataNode之间传递数据（创建副本））
6. 所有DataNode建立好传输通道，就回头输出应答结果，当应答结果传递给客户端，客户端就开始传递数据
7. 客户端传递数据，传递数据的大小是以package为单位一个包是64k，而一个包中含有很多个chunk，每一个chunk由512byte的数据以及一个4byte的统计量构成。即数据先组装成chunk，再组装成包，最后依次去填满。&#x