hdfs读写操作

本文详细介绍了HDFS的读取和写入流程。在读取过程中,客户端首先向NameNode请求文件信息,然后根据返回的文件块位置连接最近的DataNode读取数据。在写入时,客户端在获得NameNode的确认和数据块信息后,建立数据流管道并将数据写入DataNode,确保数据的复制和安全性。
摘要由CSDN通过智能技术生成

读取流程

流程图:

1.客户端向NameNode发送读的请求

2.NameNode根据客户端的请求,根据内存索引查找客户端要查的文件对应的文件块,如果没有那么告诉客户端。如果有那么将文件块在那些服务器上以及具体的位置在哪儿告诉客户端。客户端根据namenode返回的信息,读取最近的服务器的文件。

  1) 客户端调用 DistributedFileSystem 的 Open() 方法打开文件。

  2) DistributedFileSystem 用 RPC 连接到 NameNode,请求获取文件的数据块的信息;NameNode 返回文件的部分或者全部数据块列表;对于每个数据块,NameNode 都会返回该数据块副本的

  3) 客户端调用 FSDataInputStream 的 Read() 方法开始读取数据。

   4) FSInputStream 连接保存此文件第一个数据块的最近的 DataNode,并以数据流的形式读取数据;客户端多次调用 Read(),直到到达数据块结束位置。

  5) FSInputStream连接保存此文件下一个数据块的最近的 DataNode,并读取数据。

   6) 当客户端读取完所有数据块的数据后,调用 FSDataInputStream 的 Close() 方法。

在读取数据的过程中,如果客

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值