HDFS读写数据流程

HDFS写数据流程:

写

1.客户端向nd发送文件上传请求 nd检查目录文件是否存在 检查父目录是否存在

2.nd向客户端返回是否上传响应

3.客户端向nd请求 上传到那个节点(dn)

4.nd响应 dn1 dn2 dn3可以上传

5.客户端向dn1发送请求 dn1–>dn2–>dn3 建立文件传输管道

6.dn1 dn2 dn3 向客户端逐级应答

7.客户端将block文件以packet形式传输给dn1 dn1–>dn2–>dn3

dn1每传一个packet会放入一个应答队列等待应答

8.当一个block文件传输完成以后 客户端再次向nd发送请求 传输block2

HDFS读数据流程:

读

1.客户端向nd发送下载请求 nd检查元数据 查找文件所在dn

2.挑选最近的dn服务器 发送读取请求

3.dn向客户端传输数据 以packet为单位做校验

4.客户端以packet为单位接收 先在本地缓存 然后写入目标文件

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值