HDFS 写数据流程
(1)客户端通过Distributed FileSystem
模块向NameNode
请求上传文件,NameNode
会检查目标文件是否已存在,父目录是否存在。
(2)NameNode
返回是否可以上传。
(3)客户端先对文件进行切分为一个一个的Block
(0-128M),再向NameNode
请求第一个 Block
上传到哪几个DataNode
服务器上。
(4)NameNode
返回3个DataNode
节点,分别为dn1
、dn2
、dn3
。
(5)客户端通过FSDataOutputStream
模块请求dn1
上传数据,dn1
收到请求会继续调用dn2
,然后dn2
调用dn3
,将这个通信管道pipeline
建立完成。
(6)dn1
、dn2
、dn3
逐级应答客户端。
(7)客户端开始往dn1
上传第一个Block
(先从磁盘读取数据放到一个本地内存缓存),以Packet
为单位,dn1
收到一个Packe
t就会传给dn2
,dn2
传给dn3
;dn1
每传一个packet
会放入一个应答队列等待应答。
(8)当一个Block
传输完成之后,客户端再次请求NameNode
上传第二个Block
的服务器。(重复执行3-7步)。
HDFS 读数据流程
(1)客户端通过DistributedFileSystem
向NameNode
请求下载文件,NameNode
通过查询元数据,找到文件块所在的DataNode
地址。
(2)挑选一台DataNode
服务器(网络拓扑的就近原则,没有则随机),请求读取数据Socket
流。
(3)DataNode
开始传输数据给客户端(从磁盘里面读取数据输入流,以Packet
为单位来做校验)
(4)客户端以Packet
为单位接收,先在本地缓存,然后写入目标文件。