HDFS文件的读写流程

HDFS 文件上传流程

详细步骤解析：

1. client 发起文件上传请求，通过 RPC 与 NameNode 建立通讯，NameNode 检查目标文件是否存在，父目录是否存在，返回是否可以上传；
2. client 请求第一个 block 该传输到那些 DataNode 服务器上；
3. NameNode 根据配置文件中指定的备份数量及机架感知原理进行文件分配，返回可用的 DataNode 的地址如：A，B，C；
4. client 请求3台 DataNode 中的一台 A 上传数据（本质上是一个RPC 调用，建立 pipeline），A 收到请求会继续调用 B，然后 B 调用 C，将整个pipeline 建立完毕，后逐级返回 client；
5. client 开始往 A 上传第一个 block（先从磁盘读取数据放到一个本地内存缓存），以 packet 为单位（默认64K），A 收到一个 packet 就会传给 B，B 传给 C; A 每传一个 packet 会放入一个应答队列等待应答。
6. 数据被分割成一个个packet 数据包在 pipeline 上依次传输，在 pipeline 反方向上，逐个发送 ack（命令正确应答），最终由 pipeline 中第一个 DataNode 节点 A 将 pipeline 发送给client；
7. 关闭写入流。
8. 当一个 block 传输完成之后，client 再次请求 NameNode 上传第二个 block 到服务器。

HDFS文件读取流程

详细步骤解析

1. 客户端通过调用 FileSystem 对象的 open() 来读取希望打开的文件。
2. client 向 NameNode 发起 RPC 请求，来确定请求文件 block 所在的位置；
3. NameNode 会视情况返回文件的部分或全部 block 列表，对于每个 block，NameNode 都会返回含有该 block 副本的 DataNode 地址；这些返回的 DN 地址，会按照集群拓扑结构得出 DataNode 与客户端的距离，然后排序，排序两个规则：网络拓扑结构中距离 client 近的排靠前；心跳机制中超时汇报的 DN 状态为 STALE，这样的排靠后；
4. client 选取排序靠前的 DataNode 来获取 block，如果客户端本身就是 DataNode，那么将从本地直接获取数据（短路读取特性）；
5. 底层上本质是建立 Socket Stream （FSDataInputStream），重复的调用父类 DataInputStream 的read 方法，直到这个块上的数据读取完毕；
6. 并行读取，若失败重新读取
7. 当读取列表的 block 后，若文件读取还没有结束，客户端会继续向 NameNode 获取下一批的 block 列表；
8. 返回后续 block 列表
9. 最终关闭读流，并将读取来所有的 block 会合并成一个完整的最终文件。

说明：

1. 读取完一个 block 都会进行 checksum 验证，如果读取 DataNode 时出现错误，客户端会通知 NameNode，然后在从下一个拥有该 block 副本的 DataNode 继续读。
2. read 方法是并行的读取 block 信息，不是一块一块的读取；NameNode 只是返回 client 请求包含块的 DataNode 地址，并不是返回请求块的数据；

数据完整性

1）当DataNode读取block的时候，它会计算checksum
2）如果计算后的checksum，与block创建时（第一次上传是会计算checksum值）值不一样，说明block已经损坏。
3）client读取其他DataNode上的block.
4）datanode在其文件创建后周期验证checksum