Hadoop生态圈之HDFS学习笔记

Hadoop生态圈之HDFS

1.HDFS定义

• HDFS（Hadoop Distributed File System），它是一个文件系统，用于存储文件，通过目录树来定位。其次，它是分布式的，由很多服务器联合起来实现其功能，集群中的服务器中各自的角色
• HDFS的使用场景：适合一次写入，多次读出的场景。一个文件经过创建、写入和关闭之后就不需要改变了

2.HDFS的优缺点

• 优点：
  • 高容错性：
    • 数据自动保存多个副本。它通过增加副本的形式，提高容错性
    • 某一个副本丢失以后，它会自动恢复
  • 适合处理大数据
    • 数据规模：能够处理数据规模达到GB、TB、甚至PB级别的数据
    • 文件规模：能够处理百万规模以上的文件数量。
  • 可构建在廉价机器上，通过多个副本机制，提高可靠性。
• 缺点：
  • 不适合低延迟数据访问，比如毫秒级的储存数据，是做不到的
  • 无法高效的对大量小文件进行存储
    • 存储大量小文件的话，它会占用NameNode大量的内存来储存文件目录和块信息。这样是不可取的，因为NameNode的内存总是有限的
    • 小文件储存的寻址时间会超过读取时间，它违反了HDFS的设计目标
  • 不支持并发写入、文件随机修改
    • 一个文件只能有一个写入，不允许多个线程同时写
    • 仅支持数据append（追加），不支持文件的随机修改

3.HDFS组成架

• NameNode（nn）：就是Master，它是一个主管、管理者。

  • 管理HDFS的名称空间；
  • 配置副本策略；
  • 管理数据块（Block）映射信息；
  • 处理客户端读写请求。

• DataNode：就是Slave。NameNode下达命令，DataNode执行实际的操作。

  • 存储实际的数据块；
  • 执行数据块的读/写操作。

• Client：就是客户端。

  • 文件切分。文件上传HDFS的时候，Client将文件切分成一个一个的Block，然后进行上传
  • 与NameNode交互，获取文件的位置信息；
  • 与DataNode交互，读取或者写入数据；
  • Client提供一些命令来管理HDFS，比如NameNode格式化；
  • Client可以通过一些命令来访问HDFS，比如对HDFS增删查改操作；

• Secondary NameNode：并非NameNode的热备。当NameNode挂掉的时候，它并不能马上替换NameNode并提供服务。

  • 辅助NameNode，分担其工作量，比如定期合并Fsimage和Edits，并推送给NameNode
  • 在紧急情况下，可辅助恢复NameNode。

4.HDFS文件块大小（面试重点）

• HDFS的文件在物理上是分块储存的（Block),块的大小可以通过配置参数（dfs.blocksize）来规定，默认大小在Hadoop2.x/3.x版本中是128M，1.x版本中是64M

思考：为什么块的大小不能设置太小，也不能设置太大？

• HDFS的块设置太小，会增加寻址时间，程序一直在找块的开始位置；
• 如果块设置的太大，从磁盘传输数据时间会明显大于定位这个块开始位置所需的时间。导致程序在处理这块数据时，会非常慢。
• HDFS块的大小设置主要取决于磁盘传输数率。

5.HDFS的读取流程（面试重点）

5.1文件写入流程

1. 客户端通过DistributedFileSystem模块向NameNode请求上传文件，NameNode检查目标文件是否已经存在，父目录是否存在

2. NameNode返回是否可以上传。

3. 客户端请求第一个Block上传到那几个DataNode服务器。

4. NameNode返回3个DataNode节点，分别为dn1，dn2，dn3

5. 客户端通过FSDataOutputStream模块请求dn1上传数据，dn1收到请求会继续调用dn2，然后dn2调用dn3，将这个通信管道建立完成

6. dn1，dn2，dn3逐级应答客户端

7. 客户端开始往dn1上传第一个Block（先从磁盘读取数据放到一个本地内存缓存）。以Packet为单位，dn1收到一个Packet就会传给dn2，dn2会传给dn3。dn1每传一个Packet会放入一个应答队列等待应答

8. 当一个Block传输完成之后，客户端再次请求NameNode上传第二个Block的服务器（重复执行3-7的步骤）

5.2 文件读取流程

1. 客户端通过DistributedFileSystem向NameNode请求下载文件，NameNode判断客户端是否有权限读取数据，如果有则通过查询元数据，找到文件块所在的DataNode地址。
2. 挑选一台DataNode服务器（就近原则，然后随机），请求读取数据
3. DataNode开始传输数据给客户端（从磁盘里面读取数据输入流，以Packet为单位来做校验）
4. 客户端以Packet为单位接受，先在本地缓存，然后写入目标数据文件。
5. 在传输客户端时会考虑DataNode的负载均衡

5.3 网络拓扑-节点距离计算

​ 在HDFS写数据的过程中，NameNode会选择距离待数据最近距离的DataNode接受数据。那么这个最近距离怎么计算呢？

• 节点距离：两个节点到达最近的共同祖先的距离总和。

5.4 机架感知——副本节点选择

5.5 NameNode工作机制

1. 第一阶段：NameNode启动
   • 第一次启动NameNode格式化后，创建Fsimage和Edits文件。如果不是第一次启动，直接加载编辑日志和镜像文件到内存。
   • 客户端对元数据进行增删改查的请求。
   • NameNode记录操作日志，更新滚动日志
   • NameNode在内存中对元数据进行增删改查。
2. 第二阶段：Secondary NameNode工作
   • Secondary NameNode询问NameNode是否需要CheckPoint。直接带回NameNode检查结果
   • Secondary NameNode请求执行CheckPoint
   • NameNode滚动正在写的Edits日志。
   • 将滚动前的日志和镜像文件拷贝到Secondary NameNode。
   • Secondary NaneNode加载编辑日志和镜像文件到内存中，并合并
   • 生成新的镜像文件fsimage.chekpoint。
   • 拷贝fsimage.chekpoint到NameNode。
   • NameNode将fsimage.chekpoint重命名为fsimage
3. Fsimage和Edits概念
   • Fsimage文件：HDFS文件系统元数据的一个永久性的检查点，其中包含HDFS文件系统的所有目录和文件index的序列化信息。
   • Edits文件：存放HDFS文件系统的所以更新操作的路径，文件系统客户端执行的所有写操作首先会被记录到Edits文件中。
   • 每次NameNode启动时候都将Fsimage文件读入内存，加载Edits里面更新的操作，保证内存中的元数据信息是最新的、同步的，可以看成NameNode启动的时候将Fsimage和Edits文件进行了合并

5.6 DataNode工作机制

（1）一个数据块在 DataNode 上以文件形式存储在磁盘上，包括两个文件，一个是数据
本身，一个是元数据包括数据块的长度，块数据的校验和，以及时间戳。
（2）DataNode 启动后向 NameNode 注册，通过后，周期性（6 小时）的向 NameNode 上
报所有的块信息。

（3）心跳是每 3 秒一次，心跳返回结果带有 NameNode 给该 DataNode 的命令如复制块
数据到另一台机器，或删除某个数据块。如果超过 10 分钟没有收到某个 DataNode 的心跳，
则认为该节点不可用。
（4）集群运行中可以安全加入和退出一些机器。