Hdfs面试题1

Hdfs 原理

读写过程

https://blog.csdn.net/wypersist/article/details/79797565

 

存储机制

https://blog.csdn.net/wypersist/article/details/79797569

 

HDFS FSimage和edit合并过程

https://blog.csdn.net/WYpersist/article/details/80069726

Hdfs 上传文件和下载文件的流程

https://blog.csdn.net/WYpersist/article/details/80044958

Hdfs block size 是128MB,那么300MB的文件大小，如何切分

分成3块。两块分别是128MB，另一块是54MB。

 

看这两篇文章

https://blog.csdn.net/WYpersist/article/details/80044792

https://blog.csdn.net/WYpersist/article/details/80044776

怎么导数据到hdfs

什么是HDFS，它的存储机制？

HDFS（Hadoop Distributed File System）是Hadoop项目的核心子项目，是分布式计算中数据存储管理的基础，坦白说HDFS是一个不错的分布式文件系统，它有很多的优点，但也存在有一些缺点，包括：不适合低延迟数据访问、无法高效存储大量小文件、不支持多用户写入及任意修改文件。

 

有一个文件FileA，100M大小。Client将FileA写入到HDFS上。

HDFS按默认配置。

HDFS分布在三个机架上Rack1，Rack2，Rack3。

a. Client将FileA按64M分块。分成两块，block1和Block2;

b. Client向nameNode发送写数据请求，如图蓝色虚线①——>。

c. NameNode节点，记录block信息。并返回可用的DataNode，如粉色虚线②———>。

Block1: host2,host1,host3

 

Block2: host7,host8,host4

 

原理：

 

    NameNode具有RackAware机架感知功能，这个可以配置。

 

    若client为DataNode节点，那存储block时，规则为：副本1，同client的节点上；副本2，不同机架节点上；

    副本3，同第二个副本机架的另一个节点上；其他副本随机挑选。

 

    若client不为DataNode节点，那存储block时，规则为：副本1，随机选择一个节点上；副本2，不同副本1，机架上；

    副本3，同副本2相同的另一个节点上；其他副本随机挑选。

 

d. client向DataNode发送block1；发送过程是以流式写入。

流式写入过程，

 

    1>将64M的block1按64k的package划分;

 

    2>然后将第一个package发送给host2;

 

    3>host2接收完后，将第一个package发送给host1，同时client想host2发送第二个package；

 

    4>host1接收完第一个package后，发送给host3，同时接收host2发来的第二个package。

 

    5>以此类推，如图红线实线所示，直到将block1发送完毕。

    6>host2,host1,host3向NameNode，host2向Client发送通知，说“消息发送完了”。如图粉红颜色实线所示。

    7>client收到host2发来的消息后，向namenode发送消息，说我写完了。这样就真完成了。如图黄色粗实线

    8>发送完block1后，再向host7，host8，host4发送block2，如图蓝色实线所示。

    9>发送完block2后，host7,host8,host4向NameNode，host7向Client发送通知，如图浅绿色实线所示。

    10>client向NameNode发送消息，说我写完了，如图黄色粗实线。。。这样就完毕了。

分析，通过写过程，我们可以了解到：

①写1T文件，我们需要3T的存储，3T的网络流量贷款。

②在执行读或写的过程中，NameNode和DataNode通过HeartBeat进行保存通信，确定DataNode活着。

如果发现DataNode死掉了，就将死掉的DataNode上的数据，放到其他节点去。读取时，要读其他节点去。

③挂掉一个节点，没关系，还有其他节点可以备份；甚至，挂掉某一个机架，也没关系；其他机架上，也有备份。

 

关注阿布的进击，获取最新信息