hdfs的基本原理和基本操作总结

                                                                                                                     

                                                                                hdfs基本原理

Hadoop分布式文件系统(HDFS)被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统。它和现有的分布式文件系统有很多共同点。但同时，它和其他的分布式文件系统的区别也是很明显的。HDFS是一个高度容错性的系统，适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问，非常适合大规模数据集上的应用。HDFS放宽了一部分POSIX约束，来实现流式读取文件系统数据的目的。HDFS在最开始是作为Apache Nutch搜索引擎项目的基础架构而开发的。HDFS是Apache Hadoop Core项目的一部分。

HDFS有着高容错性（fault-tolerant）的特点，并且设计用来部署在低廉的（low-cost）硬件上。而且它提供高吞吐量（high throughput）来访问应用程序的数据，适合那些有着超大数据集（large data set）的应用程序。HDFS放宽了（relax）POSIX的要求（requirements）这样可以实现流的形式访问（streaming access）文件系统中的数据。

HDFS的主要组成：NameNode,SecondaryNameNode,DataNonde;

HDFS的基本操作：读、写、均衡；

图1，NameNode

图2，SecondaryNameNode

 

图3，客户端的读请求

 

图4，读取DataNode上的块

图5，写文件请求

 

图6，准备写

 

图7，单块的管线式写入数据节点

图8，多块的管线式写入数据节点