分布式计算框架Hadoop

Hadoop是Apache软件基金会所开发的并行计算框架与分布式文件系统。最核心的模块包括Hadoop Common、HDFS与MapReduce。

HDFS

       HDFS是Hadoop分布式文件系统（Hadoop Distributed File System）的缩写，为分布式计算存储提供了底层支持。采用Java语言开发，可以部署在多种普通的廉价机器上，以集群处理数量积达到大型主机处理性能。

       HDFS 架构原理

       HDFS采用master/slave架构。一个HDFS集群包含一个单独的NameNode和多个DataNode。

       NameNode作为master服务，它负责管理文件系统的命名空间和客户端对文件的访问。NameNode会保存文件系统的具体信息，包括文件信息、文件被分割成具体block块的信息、以及每一个block块归属的DataNode的信息。对于整个集群来说，HDFS通过NameNode对用户提供了一个单一的命名空间。

       DataNode作为slave服务，在集群中可以存在多个。通常每一个DataNode都对应于一个物理节点。DataNode负责管理节点上它们拥有的存储，它将存储划分为多个block块，管理block块信息，同时周期性的将其所有的block块信息发送给NameNode。

       下图为HDFS系统架构图，主要有三个角色，Client、NameNode、DataNode。

       文件写入时：

              Client向NameNode发起文件写入的请求。

              NameNode根据文件大小和文件块配置情况，返回给Client它所管理部分DataNode的信息。

              Client将文件划分为多个block块，并根据DataNode的地址信息，按顺序写入到每一个DataNode块中。

       当文件读取：