分布式数据存储与管理[HDFS+HBase]

一、系统架构

在分布式存储领域，相信大多数人对HDFS（Hadoop Distributed File System）并不陌生，它是GFS（Google File System）的开源实现版本，解决大规模非结构化数据存储的问题。然而，HBase则是基于HDFS之上的一个分布式的、面向列存的开源NoSQL数据库，解决大规模结构化和半结构化数据存储的问题。

a) HDFS架构

HDFS[1][2]采用Master/Slave架构。一个HDFS集群是由一个Namenode和一定数目的Datanodes组成，如图1所示。Namenode是一个中心服务器，负责管理文件系统的名字空间(namespace)以及客户端对文件的访问。集群中的Datanode一般是一个节点一个，负责管理它所在节点上的存储。HDFS暴露了文件系统的名字空间，用户能够以文件的形式在上面存储数据。从内部看，一个文件其实被分成一个或多个数据块，这些块存储在一组Datanode上。Namenode执行文件系统的名字空间操作，比如打开、关闭、重命名文件或目录。它也负责确定数据块到具体Datanode节点的映射。Datanode负责处理文件系统客户端的读写请求。在Namenode的统一调度下进行数据块的创建、删除和复制。

图1 HDFS系统架构

b) HBase架构