HDFS的数据块概念

数据块

每个磁盘都有默认的数据块大小，这是磁盘进行数据 读/写的最小单位。构建于每个磁盘之上的文件系统通过磁盘块来管理该文件系统中的块，该文件系统的大小可以是磁盘块的整数倍。文件系统块一般为几千字节，而磁盘块一般为512字节。这些信息对于需要读写文件的用户来说是透明的。尽管如此，系统仍然提供了一些工具(df、fsck)来维护文件系统，由它们对文件系统中的块进行操作。

HDFS有块的概念，块大小默认为128MB。与单一磁盘上的文件系统相似，HDFS上的文件也被划分为块大小的多个分块，作为独立的存储单元。但是与面向单一磁盘的文件系统不同的是，HDFS中小于一个块大小的文件不会占据整个块的空间，例如，当一个1MB的文件存储在一个128MB的块中时，文件只占用这1MB，而不是128MB。

对分布式文件系统中的块进行抽象会带来很多好处。第一，一个文件的大小可以大于网络中任意一个磁盘的容量。文件的所有块并不需要存储在同一个磁盘上，因此它们可以利用集群上的任意一个磁盘进行存储。第二，使用抽象块而非整个文件作为存储单元，大大简化了子系统的设计，将存储子系统的处理对象设置成块，可简化存储管理，同时也消除了对元数据的顾虑（块只是存储的数据，而文件的元数据，如权限信息，不需要和块一同存储，这样做，其他系统就可以单独管理这些元数据）。

块非常适合用于数据备份从而提高数据容错能力，并提高可用性。将每个块复制到少数几个物理上相互独立的机器上（默认为3个），可以确保块、磁盘、或机器发生故障后数据不丢失。如果发现一个块不可用，系统会从其他地方读取一个复本，而这个过程对用户是透明的。一个因损坏或机器故障而丢失的块可以从其它复本地址复制到另一可以正常运行的机器上，以保证复本的数量回到正常水平。同样，有些应用程序可能选择为一些常用的文件块设置更高的复本数量进而分散集群中的读取负载。

 

--摘自《Hadoop权威指南》