hadoop单个数据节点的不同存储路径的存储策略源码分析。

最新推荐文章于 2021-01-12 06:26:10 发布

danssion

最新推荐文章于 2021-01-12 06:26:10 发布

阅读量1.9k

点赞数

分类专栏： hadoop yarn 文章标签： hadoop hdfs datanode

本文链接：https://blog.csdn.net/danssion/article/details/38981775

版权

本文探讨了Hadoop HDFS中DataNode的数据存储路径策略，特别是针对不同存储路径如current、tmp和rbw的管理。文章指出，早期通过配置存储策略可解决磁盘容量不均衡问题，并详细解析了BlockPoolSlice、VolumeChoosingPolicy等关键类的源码，揭示了DN如何选择存储路径。

摘要由CSDN通过智能技术生成

产生问题于数据集群的数节点存储磁盘大小不同，造成使用一段时间以后容量小的磁盘空间紧张。

其实，早期配置了磁盘使用存储策略，就能解决该问题，部分网来上说这个策略无效，再hadoop2.0.1 本版有效，该版本应用于CHD4.6中。

为了找到准确的程序定位点，参考了以下的Hadoop设计文档。

参考

Hadoop中HDFS文件系统的Append/Hflush/Read设计文档：

http://blog.csdn.net/chenpingbupt/article/details/7972589

文档中给出：

在一个DN的disk中，每个DN具有三个目录:current\tem\rbw，current包含finallized的replica，tmp包含temporary replica，rbw包含rbw，rwr，rur replicas。当一个replica第一次被dfs client发起请求而创建的时候，将会放到rbw中。当第一次创建是在block replication和clust balance过程中发起的话，replica就会放置到tmp中。一旦一个replica被finallized，他就会被move到current中。当一个DN重启之后，tmp中的replica将会被删除，rbw中的将会被加载为rwr状态，current中的会load为finallized状态

我们就从tmp 或 rbw 文件创建开始。

1.参见java class BlockPoolSlice

/**
 * A block pool slice represents a portion of a block pool stored on a volume.  
 * Taken together, all BlockPoolSlices sharing a block pool ID across a 
 * cluster represent a single block pool.
 * 
 * This class is synchronized by {@link FsVolumeImpl}.
 */
class BlockPoolSlice {
  private final String bpid;
  private final FsVolumeImpl volume; // volume to which this BlockPool belongs to
  private final File currentDir; // StorageDirectory/current/bpid/current
  private final LDir finalizedDir; // directory store Finalized replica
  private final File rbwDir; // directory store RBW replica
  private final File tmpDir; // directory store Temporary replica

从类的描述中看出BlockPoolSlice 是创建集群数据block的基础。

/**
   * Temporary files. They get moved to the finalized block directory when
   * the block is finalized.
   */
  File createTmpFile(Block b) throws IOException {
    File f = new File(tmpDir, b.getBlockName());
    return DatanodeUtil.createTmpFile(b, f);
  }

  /**
   * RBW files. They get moved to the finalized block directory when
   * the block is finalized.
   */
  File createRbwFile(Block b) throws IOException {
    File f = new File(rbwDir, b.getBlockName());
    return DatanodeUtil.createTmpFile(b, f);
  }

这是创建基础文件的方法。

2.该方法的实现

/** Provide utility methods for Datanode. */
@InterfaceAudience.Private
public class DatanodeUtil {
  public static final String UNLINK_BLOCK_SUFFIX = ".unlinked";

  public static final String DISK_ERROR = "Possible disk error: ";

  /** Get the cause of an I/O exception if caused by a possible disk error
   * @param ioe an I/O exception
   * @return cause if the I/O exception is caused by a possible disk error;
   *         null otherwise.
   */ 
  static IOException getCauseIfDiskError(IOException ioe) {
    if (ioe.getMessage()!=null