hadoop distcp 命令使用指导

1、概述

DistCp（distributed copy）是一款被用于大型集群间/集群内的复制工具。
它使用MapReduce来实现其分布，错误处理和恢复以及报告。
它将文件列表和目录扩展为map任务的输入，每个任务都将复制源文件列表中指定的一些文件的一个分区。

2、基本运用

DistCp最常见的调用是一个集群间拷贝：

bash$ hadoop distcp hdfs://nn1:8020/foo/bar \
hdfs://nn2:8020/bar/foo

这会将nn1上的/ foo / bar下的命名空间扩展为一个临时文件，将其内容在一组map任务之间进行分区，
并在每个NodeManager上启动一个从nn1到nn2的复制任务。

你也可以在命令行上指定多个源目录：

转载于:https://www.cnblogs.com/tijun/p/8662621.html