hadoop的常用命令指南

1.start-all.sh开启线程

hadoop fs -ls hdfs://cloud4:9000/user (cloud4表示主机名9000代表端口号/就代表根目录/user就是user文件夹)

hadoop fs -ls /user(hdfs://cloud4:9000可省略)

2. -ls/-lsr 查看目录下的文件信息

hadoop fs -ls /查看根目录下文件与文件夹

hadoop fs -lsr /递归查看根目录下所有文件与文件夹

hadoop fs -ls默认查看hdfs下的/user/例如：/user/root (很方便的)

3. –touchz 创建文件

可以创建一个文件

hadoop fs -touchz /hello (创建一个hello文件)

4. –mkdir 创建文件夹

(linux中创建多级目录mkdir –p p表示parents)

可以创建一个或者多个文件夹(hadoop则不需要-p)

hadoop fs -mkdir /user (创建一个user文件夹)

5. -text/-cat查看文件内容

hadoop fs -text /hello

hadoop fs -cat /hello

6. -mv 移动/重命名

该命令选项表示移动hdfs的文件到指定的hdfs目录中。后面跟两个路径，第一个表示源文件，第二个表示目的目录

hadoop fs -mv /hello /user(文件到文件夹：是移动)

hadoop fs -mv /hello /user/hello(文件到文件：是重命名)

7. -cp 复制

该命令选项表示复制hdfs指定的文件到指定的hdfs目录中。后面跟两个路径，第

一个是被复制的文件，第二个是目的地

hadoop fs -cp /user/hello /user/root

8. -rm/-rmr 删除文件

-rm:删除文件/空白文件夹

该命令选项表示删除指定的文件或者空目录

hadoop fs -rm /user/hello

-rmr:递归删除

该命令选项表示递归删除指定目录下的所有子目录和文件

hadoop fs -rm /user

9. -put 上传文件

该命令选项表示把linux上的文件复制到hdfs中

hadoop fs -put hadoop-env.sh /user

将当前linux目录下的hadoop-env.sh文件，上传到/user(hdfs服务器上的user目录下)

hadoop fs -put hadoop-env.sh /你叫起的名字(hello—文件名)

例如：hadoop fs -put hadoop-env.sh /hello

10.-copyFromLocal 从本地复制

用法与-put一样

hadoop fs -copyFromLocal hadoop-env.sh /user

11 -moveFromLocal从本地移动

该命令表示把文件从linux上移动到hdfs中

hadoop fs -moveFromLocal /home/repine/hehe.txt /user

12. -getmerge 合并下载到本地

该命令选项的含义是把hdfs指定目录下的所有文件内容合并到本地linux的文件中

hadoop fs -getmerge /user /home/repine/abc.txt表示把user目录下所有文件内容复制到linux下/home/repine/abc.txt中

13. -setrep/-setrep -R/-setrep -R -w 设置副本数量

该命令选项是修改已保存文件的副本数量，后面跟副本数量，再跟文件路径

hadoop fs -setrep 2 /user/hehe.txt设置/user/hehe.txt副本数量为2

如果最后的路径表示文件夹，那么需要跟选项-R，表示对文件夹中的所有文件都修改副本

hadoop fs -setrep -R 2 /user设置/user下所有文件(不是文件夹)的副本数量为2

还有一个选项是-w，表示等待副本操作结束才退出命令

hadoop fs -setrep -R -w 1 /user/hehe.txt

14. -du统计目录下个文件大小

hadoop fs -du /查看根目录下的各个文件的大小

hadoop fs -dus /汇总统计目录下所有文件的总大小(也就是当前文件夹的大小)

15.-count统计文件(夹)数量

hadoop fs -count /usr递归统计当前文件下的所有信息：数字代表(文件夹总数量、文件总数量、文件总大小信息)

hadoop fs -lsr /usr验证信息

16. –chmod/-chmod -R 修改文件权限

该命令选项的使用类似于linux的shell中的chmod用法，作用是修改文件的权限

hadoop fs - chmod 777 /user/hehe.txt修改该文件的权限

如果加上选项-R，可以对文件夹中的所有文件修改权限

hadoop fs – chmod -R 777 /user修改该文件夹下所有文件的权限

17. hadoop jar 导jar在命令行运行

//打包运行程序必备宝典

job.setJarByClass(WordCountApp.class);

在linux下 ：

hadoop jar /linux下路径/XXX.jar /hadoop执行jar的文件或者文件夹/hadoop下存放目录

18、报告HDFS的基本统计信息

bin/hadoop dfsadmin -report

19、安全模式

bin/hadoop dfsadmin -safemode leave/enter/get/wait

20、将HDFS中的文件复制到本地系统中

bin/hadoop dfs -get in getin

将HDFS中的in文件复制到本地系统并命名为getin