分布式文件系统—HDFS—shell命令

常用命令参数介绍：

-help：输出这个命令参数手册

[hadoop@hadoop02 ~]$ hadoop -help
[hadoop@hadoop02 ~]$ hadoop fs -help
[hadoop@hadoop02 ~]$ hadoop fs -help ls

-ls：显示目录信息

hadoop fs -ls hdfs://hadoop02:9000/

备注：这些参数中，所有的 hdfs 路径都可以简写成 hadoop fs -ls / 等同上条命令的效果

-mkdir：在 hdfs 上创建目录

hadoop fs -mkdir -p /aa/bb/cc/dd

-put：等同于 copyFromLocal，进行文件上传

hadoop fs -put /aaa/jdk.tar.gz /bbb/jdk.tar.gz.2

-get：等同于 copyToLocal，就是从 hdfs 下载文件到本地

hadoop fs -get /aaa/jdk.tar.gz

-getmerge：合并下载多个文件
示例：getmerge hdfs 的目录 /aaa/下有多个文件:log.1, log.2,log.3,...

hadoop fs -getmerge /aaa/log.* ./log.sum

-cp ：从 hdfs 的一个路径拷贝 hdfs 的另一个路径

hadoop fs -cp /aaa/jdk.tar.gz /bbb/jdk.tar.gz.2

-mv ：在 hdfs 目录中移动文件

hadoop fs -mv /aaa/jdk.tar.gz /

-rm ：删除文件或文件夹

hadoop fs -rm -r /aaa/bbb/

-rmdir：删除空目录

hadoop fs -rmdir /aaa/bbb/ccc

-moveFromLocal：从本地剪切到 hdfs

hadoop fs - moveFromLocal /home/hadoop/a.txt /aa/bb/cc/dd

-moveToLocal：从 hdfs 剪切到本地

hadoop fs - moveToLocal /aa/bb/cc/dd /home/hadoop/a.txt

-copyFromLocal：从本地文件系统中拷贝文件到 hdfs 文件系统去

hadoop fs -copyFromLocal ./jdk.tar.gz /aaa/

-copyToLocal：从 hdfs 拷贝到本地

hadoop fs -copyToLocal /aaa/jdk.tar.gz

-appendToFile：追加一个文件到已经存在的文件末尾

hadoop fs -appendToFile ./hello.txt hdfs://hadoop-server01:9000/hello.txt
# 可以简写为：
hadoop fs -appendToFile ./hello.txt /hello.txt

-cat：显示文件内容

hadoop fs -cat /hello.txt

-tail：显示一个文件的末尾

hadoop fs -tail /weblog/access_log.1

-text ：以字符形式打印一个文件的内容

hadoop fs -text /weblog/access_log.1

-chgrp、-chmod、-chown：linux 文件系统中的用法一样，对文件所属权限

hadoop fs -chmod 666 /hello.txt
hadoop fs -chown someuser:somegrp /hello.txt

-df：统计文件系统的可用空间信息

hadoop fs -df -h /

-du：统计文件夹的大小信息

hadoop fs -du -s -h /aaa/*

-count：统计一个指定目录下的文件节点数量

hadoop fs -count /aaa/

-setrep：设置 hdfs 中文件的副本数量
 

hadoop fs -setrep 3 /aaa/jdk.tar.gz

补充：查看 dfs 集群工作状态的命令

hdfs dfsadmin -report