hadoop常用命令

在学习使用hadoop、运行MapReduce程序时常常会用到一些hadoop命令,于是就把用过的命令记录下来,以便以后查看复习(持续更新中……)

1.查看hadoop版本:hadoop version
2.查看HDFS系统上的文件:hdfs dfs -ls [文件目录]  
3.hadoop上运行.jar程序(如:WordCount):
(1)在集群上创建输入文件夹,这里在lh目录下创建:
hadoop fs -mkdir lh/input 
(2)上传本地目录input下输入文件(file01和file02)到集群的lh/input目录下:
hadoop fs -put input/file0* lh/input 
(3)运行程序
可直接输入命令:hadoop jar cas.jar test.WordCount lh/input lh/ouput
也可将命令存入.sh文件运行.sh文件

4.编码格式设置:export LANG=zh_CN.GB18030
5.输出重定向(将指定文件内容显示在控制台并将文件中的内容存入指定文件:hadoop fs -text [显示文件内容的文件目录] >[输出文件的目录]
6.显示指定文件大小:hadoop fs -text [文件路径] |wc -l

7.获取文件到指定目录下:

(1)将文件获取到当前目录下:hadoop fs -get [需获取文件路径] .

(2)将文件获取到指定目录下:hadoop fs -get [需获取文件路径] [文件目标路径]

(3)将文件获取到指定目录下,并将获取的文件合并为一个文件:hadoop fs -getmerge [需获取文件路径]  [文件目标路径]+[文件名]

如命令:hadoop fs -getmerge temp  temp/result,将hadoop服务器temp目录下的所有文件获取到当前目录的temp目录下,并命名为result。

8.查看历史命令:history

9.显示指定文件中所有包含“hadoop”的信息:hadoop fs -text [文件路径] |grep 'hadoop'

10.查看job信息:hadoop job -list

11.杀掉指定job:hadoop job -kill [job_id]

12.查看hadoop空间:df -h

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值