部分常用操作hadoop的shell命令

  • 查询分布式文件系统根目录hadoop fs -ls hdfs://ip:9000/
  • 若已在配置文件中默认为hdfs,上一条还可写为hadoop fs -ls /
  • 查询本地文件系统根目录hadoop fs file:///
  • 查询hadoop fs -ls [-h] [-R] 具体文件路径
    [-h] 表示显示文件时文件大小会带上具体单位,比如kb。
    [-R] 表示递归显示,比如文件夹中还有文件夹,也会显示。
  • 在hdfs上创建目录hadoop fs -mkdir [-p] 路径
    [-p] 表示如果路径中没有某个文件夹就会自动创建。
    例:hadoop fs -mkdir -p /user/hadoop/1.txt
  • 把linux系统上的本地文件上传到hdfshadoop fs -put [-f] 本地linux文件路径 hdfs文件路径
    [-f] 若目的路径存在同样文件,则覆盖,否则出错。
    例:hadoop fs -put -f file1 file2 /user(把file1,file2上传到hdfs系统上的/user下)
  • 从hdfs系统上下载文件到本地linux文件系统:hadoop fs -get [-f] hdfs上的文件 本地目录
  • 把本地linux系统文件内容追加到hdfs上的文件后面hadoop fs -appendToFile 本地文件 hdfs文件
  • 查看文件hadoop fs -cat 文件
  • 查看文件最后一千个字节:hadoop fs -tail 文件
  • 改变一个文件的副本系数: 例如:hadoop fs -setrep -w 3 -R /user/dir表示把dir文件以及dir目录以下的文件的副本数改为3
  • 其他:与linux类似,只需在前面加hadoop fs,如:hadoop fs -cp ,-mv, -rm …。
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Hadoop提供了一些常用Shell命令用于管理和操作Hadoop集群。以下是一些常见的Hadoop Shell命令: 1. Hadoop文件系统相关命令: - `hadoop fs -ls <path>`:列出给定路径下的文件和目录。 - `hadoop fs -mkdir <path>`:创建一个新目录。 - `hadoop fs -copyFromLocal <localsrc> <dst>`:将本地文件或目录复制到Hadoop文件系统中的指定目标路径。 - `hadoop fs -copyToLocal <src> <localdst>`:将Hadoop文件系统中的文件或目录复制到本地目标路径。 - `hadoop fs -rm <path>`:删除指定路径的文件或目录。 - `hadoop fs -cat <path>`:显示文件的内容。 - `hadoop fs -get <src> <localdst>`:从Hadoop文件系统中复制文件或目录到本地路径。 - `hadoop fs -put <localsrc> <dst>`:从本地路径复制文件或目录到Hadoop文件系统中。 2. Hadoop作业相关命令: - `hadoop jar <jar> <class>`:运行一个Hadoop作业。 - `hadoop job -list`:列出当前运行的所有Hadoop作业。 - `hadoop job -kill <job-id>`:终止指定的Hadoop作业。 - `hadoop job -status <job-id>`:获取指定Hadoop作业的状态。 - `hadoop job -kill-task <task-id>`:终止指定的Hadoop任务。 - `hadoop job -list-attempt-ids <job-id> <task-id> <type>`:列出指定作业和任务的尝试ID。 3. Hadoop集群管理命令: - `start-all.sh`:启动Hadoop集群中的所有守护进程。 - `stop-all.sh`:停止Hadoop集群中的所有守护进程。 - `hadoop dfsadmin -report`:显示Hadoop集群的文件系统报告。 - `hadoop dfsadmin -safemode [enter|leave|get|wait]`:进入、离开、获取或等待Hadoop安全模式。 以上只是一些常用Hadoop Shell命令,更多命令请参考Hadoop文档。如果您有任何其他问题,欢迎继续提问!
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值