hadoop常用管理命令

hadoop shell 命令 doc
hadoop命令手册:
http://hadoop.apache.org/docs/r1.0.4/cn/commands_manual.html
hdfs操作命令:
http://hadoop.apache.org/docs/r1.0.4/cn/hdfs_shell.html

1、所有命令(HADOOP_HOME/bin下)

bin/hadoop
bin/hdfs
bin/mapred
bin/yarn
bin/container-executor
bin/test-container-executor

2、 bin/hadoop

bin/hadoop checknative
——检查hadoop系统\压缩工具等的本地库(native库)是否已经加载,如果没有加载则需要在hadoop.env中配置HADOOP_OPTS=”-Djava.library.path=${HADOOP_HOME}/lib/native”

bin/hadoop fs —— 文件系统管理 共26个
http://hadoop.apache.org/docs/r1.0.4/cn/hdfs_shell.html

* cat  chgrp  chmod   chown  copyFromLocal   copyToLocal  cp  7
* du  dus  expunge get   getmerge ls  lsr  mkdir  movefromLocal  mv  put  rm  rmr  13 
* setrep  stat  tail  test  text  touchz   6
bin/hdfs

bin/hdfs haadmin —— HA管理工具
(注意以下命令中的参数serviceId不是主机名hostname,而是配置在hdfs-site.xml中的两个namenode的名字,如nn1,nn2)
-failover [–forcefence] [–forceactive] 手动切换Active NN,将Active NN从ServiceId1切换到ServiceId2
-getServiceState 查看指定的ServiceId的状态是Active 还是StandBy
-transitionToActive 将指定的ServiceId转变为Active的。transition:过渡、变迁、转变
-transitionToStandBy

其它:在HDFS启用前,用两个不同的命令对两个NameNode进行初始化(一个是格式化、一个是进行元数据的同步)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Hadoop_hbase 1.处理hadoop的datanode宕机 cd path/to/hadoop 走到hadoop的bin目录 ./hadoop-daemon.sh start datanode ./hadoop-daemon.sh start tasktracker 2.处理hadoop的namenode宕机 ./hadoop-daemon.sh start namenode ./hadoop-daemon.sh start tasktracker 3.如果是新添加一个节点,需要执行以下步骤: 首先,把新节点的 IP或主机名 加入主节点(master)的 conf/slaves 文件。 然后登录新的从节点,执行以下命令: $ cd path/to/hadoop $ bin/hadoop-daemon.sh start datanode $ bin/hadoop-daemon.sh start tasktracker 然后就可以在master机器上运行balancer,执行负载均衡 $bin/hadoop balancer 4.处理hbase的regionserver宕机的办法 ./hbase-daemon.sh start regionserver ./hbase-deamon.sh start zookeeper//只针对有zookeeper的regionserver而且是机子需要重启的情况 5.处理hbase的master宕机的办法 ./hbase-daemon.sh start master ./hbase-daemon.sh start zookeeper//可选 6.完全重启整个集群的过程 首先是用root权限关闭所有节点的防火墙,/etc/init.d/iptables stop 然后启动hadoop集群 来到hadoop的安装路径执行: ./start-all.sh 待到集群全部成功启动之后两分钟之后执行关闭hadoop文件系统的安全模式, ./hadoop dfsadmin -safemode leave 对于hadoop文件系统安全模式的解释,如下 NameNode在启动的时候首先进入安全模式,如果datanode丢失的block达到一定的比例(1- dfs.safemode.threshold.pct),则系统会一直处于安全模式状态即只读状态。 dfs.safemode.threshold.pct(缺省值0.999f)表示HDFS启动的时候,如果DataNode上报的block个数达到了 元数据记录的block个数的0.999倍才可以离开安全模式,否则一直是这种只读模式。如果设为1则HDFS永远是处于SafeMode。 有两个方法离开这种安全模式 (1)修改dfs.safemode.threshold.pct为一个比较小的值,缺省是0.999。 (2)hadoop dfsadmin -safemode leave命令强制离开 用户可以通过dfsadmin -safemode $value来操作安全模式,参数$value的说明如下: enter – 进入安全模式 leave – 强制NameNode离开安全模式 get – 返回安全模式是否开启的信息 wait – 等待,一直到安全模式结束。 //因为我们后面要用到
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值