hadoop操作配置格式化等

1 用ant jar命令重新编译了hadoop源码之后会生成build文件夹,hadoop重新启动的时候主节点namenode进程会根据build中的版本启动
导致从节点的datanode进程与主节点的版本不一致
2 必须关闭了hadoop集群再格式化主节点,否则会报错,dfs-name已经被锁定,无法再次锁定
3 格式化的时候,如果secondary与namenode在一台机器上,要备份一下secondary的数据,否则会被一起格式化没了
4 hadoop.tmp.dir可以看做是一个父亲目录,其他的很多目录默认会存放在此目录下
比如fs.checkpoint.dir(镜像存储目录,默认在{hadoop.tmp.dir}/dfs/namesecondary),以及dfs.name.dir,dfs.data.dir
5 centos上当前目录的数据发生变化的时候,文件清除了再重新写到该目录的时候,不会立马显示出来,需要回退到其它目录再进来,才能够看到
新进来的文件,但是删除之后会立马显示出来。
6 namenode和secondary分离的话,要修改hdfs-site.xml
增加:
dfs.http.address  namenodeIP:50070
dfs.secondary.http.address secondnamenodeIP:50090
7将hadoop指定目录下所有内容保存为一个文件,同时down至本地
hadoop dfs –getmerge 源文件目录  本地目录
8 将正在运行的hadoop作业kill掉
hadoop job –kill  [job-id]
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值