配置hadoop集群常见问题和概念联系

1)防火墙没关闭、或者没有启动yarn(如果namenode和yarn的resourcemanager在同一台服务器上,就只需要配置该台服务器的ssh,然后把公钥分发到其他节点,如果namenode和resourcemanager在不同服务器上,那么这两台服务器都必须配置ssh,把各自的公钥分发到其他节点,使用ssh-copy-id ip或者hostname(做了hosts映射才能用))
2)主机名称配置错误
3)ip地址配置错误
4)ssh没有配置好(很容易犯,如果没有配置好,比如有的节点没有配置ssh,集群启动的时候就会卡在某一个位置,不动,卡的位置可能就是节点未配置ssh原因
5)root用户和atguigu两个用户启动集群不统一
6)配置文件修改不细心
7)未编译源码
8)datanode不被namenode识别问题(参考:https://blog.csdn.net/yhblog/article/details/83987241 中的问题2
9)个人学习过程中,如果集群因配置问题崩掉,1.启动集群前先清除以前错误数据目录和日志目录,再格式化namenode(开发过程中不能随便格式化namenode),清除各个节点上的错误数据可以使用xcall分发命令,如:
xcall rm -rf /opt/module/hadoop-2.7.2/data/ /opt/module/hadoop-2.7.2/logs/
10)namenode配置好了集群文件后可以通过xsync同步到其他节点(namenode配置mapred-site.xml时,应先把mapred-site.xml.template使用mv命令改成mapred-site.xml。使用mv mapred-site.xml.template mapred-site.xml),然后分发到其他节点,此时其他节点里面会有mapred-site.xml文件,而mapred-site.xml.template还在,可以不管,因为HDFS系统
默认先找mapred-site.xml文件
11)slaves本意是苦工,机的意思,意译为节点的意思,里面配置的主机名所在的服务器会产生datanode,意思为那台服务器有datanode是由该配置文件决定的。
12)nodemanager由datanode决定,哪台服务器有datanode,集群启动后,改服务器就会产生nodemanager,用于管理datanode,再与resourcemanager进行通讯,从而达到资源调度。

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

yhblog

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值