hadoop配置集群常见问题

在配置Hadoop集群时,可能会遇到多种问题,包括防火墙未关闭、主机名和IP配置错误、SSH未配置、用户权限不一致、配置文件修改不当等。此外,datanode与namenode的身份标识匹配问题、主机名不识别、进程冲突以及命令行中的特殊字符错误也是常见困扰。解决这些问题的方法包括调整防火墙设置、正确配置主机名和IP、确保SSH互通、统一启动用户、细心检查配置文件,以及正确处理datanode和namenode的身份问题。
摘要由CSDN通过智能技术生成

1)防火墙没关闭、或者没有启动 yarn

INFO client.RMProxy: Connecting to ResourceManager at hadoop108/192.168.10.108:8032

2)主机名称配置错误

3)ip 地址配置错误

4)ssh 没有配置好

5)root 用户和 hadoop 两个用户启动集群不统一

6)配置文件修改不细心

7)未编译源码

Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 17/05/22 15:38:58 INFO client.RMProxy: Connecting to ResourceManager at hadoop108/192.168.10.108:8032

8)datanode 不被 namenode 识别问题
    Namenode 在 format 初始化的时候会形成两个标识,blockPoolId 和 clusterId。新的datanode 加入时,会获取这两个标识作为自己工作目录中的标识。一旦 namenode 重新 format 后,namenode 的身份标识已变,而 datanode 如果依然持有原来的 id,就不会被 namenode 识别。
    解决办法,删除 datanode 节点中的数据后,再次重新格式化 namenode。

9)不识别主机名称

java.net.UnknownHostException: node1: node1
 at java.net.InetAddress.getLocalHost(I
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值