Hadoop完全分布式集群搭建遇到的一些问题

使用了3台在不同地区的服务器搭建集群,导致master机器的namenode无法启动的问题

最开始遇到这个问题的时候,在master主机上使用jps命令发现master的namenode没有启动抵赖。于是我去看日志,发现报了一个BindException的错误。然后通过google先把/etc/hosts文件里面的ip映射改了一下,最开始是

外网ip master

这种方式配置的hosts。

我改为了127.0.0.1 master,然后启动,发现namenode能正常启动了,但是去slave机器看的时候,发现slave机器的DateNode无法与master的NameNode通信。最后又去找了下资料,然后把hosts配置中的127.0.0.1 master改为了master主机的内网IP master, 最后再启动发现slave的datanode能正常连接master的NameNode了。

启动yarn报错Unresolved address

在使用start-all.sh启动完毕集群后,去访问8088yarn管理页面的时候,无法访问,然后查看yarn resourcemanager的日志时发现这个报错:

这个错显然是resourcemanager的主机名配置错了,查看hosts文件:

然后把yarn-site.xml的配置改过来,改成chinamaster:

然后集群中的所有yarn-site.xml配置文件都要改过来。

slave机器无法启动resourcemanager问题,报错All specified directories have failed to load.


原因是slave节点的current/VERSION文件中的clusterID与master节点的clusterID不一致导致的,只需要删除每个节点中的current文件夹重新启动hadoop即可。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

oqsszuser123456789n

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值