配置user_使用Cloudera的CDH部署Hadoop:集群配置及管理

导读

安装完Hadoop集群才是第一步,配置和管理集群也将是我们面临的挑战。大数据平台涉及的组件多,加之,当数据量由少量变为海量时,一些在通常情况下不会出现的问题也会暴露出来,这就要求我们多多专研集群配置及管理经验,并及时地将这些经验加以总结归纳并记录下来。下面列举了几个笔者在实践中总结的经验,希望对大家有帮助

1 zookeeper无法启动

更改存储数据的文件夹后,发现没法启动,例如:默认的配置文件夹是/var/lib/zookeeper

当配置变为:

/home/var/lib/zookeeper

由于version-2文件夹不存在,解决的办法是:

第一种:手动创建version-2并分配用户和组。

第二种:修改配置

aa104e16ba56a33bbef2f15cbb5b01de.png

可以设置完以后将其取消,在重启。

2 NameNode is not formatted

HDFS更改数据存储目录后有可能报错NameNode is not formatted,解决的办法是:

找到NameNode配置页

a7146ec43e8871b60a74098a1250d3ca.png

点击操作,选择格式化:

9625a305fead747ac2893cd14e4b46de.png

3更改目录Spark History Server无法启动:

报错:/home/user/spark/applicationHistory目录不存在。

解决办法:创建。

先看看根目录下的内容:hadoop fs -ls /

6fd0a0e996ecdf610d0a2d9757c13de2.png

创建一堆目录:

sudo -u hdfs hadoop fs -mkdir /home/user

sudo -u hdfs hadoop fs -mkdir /home/user/spark

sudo -u hdfs hadoop fs -mkdir /home/user/spark/applicationHistory

sudo -u hdfs hadoop fs -chown -R spark:spark /home/user/spark/applicationHistory

4 hue hdfs /user/admin 不存在

更改配置后会报这种错误,创建这个目录即可。

5 找不到mapreduce框架

提交MapReduce任务报错:

Exception in thread "main" java.io.FileNotFoundException: File does not exist: hdfs://bg85.cnki.com:8020/user/yarn/mapreduce/mr-framework/3.0.0-cdh6.0.0-mr-framework.tar.gz

解决办法:

进入Yarn服务器,安装jar

da483223f7dfca071413e7fac5000f0b.png

6 hue提交任务报错:Could not locate Oozie sharelib

点击安装共享库即可。

dff1099296e6e07e26d7902f8eb82010.png

7 solr启动报错:

Failed to configure urlScheme property for Solr cluster in Zookeeper

解决办法:

根据情况,点击红框中的按钮,即可解决问题。

2ba8d064b62023af5c0d0449aabd14d2.png
  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值