Cloudera Manager和CDH搭建相关事项

Cloudera Manager和CDH搭建可参考“https://blog.csdn.net/gtsina/article/details/78048925”这篇博客,亲测可以搭建成功。搭建过程遇到的一些问题及解决方案记录如下:

1、安装之前一定要配置ntpd服务器,不然会出现警告

解决方案:

如何安装ntpd服务器,请参考“https://blog.csdn.net/freedomboy319/article/details/46710255”。

2、设置root授权访问以上所有的数据库

解决方案:

#授权root用户在主节点拥有所有数据库的访问权限
grant all privileges on *.* to 'root'@'n1' identified by 'xxxx' with grant option;
flush privileges;

其中'xxxx'为mysql的密码

3、Cloudera 建议将 /proc/sys/vm/swappiness 设置为最大值 10。当前设置为 60。使用 sysctl 命令在运行时更改该设置并编辑 /etc/sysctl.conf,以在重启后保存该设置。您可以继续进行安装,但 Cloudera Manager 可能会报告您的主机由于交换而运行状况不良。以下主机将受到影响: 

解决方案:

在终端运行命令 “echo 0 > /proc/sys/vm/swappiness”即可解决。

4、已启用透明大页面压缩,可能会导致重大性能问题。请运行“echo never > /sys/kernel/mm/transparent_hugepage/defrag”和“echo never > /sys/kernel/mm/transparent_hugepage/enabled”以禁用此设置,然后将同一命令添加到 /etc/rc.local 等初始化脚本中,以便在系统重启时予以设置。以下主机将受到影响

解决方案:

运行“echo never > /sys/kernel/mm/transparent_hugepage/defrag”和“echo never > /sys/kernel/mm/transparent_hugepage/enabled”以禁用此设置,然后将同一命令添加到 /etc/rc.local 等初始化脚本中,以便在系统重启时予以设置。

5、在如下页面可能需要需要reports 、oozie 、hue数据库,不然不会出现“Successful ”

 解决方案:

           create database reports DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
           create database oozie DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
           create database hue DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

6、在安装hive和oozie的过程中,都需要Mysql的JDBC驱动。

解决方案:

Hive的拷贝位置为:# cp /opt/cm-5.4.7/share/cmf/lib/mysql-connector-java-5.1.33-bin.jar /opt/cloudera/parcels/CDH-5.4.7-1.cdh5.4.7.p0.3/lib/hive/lib/

Oozie的拷贝位置为:# cp /opt/cm-5.4.7/share/cmf/lib/mysql-connector-java-5.1.33-bin.jar /var/lib/oozie/

7、启动Spark-shell报错:1024MB+3..MB

解决方案:

Yarn修改参数配置:CM UI界面->YARN->配置->筛选器->类别->资源管理

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值