Cloudera Manager 介绍
Cloudera Manager可以轻松管理任何生产规模的Hadoop部署。通过直观的用户界面快速部署,配置和监控群集 - 完成滚动升级,备份和灾难恢复以及可定制警报。 Cloudera Manager作为Cloudera Enterprise的集成和支持部分提供。
如下所示,Cloudera Manager的核心是Cloudera Manager Server。服务器托管管理控制台Web服务器和应用程序逻辑,负责安装软件,配置,启动和停止服务以及管理运行服务的集群。
Cloudera Manager Server与其他几个组件一起工作:
- agent - 安装在每台主机上。代理负责启动和停止进程,解包配置,触发安装和监视主机。
- 管理服务 - 由一组执行各种监视,警报和报告功能的角色组成的服务。
- 数据库 - 存储配置和监视信息。通常,多个逻辑数据库在一个或多个数据库服务器上运行。例如,Cloudera Manager Server和监视角色使用不同的逻辑数据库。
- Cloudera存储库 - 由Cloudera Manager分发的软件存储库。
- 客户端 - 是与服务器交互的接口:
- 管理控制台 - 管理员用于管理集群和Cloudera Manager的基于Web的用户界面。
- API - 与开发人员创建自定义Cloudera Manager应用程序的API。
Cloudera Manager安装和CDH
系统环境:CentOS6.5
软件环境:Oracle JDK、Cloudera Manager Server 和 Agent 、数据库、CDH各组件
Cloudera安装步骤
参考:https://www.cloudera.com/documentation/enterprise/latest/topics/installation_installation.html
- 阶段1:系统前期准备阶段
# 关闭iptables、禁用selinux
/etc/init.d/iptables stop && chkconfig iptables off
sed -i 's/SELINUX=enforcing/SELINUX=disabled/g' /etc/selinux/config && setenforce 0
#sestatus -vSELinux status: disabled表示已经关闭了
# hostname修改:分别对三台都进行更改,并且注意每台名称和ip,每台都要配上hosts
[root@node1~]# vi /etc/sysconfig/network
NETWORKING=yes
HOSTNAME=node1
# vi /etc/hosts
172.16.14.220 cdh.master.aniu.so master
172.16.14.221 cdh.node1.aniu.so node1
172.16.14.222 cdh.node2.aniu.so node2
172.16.14.223 cdh.node3.aniu.so node3
## 注:在每台服务器配置hosts,master和node1/2/3代表服务器的主机名
# 设置swap参数
echo never > /sys/kernel/mm/transparent_hugepage/defrag #建议写到开启启动新里
sysctl -w vm.swappiness=0 # 建议写进sysctl.conf
# 设置ntp同步服务器时间
*/2 * * * * /usr/sbin/ntpdate 0.cn.pool.ntp.org >> /dev/null 2>&1
# NTP服务器设置(用于不同节点间实现时间同步)
所有节点配置NTP服务,集群中所有主机必须保持时间同步,如果时间相差较大会引起各种问题。 具体思路如下:
master节点作为ntp服务器与外界对时中心同步时间,随后对所有datanode节点提供时间同步服务。
所有datanode节点以master节点为基础同步时间。
# NTP服务的安装和配置
#yum -y install ntp
更改master的节点
## vi /etc/ntp.conf
注释掉所有server *.*.*的指向,新添加一条可连接的ntp服务器(百度一下ntp服务器,我选的是上海交大的)
server ntp.sjtu.edu.cn iburst
在其他节点上把ntp指向master服务器地址即可(/etc/ntp.conf下)
server