离线CDH集群搭建

写最前面

CM、CDH版本：5.9.1
主机情况：阿里云ecs.s6-c1m2.xlarge，4核8G 2M带宽
系统：Centos 7.5。

一、准备工作：系统环境搭建

以下操作均使用root用户操作。

1.1 网络配置(所有节点)

• 不重启服务器的情况下修改主机名

vi /etc/sysconfig/network #修改内容：
NETWORKING=yes
HOSTNAME=c1
service NetworkManager restart #重启网络服务生效主机名修改。

• 增加ip与主机名的映射关系

vi /etc/hosts 
xxx.xxx.xxx.xxx  c1
xxx.xxx.xxx.xxx  c2
xxx.xxx.xxx.xxx  c3
#这里需要将每台机器的ip及主机名对应关系都写进去，本机的也要写进去，否则启动cdh Agent的时候会提示hostname解析错误。

1.2 打通SSH，设置ssh无密码登陆（所有节点）

传送门：linux服务器ssh免密步骤

1.3 安装Oracle的JDK（所有节点）

CentOS，自带OpenJdk，不过运行CDH5需要使用Oracle的Jdk，需要Java 7及以上的支持。

• 卸载自带的OpenJdk
  使用rpm -qa | grep java查询java相关的包，再用rpm -e --nodeps +包名卸载。
• 去Oracle的官网下载jdk的rpm安装包，并使用rpm -ivh+包名安装之。
  由于是rpm包并不需要我们来配置环境变量，我们只需要配置一个全局的JAVA_HOME变量即可，执行命令：echo “JAVA_HOME=/usr/java/latest/” >> /etc/environment （必须执行）
• 如果不是使用rpm安装，需配置java环境变量：

vi /etc/peofile
export JAVA_HOME=/opt/java
export PATH=$PATH:$JAVA_HOME/bin
source /etc/profile #每次修改环境变量后使得立即生效

1.4 安装配置MySql（主节点）

传送门:linux安装MySql并初始化配置

#授权root用户在所有节点拥有所有数据库的访问权限（这里根据实际需要配置）
grant all privileges on *.* to 'root'@'%' identified by '密码' with grant option;
flush privileges;

1.5 关闭防火墙和selinux（ecs下跳过这步）

#需要在所有的节点上执行，因为涉及到的端口太多了，临时关闭防火墙是为了安装起来更方便，安装完毕后可以根据需要设置防火墙策略，保证集群安全。
- 关闭防火墙：
systemctl stop firewall （临时关闭）  
systemctl disable firewall （重启后生效）
- 关闭selinux
setenforce 0 （临时生效）  
修改 /etc/selinux/config 下的 SELINUX=disabled （重启后永久生效）

1.6 所有节点配置NTP服务（ecs下跳过这步）

集群中所有主机必须保持时间同步，如果时间相差较大会引起各种问题。 具体思路如下：master节点作为ntp服务器与外界对时中心同步时间，随后对所有datanode节点提供时间同步服务。所有datanode节点以master节点为基础同步时间。

#所有节点安装相关组件：
yum install ntp -y
#完成后，配置开机启动：
systemctl enable ntpd

1.6.1 主节点配置ntp server

在配置之前，先使用ntpdate手动同步一下时间，免得本机与对时中心时间差距太大，使得ntpd不能正常同步。

ntpdate -u 65.55.56.206  #这里选用65.55.56.206作为对时中心,

ntp服务只有一个配置文件 /etc/ntp.conf。

#这里只给出有用的配置
driftfile /var/lib/ntp/drift
restrict 127.0.0.1
restrict -6 ::1
restrict default nomodify notrap 
server 65.55.56.206 prefer
includefile /etc/ntp/crypto/pw
keys /etc/ntp/keys

#使用命令查看同步状态
ntpstat 
#出现以下状态代表启动成功：
synchronised to NTP server () at stratum 2
time correct to within 74 ms
polling server every 128 s
#如果出现异常请等待几分钟，一般等待5-10分钟才能同步。

1.6.2 配置ntp客户端（所有datanode节点）

driftfile /var/lib/ntp/drift
restrict 127.0.0.1
restrict -6 ::1
restrict default kod nomodify notrap nopeer noquery
restrict -6 default kod nomodify notrap nopeer noquery
#这里是主节点的主机名或者ip
server n1
includefile /etc/ntp/crypto/pw
keys /etc/ntp/keys

#使用ntpdate手动同步一下时间
ntpdate -u n1 #(主节点ntp服务器)  
service ntpd restart

至此基本环境配置完成。

二、正式开工安装CM Server 和Agent

CM5下载
CDH5下载

2.1 主节点解压安装

cloudera manager的目录默认位置在/opt下，解压：
tar xzvf cloudera-manager*.tar.gz
将解压后的cm- 5.9.1和cloudera目录放到/opt目录下。

2.2 为Clouder 5建立数据库

• 进入mysql创建以下数据库：

#cm
create database cm DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
#hive
create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
#activity monitor
create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci; 
#oozie
create database oozie DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

• 下载JDBC驱动，

去MySql的官网http://dev.mysql.com/downloads/connector/j/，解压后，
找到mysql-connector-java-5.1.41-bin.jar，放到/opt/cm-5.9.1/share/cmf/lib/中。

• 初始化CM5的数据库：

sh /opt/cm-5.9.1/share/cmf/schema/scm_prepare_database.sh mysql cm root '密码'

2.3 同步Agent到其他节点

#配置修改/opt/cm-5.9.1/etc/cloudera-scm-agent/config.ini中的server_host为主节点的主机名。
scp -r /opt/cm-5.9.1 root@c1:/opt/
scp -r /opt/cm-5.9.1 root@c2:/opt/
#在所有节点创建cloudera-scm用户
useradd --system --home=/opt/cm-5.9.1/run/cloudera-scm-server/ --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

2.4 准备Parcels，用以安装CDH5

将CHD5相关的Parcel包放到主节点的/opt/cloudera/parcel-repo/目录中。
相关的文件如下：
CDH-5.9.1-1.cdh5.9.1.p0.4-el7.parcel
CDH-5.9.1-1.cdh5.9.1.p0.4-el7.parcel.sha1
manifest.json
最后将CDH-5.9.1-1.cdh5.9.1.p0.4-el7.parcel.sha1，重命名为CDH-5.9.1-1.cdh5.9.1.p0.4-el7.parcel.sha，这点必须注意，否则，系统会重新下载CDH-5.9.1-1.cdh5.9.1.p0.4-el7.parcel文件。

2.5 相关启动脚本

通过 /opt/cm-5.9.1/etc/init.d/cloudera-scm-server start 启动namenode节点的服务端。
通过 /opt/cm-5.9.1/etc/init.d/cloudera-scm-agent start 启动所有节点的Agent服务。
我们启动的其实是个service脚本，需要停止服务将以上的start参数改为stop就可以了，重启是restart。
启动后通过命令 lsof –i:7180监视端口的信息，如果该端口出现相应的内容，就可以可视化操作了。

三、CDH5的安装配置

3.1 可视化安装

通过浏览器访问主节点的7180端口登录（http://ip:7180/），默认的用户名和密码均为admin。

1）登录进去之后进行cdh的安装部署，选择部署免费的

2）各个Agent节点正常启动后，可以在当前管理的主机列表中看到对应的节点。选择要安装的节点，点继续。

3）接下来，出现以下包名，说明本地Parcel包配置无误，直接点继续就可以了。

如果配置本地Parcel包无误，那么下图中的已下载，应该是瞬间就完成了，然后就是耐心等待分配过程就行了，大约10多分钟吧，取决于内网网速。

4）接下来是服务器检查，可能会遇到一些异常信息：

警告一
通过在主节点执行命令：echo 0 > /proc/sys/vm/swappiness即可解决，然后点击该页上边的重新运行，即可发现消除异常信息。

警告二
已启用透明大页面压缩，可能会导致重大性能问题。请运行“echo never > /sys/kernel/mm/transparent_hugepage/defrag”以禁用此设置，
然后将同一命令添加到 /etc/rc.local 等初始脚本中，以便在系统重启时予以设置。
解决方法：
每台受影响的主机运行命令
echo never > /sys/kernel/mm/transparent_hugepage/defrag
并且
vim /etc/rc.local
加入echo never > /sys/kernel/mm/transparent_hugepage/defrag这条命令。

5）接下来是选择安装服务：

注意：后边的操作一般都是直接默认的操作即可。一般刚开始建议自定义安装，先安装HDFS以及yarn，一路操作下去即可安装成功。

注意：后续安装Hive的时候可能会报错，因为我们使用了MySql作为hive的元数据存储，hive默认没有带mysql的驱动，通过以下命令拷贝一个就行了：

cp  /opt/cm-5.9.1/share/cmf/lib/mysql-connector-java-5.1.41.jar  /opt/cloudera/parcels/CDH-5.9.1-1.cdh5.9.1.p0.4/lib/hive/lib/

3.2 群集设置

一般情况下保持默认就可以了（Cloudera Manager会根据机器的配置自动进行配置，如果需要特殊调整，自行进行设置就可以了）；
接下来是数据库的设置，检查通过后就可以进行下一步的操作了；

下面是集群设置的审查页面，可以都保持默认配置的；


服务的安装过程大约半小时内就可以完成；

3.3 主页

安装完成后，就可以进入集群界面看一下集群的当前状况了。
这里可能会出现无法发出查询：对 Service Monitor 的请求超时的错误提示，如果各个组件安装没有问题，一般是因为服务器比较卡导致的，过一会刷新一下页面就好了。

3.4 测试

在集群的一台机器上执行以下模拟Pi的示例程序：

sudo -u hdfs hadoop jar /opt/cloudera/parcels/CDH/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar pi 10 100

执行过程需要花一定的时间，通过YARN的后台也可以看到MapReduce的执行状态。