Cdh集群安装

cdh 简介

Cloudera’s Distribution, including Apache Hadoop是Hadoop众多分支中的一种，由Cloudera维护，基于稳定版本的Apache Hadoop构建，提供了Hadoop的核心（可扩展存储分布式计算）

cdh和Apache Hadoop比较

1. 源生Apache Hadoop 不足之处

• 版本管理混乱
• 部署过程繁琐、升级过程复杂
• 兼容性差
• 安全性低

2. cdh 优点

• 版本划分清晰
• 版本更新速度快
• 支持Kerberos安全认证
• 文档清晰
• 支持多种安装方式（Cloudera Manager、Yum、Rpm、Tarball）

部署

• CDH5.4 http://archive.cloudera.com/cdh5/
• Cloudera Manager5.4.3 http://www.cloudera.com/downloads/manager/5-4-3.html

1.基础配置

1. 网络配置
   vi /etc/sysconfig/network
   vi /etc/hosts
2. SSH免密钥登录
   ssh-keygen -t rsa -P ‘’ -f ~/.ssh/id_rsa
   ssh-copy-id
3. 防火墙关闭
   service iptables stop
   chkconfig iptables off
4. SELINUX关闭
   setenforce 0
   vi /etc/selinux/config (SELINUX=disabled)
5. 安装JDK配置环境变量
   export JAVA_HOME=/usr/java/jdkXXX
   export PATH=$JAV{A}_{H}OME/bin:$PATH
   export CLASSPATH=.:$JAV{A}_{H}OME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
6. 安装NTP
   设置开机启动 chkconfig ntpd on
   设置时间同步
   ntpdate cn.ntp.org.cn
7. 安装配置mysql
   GRANT ALL PRIVILEGES ON . TO ‘root’@’%’ IDENTIFIED BY ‘123456’ WITH GRANT OPTION;
   flush privileges
8. 下载第三方依赖包
   chkconfig、python、bind-utils、psmisc、libxslt、zlib、sqlite、cyrus-sasl-plain、
   cyrus-sasl-gssapi、fuse、fuse-libs、redhat-lsb

2.CM配置

1. 安装Cloudera Manager Server、Agent
   mkdir /opt/cloudera-manager
   tar xvzf cloudera-manager*.tar.gz -C /opt/cloudera-manager
2. 创建用户cloudera-scm
   useradd --system --no-create-home --shell=/bin/false --comment “Cloudera SCM User” cloudera-scm
3. 配置CM Agent
   修改文件/opt/cloudera-manager/cm-5.4.3/etc/cloudera-scm-agent/config.ini中server_host
4. 配置CM Server数据库node01
   拷贝mysql jar文件到目录 /usr/share/java/
   注意jar包名称要修改为mysql-connector-java.jar
   grant all on . to ‘temp’@’%’ identified by ‘temp’ with grant option;
   cd /opt/cloudera-manager/cm-5.4.3/share/cmf/schema/
   ./scm_prepare_database.sh mysql temp -h node1 -utemp -ptemp --scm-host node1 scm scm scm
   格式：数据库类型、数据库、数据库服务器、用户名、密码、cm server服务器
5. 创建Parcel目录
   Server节点
   mkdir -p /opt/cloudera/parcel-repo
   chown cloudera-scm:cloudera-scm /opt/cloudera/parcel-repo
   Agent节点
   mkdir -p /opt/cloudera/parcels
   chown cloudera-scm:cloudera-scm /opt/cloudera/parcels
6. 制作CDH本地源
   下载好文件CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel以及manifest.json，将这两个文件放到server节点的/opt/cloudera/parcel-repo下。
   打开manifest.json文件，里面是json格式的配置，找到与下载版本相对应的hash码，新建文件，文件名与你的parel包名一致，并加上.sha后缀，将hash码复制到文件中保存。
7. 启动CM Server、Agent
   cd /opt/cloudera-manager/cm-5.4.3/etc/init.d/
   ./cloudera-scm-server start
   Sever首次启动会自动创建表以及数据，不要立即关闭或重启，否则需要删除所有表及数据重新安装
   ./cloudera-scm-agent start
8. 访问：http://192.168.7.207:7180/cmf/login，
   用户名、密码：admin
   若可以访问，则CM安装成功。

3.CDH5安装

CM Manager && Agent成功启动后，登录前端页面进行CDH安装配置。

免费版本的CM5已经去除50个节点数量的限制。

各个Agent节点正常启动后，可以在当前管理的主机列表中看到对应的节点。
选择要安装的节点，点继续。

接下来，出现以下包名，说明本地Parcel包配置无误，直接点继续就可以了。

点击，继续，如果配置本地Parcel包无误，那么下图中的已下载，应该是瞬间就完成了，然后就是耐心等待分配过程就行了，大约10多分钟吧，取决于内网网速。
（若本地Parcel有问题，重新检查步骤三、5是否配置正确）

接下来是服务器检查，可能会遇到以下问题：
Cloudera 建议将 /proc/sys/vm/swappiness 设置为 0。当前设置为 60。使用 sysctl 命令在运行时更改该设置并编辑 /etc/sysctl.conf 以在重启后保存该设置。您可以继续进行安装，但可能会遇到问题，Cloudera Manager 报告您的主机由于交换运行状况不佳。以下主机受到影响：
通过 echo 0 > /proc/sys/vm/swappiness 即可解决。

接下来是选择安装服务：

测试采用了Hadoop默认，实际按工作环境来定咯~~
服务配置，一般情况下保持默认就可以了（Cloudera Manager会根据机器的配置自动进行配置，如果需要特殊调整，自行进行设置就可以了）：

接下来是数据库的设置，检查通过后就可以进行下一步的操作了：

下面是集群设置的审查页面，我这里都是保持默认配置的：

终于到安装各个服务的地方了，注意，如果采用其他数据库安装Hive等组件的时候报错，检查之前配置CM Server数据库时，jar包拷贝位置及名称是否修改

服务的安装过程大约半小时内就可以完成：

安装完成后，就可以进入集群界面看一下集群的当前状况了。
这里可能会出现无法发出查询：对 Service Monitor 的请求超时的错误提示，如果各个组件安装没有问题，一般是因为服务器比较卡导致的，过一会刷新一下页面就好了：

MySql建库&&删库
##amon
create database amon DEFAULT CHARACTER SET utf8;
grant all on amon.* TO ‘amon’@’%’ IDENTIFIED BY ‘amon’;

##hive
create database hive DEFAULT CHARACTER SET utf8;
grant all on hive.* TO ‘hive’@’%’ IDENTIFIED BY ‘hive’;

##oozie
create database oozie DEFAULT CHARACTER SET utf8;
grant all on oozie.* TO ‘oozie’@’%’ IDENTIFIED BY ‘oozie’;