制作CDH5通用节点模板

虚拟机配置

经过几天实际撸不同的安装和配置方式，确认了一个相对最快装机的虚拟机配置方式。

虚拟机的一大优势是硬件配置可以灵活调整
内存和CPU只要关机后直接调整
硬盘只要和前面推荐的一样，普通分区+全盘分配给/ , 利用GParted工具可以随时调整

软件配置还是Centos 7的compute node包，加add-ons装好后，就可以利用前面搭好的离线源安装CDH5了，

开始安装前，源里没包括的基础的软件包还需要手动装上
jdk和mysql连接驱动，暂时选择的版本是

jdk-8u221-linux-x64
mysql-connector-java-8.0.17-1.el7.noarch

基础软件包之后，
先装cloudera-manager-daemons
这是个近800M的大家伙，有个小技巧是yum可以接受http url的输入，所以前面搭好的httpd又可以派上用场, 新建一个/var/www/cmrepo/misc，把jdk，mysql驱动和cloudera-scm系列的rpm都可以在上面放一份
另外发现yum也能对http url的rpm做依赖解析，看看agent的依赖。。。

# rpm -ivh http://192.168.0.103/misc/cloudera-manager-daemons-5.16.2-1.cm5162.p0.7.el7.x86_64.rpm
# yum install http://192.168.0.103/misc/cloudera-manager-agent-5.16.2-1.cm5162.p0.7.el7.x86_64.rpm

Dependencies Resolved

====================================================================================================================================================================================
 Package                                  Arch                 Version                                  Repository                                                             Size
====================================================================================================================================================================================
Installing:
 cloudera-manager-agent                   x86_64               5.16.2-1.cm5162.p0.7.el7                 /cloudera-manager-agent-5.16.2-1.cm5162.p0.7.el7.x86_64                76 M
Installing for dependencies:
 MySQL-python                             x86_64               1.2.5-1.el7                              centos7                                                                90 k
 cups-client                              x86_64               1:1.6.3-35.el7                           centos7                                                               151 k
 cyrus-sasl-gssapi                        x86_64               2.1.26-23.el7                            centos7                                                                41 k
 fuse                                     x86_64               2.9.2-11.el7                             centos7                                                                86 k
 fuse-libs                                x86_64               2.9.2-11.el7                             centos7                                                                93 k
 httpd                                    x86_64               2.4.6-88.el7.centos                      centos7                                                               2.7 M
 httpd-tools                              x86_64               2.4.6-88.el7.centos                      centos7                                                                90 k
 keyutils-libs-devel                      x86_64               1.5.8-3.el7                              centos7                                                                37 k
 krb5-devel                               x86_64               1.15.1-34.el7                            centos7                                                               271 k
 libcom_err-devel                         x86_64               1.42.9-13.el7                            centos7                                                                31 k
 libkadm5                                 x86_64               1.15.1-34.el7                            centos7                                                               177 k
 libselinux-devel                         x86_64               2.5-14.1.el7                             centos7                                                               187 k
 libsepol-devel                           x86_64               2.5-10.el7                               centos7                                                                77 k
 libverto-devel                           x86_64               0.2.5-4.el7                              centos7                                                                12 k
 mailcap                                  noarch               2.1.41-2.el7                             centos7                                                                31 k
 mod_ssl                                  x86_64               1:2.4.6-88.el7.centos                    centos7                                                               112 k
 openssl-devel                            x86_64               1:1.0.2k-16.el7                          centos7                                                               1.5 M
 pcre-devel                               x86_64               8.32-17.el7                              centos7                                                               480 k
 postgresql-libs                          x86_64               9.2.24-1.el7_5                           centos7                                                               234 k
 psmisc                                   x86_64               22.20-15.el7                             centos7                                                               141 k
 python-psycopg2                          x86_64               2.5.1-3.el7                              centos7                                                               132 k
 redhat-lsb-core                          x86_64               4.1-27.el7.centos.1                      centos7                                                                38 k
 redhat-lsb-submod-security               x86_64               4.1-27.el7.centos.1                      centos7                                                                15 k
 spax                                     x86_64               1.5.2-13.el7                             centos7                                                               260 k
 zlib-devel                               x86_64               1.2.7-18.el7                             centos7                                                                50 k

Transaction Summary
====================================================================================================================================================================================

软件装完还要记得关闭防火墙

# systemctl stop firewalld
# systemctl disable firewalld

no单用户模式

CDH5在添加集群时会提示在某个版本后可用的单用户模式
不建议用这个模式，太折腾了。
单用户模式下，每个节点机器上的进程都要通过用户cloudera-scm启动，
每个节点上的这个用户都需要有sudo权限
如果一不小心忘记配或者配错，硬盘上就会留下数量未知的权限属性不对的文件或目录，
运气好在日志里能发现
运气不好就要像福尔摩斯一样做侦探推理才能找到
或者这个节点就只能放弃掉，重做

所以，不要用单用户模式，让cloudera-scm运行在root下
其他服务有各自的用户

重启试试

配置文件或者hosts文件修改后经常要重启agent，如果问题顽固，可能还需要用到硬重启

# /etc/init.d/cloudera-scm-agent next_stop_hard
# systemctl stop cloudera-scm-agent
# systemctl start cloudera-scm-agent

硬重启会杀死监管cloudera-scm-agent的supervisord，偶然会连硬重启都不干净，这时可手工杀一下, 用netstat命令找出9000端口上的python进程pid，然后杀之。
或者用一下下面的奇技淫巧

# kill -9 `netstat -nlp|grep :9000|awk '{print $NF}'|cut -d/ -f1`