CDH5 离线安装记录

最新推荐文章于 2024-06-12 18:02:46 发布

置顶源来是这样

最新推荐文章于 2024-06-12 18:02:46 发布

阅读量1.6k

点赞数

分类专栏：学习记录

本文链接：https://blog.csdn.net/wanghui19931015/article/details/52640101

版权

学习记录专栏收录该内容

12 篇文章 0 订阅

订阅专栏

Cloudera Manager下载地址：

http://archive.cloudera.com/cm5/cm/5/cloudera-manager-el6-cm5.4.3_x86_64.tar.gz ，

CDH安装包地址：

http://archive.cloudera.com/cdh5/parcels/5.4.3/ ，由于我们的操作系统为CentOS6.5，需要下载以下文件：

· CDH-5.4.3-1.cdh5.4.3.p0.6-el6.parcel

· CDH-5.4.3-1.cdh5.4.3.p0.6-el6.parcel.sha1

· manifest.json

准备工作：系统环境搭建

以下操作均用root用户操作。

1.网络配置(所有节点)

vi /etc/sysconfig/network 修改hostname：

NETWORKING=yes

HOSTNAME=hadoop.master

通过 service networkrestart 重启网络服务生效。

vi /etc/hosts ,修改ip与主机名的对应关系

192.168.226.17 hadoop.master master

192.168.226.18 hadoop.slave1 slave1

192.168.226.19 hadoop.slave2 slave2

192.168.226.20 hadoop. slave3 slave3

注意： 这里需要将每台机器的ip及主机名对应关系都写进去，本机的也要写进去，否则启动Agent的时候会提示hostname解析错误。

2.打通SSH，设置ssh无密码登陆（所有节点）

在所有节点上执行 ssh-keygen -trsa 一路回车，生成无密码的密钥对。

将公钥添加到认证文件中： cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys ，并设置authorized_keys的访问权限： chmod 600 ~/.ssh/authorized_keys 。

scp文件到所有datenode节点：

scp ~/.ssh/authorized_keys root@slave1:~/.ssh/

测试： 在主节点上ssh slave1，正常情况下，不需要密码就能直接登陆进去了。

3.安装jdk（所有节点）

CentOS，自带OpenJdk，不过运行CDH5需要使用Oracle的Jdk，需要Java 7的支持。

卸载自带的OpenJdk，使用 rpm -qa | grep java 查询java相关的包，使用 rpm -e --nodeps 包名卸载（凡是java开头都卸载）。

去Oracle的官网下载jdk的rpm安装包，并使用 rpm -ivh 包名安装之。

由于是rpm包并不需要我们来配置环境变量，我们只需要配置一个全局的JAVA_HOME变量即可，执行命令：

echo"JAVA_HOME=/usr/java/latest/" >> /etc/profile 注意：latest是jdk目录的软连接，所以你使用它或者直接写jdk的目录都可以

4.安装配置MySql（主节点）

安装mysql请看 http://blog.csdn.net/wanghui19931015/article/details/52663862

mysql -uroot -p123456 进入mysql命令行，创建以下数据库：

#hive

create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

#activity monitor

create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

设置root授权访问以上所有的数据库：

#授权root用户在主节点拥有所有数据库的访问权限

grant all privileges on *.* to 'root'@'master' identified by '123456'with grant option;

grant all privileges on *.* to 'root'@'%' identified by '123456' with grant option;

flush privileges;

5.关闭防火墙和SELinux

注意： 需要在所有的节点上执行，因为涉及到的端口太多了，临时关闭防火墙是为了安装起来更方便，安装完毕后可以根据需要设置防火墙策略，保证集群安全。

关闭防火墙：

service iptables stop（临时关闭）

chkconfig iptables off（重启后生效）

关闭SELINUX（实际安装过程中发现没有关闭也是可以的，不知道会不会有问题，还需进一步进行验证）:

setenforce 0（临时生效）

修改 /etc/selinux/config下的 SELINUX=disabled（重启后永久生效）

6.所有节点配置NTP服务

集群中所有主机必须保持时间同步，如果时间相差较大会引起各种问题。具体思路如下：

master节点作为ntp服务器与外界对时中心同步时间，随后对所有datanode节点提供时间同步服务。

所有datanode节点以master节点为基础同步时间。

所有节点安装相关组件： yum install ntp 。完成后，配置开机启动： chkconfig ntpdon ,检查是否设置成功： chkconfig --list ntpd 其中2-5为on状态就代表成功。

主节点配置

在配置之前，先使用ntpdate手动同步一下时间，免得本机与对时中心时间差距太大，使得ntpd不能正常同步。这里选用master作为对时中心, ntpdate -u master 。master主机添加下面信息到/etc/ntp.conf

server 127.127.1.0

fudge 127.127.1.0 stratum 2

restrict 192.168.226.0 mask 255.255.255.0 nomodify notrap

集群其他节点修改/etc/ntp.conf,如下：

# Pleaseconsider joining the pool (http://www.pool.ntp.org/join.html).

#server0.centos.pool.ntp.org iburst

#server1.centos.pool.ntp.orgiburst

#server2.centos.pool.ntp.org iburst

#server3.centos.pool.ntp.org iburst

server master

配置文件完成，保存退出，

设置开机启动chkconfig ntpd on

启动服务，执行如下命令： service ntpdstart

正式开工

安装Cloudera Manager Server和Agent

主节点解压安装

cloudera manager的目录默认位置在/opt下，解压： tar xzvfcloudera-manager*.tar.gz 将解压后的cm-5.4.3和cloudera目录放到/opt目录下。

为Cloudera Manager 5建立数据库

首先需要去MySql的官网下载JDBC驱动， http://dev.mysql.com/downloads/connector/j/ ，解压后，找到mysql-connector-java-5.1.39-bin.jar，放到/opt/cm-5.4.3/share/cmf/lib/中。

同时 chmod 755mysql-connector-java-5.1.39-bin.jar

在主节点初始化CM5的数据库：

/opt/cm-5.4.3/share/cmf/schema/scm_prepare_database.sh mysql cm -hmaster -uroot -p123456 --scm-host master scm scm scm

Agent配置

修改/opt/cm-5.4.3/etc/cloudera-scm-agent/config.ini中的server_host为主节点的主机名。

修改/opt/cm-5.4.3/lib64/cmf/agent/src/cmf/util.py文件。

将其中的代码：

pipe = subprocess.Popen(['/bin/bash','-c', ". %s; %s; env" % (path, command)],

stdout=subprocess.PIPE,env=caller_env)

修改为：

pipe = subprocess.Popen(['/bin/bash','-c', ". %s; %s; env | grep -v { | grep -v }" % (path, command)],

stdout=subprocess.PIPE, env=caller_env)

同步Agent到其他节点

scp -r/opt/cm-5.4.3 root@slave1:/opt/

在所有节点创建cloudera-scm用户

useradd --system --home=/opt/cm-5.4.3/run/cloudera-scm-server/ --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

准备Parcels，用以安装CDH5

将CHD5相关的Parcel包放到主节点的/opt/cloudera/parcel-repo/目录中（parcel-repo需要手动创建）。

相关的文件如下：

· CDH-5.4.3-1.cdh5.4.3.p0.12-el6.parcel

· CDH-5.4.3-1.cdh5.4.3.p0.12-el6.parcel.sha1

· manifest.json

最后将CDH-5.4.3-1.cdh5.4.3.p0.12-el6.parcel.sha1，重命名为CDH-5.4.3-1.cdh5.4.3.p0.12-el6.parcel.sha，这点必须注意，否则，系统会重新下载CDH-5.4.3-1.cdh5.4.3.p0.12-el6.parcel文件。

相关启动脚本

通过 /opt/cm-5.4.3/etc/init.d/cloudera-scm-server start 启动主节点服务端。

通过 /opt/cm-5.4.3/etc/init.d/cloudera-scm-agent start启动其他节点Agent服务。

注意：两个脚本都启动成功，正常运行

需要停止服务将以上的start参数改为stop就可以了，重启是restart。

CDH5的安装配置

Cloudera ManagerServer和Agent都启动以后，就可以进行CDH5的安装配置了。

这时可以通过浏览器访问主节点的7180端口测试一下了（由于CM Server的启动需要花点时间，这里可能要等待一会才能访问），默认的用户名和密码均为admin：

1、选择免费版本的CM5。

2、各个Agent节点正常启动后，可以在当前管理的主机列表中看到对应的节点。选择要安装的节点，点继续。

3、接下来，出现以下包名，说明本地Parcel包配置无误，直接点继续就可以了。

4、点击，继续。

5、接下来是服务器检查，可能会遇到以下问题：

Cloudera建议将 /proc/sys/vm/swappiness设置为 0。当前设置为 60。使用 sysctl命令在运行时更改该设置并编辑/etc/sysctl.conf以在重启后保存该设置。您可以继续进行安装，但可能会遇到问题，Cloudera Manager报告您的主机由于交换运行状况不佳。以下主机受到影响：

通过 echo 0 >/proc/sys/vm/swappiness 即可解决。

6、接下来是选择安装服务：

服务配置，一般情况下保持默认就可以了（Cloudera Manager会根据机器的配置自动进行配置，如果需要特殊调整，自行进行设置就可以了）：

接下来是数据库的设置，检查通过后就可以进行下一步的操作了：

7、集群设置的审查页面，保持默认配置的：

终于到安装各个服务的地方了，注意，这里安装Hive的时候可能会报错，因为我们使用了MySql作为hive的元数据存储，hive默认没有带mysql的驱动，通过以下命令拷贝一个就行了：

cp/opt/cm-5.4.3/share/cmf/lib/mysql-connector-java-5.1.39-bin.jar /opt/cloudera/parcels/CDH-5.4.3-1.cdh5.1.3.p0.12/lib/hive/lib/

安装完成后，就可以进入集群界面看一下集群的当前状况了。

测试

在集群的一台机器上执行以下模拟Pi的示例程序：

sudo -u hdfs hadoop jar/opt/cloudera/parcels/CDH/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar pi10100

执行过程需要花一定的时间，通过YARN的后台也可以看到MapReduce的执行状态：

MapReduce执行过程中终端的输出如下：

Number of Maps =10

Samples per Map =100

Wrote inputfor Map#0

Wrote inputfor Map#1

Wrote inputfor Map#2

Wrote inputfor Map#3

Wrote inputfor Map#4

Wrote inputfor Map#5

Wrote inputfor Map#6

Wrote inputfor Map#7

Wrote inputfor Map#8

Wrote inputfor Map#9

Starting Job

14/10/1301:15:34 INFOclient.RMProxy: Connecting to ResourceManager at n1/192.168.1.161:8032

14/10/1301:15:36 INFOinput.FileInputFormat: Total input paths to process : 10

14/10/1301:15:37 INFOmapreduce.JobSubmitter: number of splits:10

14/10/1301:15:39 INFOmapreduce.JobSubmitter: Submitting tokens for job:job_1413132307582_0001

14/10/1301:15:40 INFOimpl.YarnClientImpl: Submitted application application_1413132307582_0001

14/10/1301:15:40 INFOmapreduce.Job: The url to track the job: http://n1:8088/proxy/application_1413132307582_0001/

14/10/1301:15:40 INFOmapreduce.Job: Running job: job_1413132307582_0001

14/10/1301:17:13 INFOmapreduce.Job: Job job_1413132307582_0001 running in uber mode : false

14/10/1301:17:13 INFOmapreduce.Job: map 0% reduce0%

14/10/1301:18:02 INFOmapreduce.Job: map 10% reduce0%

14/10/1301:18:25 INFOmapreduce.Job: map 20% reduce0%

14/10/1301:18:35 INFOmapreduce.Job: map 30% reduce0%

14/10/1301:18:45 INFOmapreduce.Job: map 40% reduce0%

14/10/1301:18:53 INFOmapreduce.Job: map 50% reduce0%

14/10/1301:19:01 INFOmapreduce.Job: map 60% reduce0%

14/10/1301:19:09 INFOmapreduce.Job: map 70% reduce0%

14/10/1301:19:17 INFOmapreduce.Job: map 80% reduce0%

14/10/1301:19:25 INFOmapreduce.Job: map 90% reduce0%

14/10/1301:19:33 INFOmapreduce.Job: map 100% reduce0%

14/10/1301:19:51 INFOmapreduce.Job: map 100% reduce100%

14/10/1301:19:53 INFOmapreduce.Job: Job job_1413132307582_0001 completed successfully

14/10/1301:19:56 INFOmapreduce.Job: Counters: 49

File System Counters

FILE: Number of bytesread=91

FILE: Number of bytes written=1027765

FILE: Number ofread operations=0

FILE: Number of largeread operations=0

FILE: Number ofwrite operations=0

HDFS: Number of bytesread=2560

HDFS: Number of bytes written=215

HDFS: Number ofread operations=43

HDFS: Number of largeread operations=0

HDFS: Number ofwrite operations=3

Job Counters

Launchedmap tasks=10

Launched reduce tasks=1

Data-local map tasks=10

Totaltime spent by all maps in occupied slots (ms)=118215

Totaltime spent by all reduces in occupied slots (ms)=11894

Totaltime spent by allmap tasks (ms)=118215

Totaltime spent by all reduce tasks (ms)=11894

Total vcore-seconds taken by allmap tasks=118215

Total vcore-seconds taken by all reduce tasks=11894

Total megabyte-seconds taken by allmap tasks=121052160

Total megabyte-seconds taken by all reduce tasks=12179456

Map-Reduce Framework

Map input records=10

Map output records=20

Map output bytes=180

Map output materialized bytes=340

Inputsplit bytes=1380

Combine input records=0

Combine output records=0

Reduce input groups=2

Reduce shuffle bytes=340

Reduce input records=20

Reduce output records=0

Spilled Records=40

Shuffled Maps =10

Failed Shuffles=0

Merged Map outputs=10

GCtime elapsed (ms)=1269

CPUtime spent (ms)=9530

Physical memory (bytes) snapshot=3792773120

Virtual memory (bytes) snapshot=16157274112

Total committed heap usage (bytes)=2856624128

Shuffle Errors

BAD_ID=0

CONNECTION=0

IO_ERROR=0

WRONG_LENGTH=0

WRONG_MAP=0

WRONG_REDUCE=0

File Input Format Counters

Bytes Read=1180

File Output Format Counters

Bytes Written=97

Job Finished in262.659 seconds

Estimated value of Pi is3.14800000000000000000

最后感谢 http://www.tuicool.com/articles/ENjmeaY/ 博主，因为有这个作为参考，可以让自己尽快的熟悉安装流程。具体要通过日志来分析问题。

当然，离线安装后可能会因为一些原因想删除 CDH 重新安装，这里我会在下一篇文章中会体现。

源来是这样

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
CDH5 离线安装记录

Cloudera Manager下载地址：http://archive.cloudera.com/cm5/cm/5/cloudera-manager-el6-cm5.4.3_x86_64.tar.gz ，CDH安装包地址： http://archive.cloudera.com/cdh5/parcels/latest/ ，由于我们的操作系统为CentOS6.5，需要下载以下文件：·
复制链接

扫一扫