cdh安装

最新推荐文章于 2024-06-12 18:02:46 发布

潇逝水

最新推荐文章于 2024-06-12 18:02:46 发布

阅读量270

点赞数

分类专栏： bigdata

bigdata 专栏收录该内容

1 篇文章 0 订阅

订阅专栏

关于 CDH 和 Cloudier Manager

CDH (Cloudera's Distribution,including Apache Hadoop)，是Hadoop

众多分支中的一种，由Cloudera维护，基于稳定版本的Apache Hadoop构建，

并集成了很多补丁，可直接用于生产环境。

ClouderaManager则是为了便于在集群中进行Hadoop等大数据处理相关的服务安装和监控管理的组件，对集群中主机、Hadoop、Hive、Spark等服务

的安装配置管理做了极大简化。

一、系统环境

操作系统：CentOS 6.7 x64 (内存4G以上)

Cloudera Manager：5.1.3

CDH: 5.1.3

二、安装说明

采用离线安装。

1．相关包的下载地址

Cloudera Manager下载地址：

http://archive.cloudera.com/cm5/cm/5/cloudera -manager -el6 -

cm5.1.3_x86_64.tar.gz

CDH安装包地址：

http://archive.cloudera.com/cdh5/parcels/latest/，由于我们的操作系统

为CentOS6.5，需要下载以下文件：

CDH-5.1.3-1.cdh5.1.3.p0.12-el6.parcel CDH-5.1.3-1.cdh5.1.3.p0.12-el6.parcel.sha1

manifest.json

三、准备工作：系统环境搭建

以下操作均用root用户操作。

1．网络配置(所有节点)

1.1．修改 hostname

vi/etc/sysconfig/network

NETWORKING=yes

HOSTNAME=n1

1.2．修改 ip 与主机名的对应关系

vi /etc/hosts

192.168.1.106 n1

192.168.1.107 n2

192.168.1.108 n3

注意：这里需要将每台机器的 ip 及主机名对应关系都写进去，本机的也要写进去，否则启动 Agent 的时候会提示 hostname 解析错误。

2．设置 ssh 无密码登陆

在主节点上执行

^1.ssh-keygen -t rsa

一路回车，生成无密码的密钥对。将公钥添加到认证文件中：

1. cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

，并设置 authorized_keys 的访问权限：

1. chmod 600 ~/.ssh/authorized_keys

scp 文件到所有 datenode 节点：

scp ~/.ssh/authorized_keys root@n2:~/.ssh/ 或者 ssh-copy-id 节点名

3．安装 Oracle 的Java（所有节点）

CentOS，自带 OpenJdk，不过运行 CDH5 需要使用 Oracle 的 Jdk，需要 Java 7 的支持。

卸载自带的 OpenJdk，使用

^1.rpm -qa | grep java

查询 java 相关的包，使用

^1.rpm -e --nodeps

包名卸载之。

去 Oracle 的官网下载jdk 的rpm 安装包，并使用rpm -ivh 包名安装之。

由于是 rpm 包并不需要我们来配置环境变量，我们只需要配置一个全局的 JAVA_HOME变量即可，执行命令：

1. echo "JAVA_HOME=/usr/java/latest/" >> /etc/environment

4．安装配置 MySql（主节点）

通过

yum install mysql mysql-server mysql-devel

/etc/init.d/mysqld start 启动mysq chkconfig mysqld on启动 mysql 控制台：

mysqlmysql>; USE mysql; mysql>;UPDATE user SET Password=PASSWORD('newpassword') WHERE user='root'; mysql>;FLUSH PRIVILEGES; 允许远程登录 mysql>GRANT ALL PRIVILEGES ON *.* TO '用户名'@'%' IDENTIFIED BY '密码'

WITH GRANT OPTION;

进入mysql命令行，创建以下数据库：

1. #hive

2. create database hive DEFAULT CHARSET utf8 COLLATEutf8_general_ci;

3. #activity monitor

4. create database amon DEFAULT CHARSET utf8 COLLATEutf8_general_ci;

5．关闭防火墙和 SELinux

注意：需要在所有的节点上执行，因为涉及到的端口太多了，临时关闭防火墙是为了安装起来更方便，安装完毕后可以根据需要设置防火墙策略，保证集群安全。

关闭防火墙：

1. service iptables stop （临时关闭）

2. chkconfigiptables off （重启后生效）

关闭 SELINUX（实际安装过程中发现没有关闭也是可以的，不知道会不会有问题，还需进一步进行验证）:

1. setenforce 0 （临时生效）

2. 修改 /etc/selinux/config 下的 SELINUX=disabled （重启后永久生效）

四、安装 CM Server 和 Agent

1．主节点解压安装

clouderamanager 的目录默认位置在/opt下，解压：

^1.tar xzvf cloudera-manager*.tar.gz

^2.将解压后的 cm-5.1.3 和 cloudera 目录放到/opt 目录下。

2．为 ClouderaManager 5 建立数据库

首先需要去 MySql 的官网下载 JDBC 驱动，

http://dev.mysql.com/downloads/connector/j/，解压后，找到 mysql-connector-java-

5.1.33-bin.jar，放到/opt/cm-5.1.3/share/cmf/lib/中。

在主节点初始化 CM5 的数据库：

^1./opt/cm-5.1.3/share/cmf/schema/scm_prepare_database.shmysql cm hlocalhost -uroot -pxxxx --scm-host localhost scm scm scm

3．Agent 配置

修改/opt/cm-5.1.3/etc/cloudera-scm-agent/config.ini中的 server_host为主节点的主机名。同步 Agent 到其他节点

^1.scp -r /opt/cm-5.1.3 root@n2:/opt/

4．在所有节点创建cloudera-scm 用户

^1.useradd --system --home=/opt/cm-5.1.3/run/cloudera-scm-server/--nocreate-home --shell=/bin/false --comment "Cloudera SCM User"clouderascm

5．准备 Parcels，用以安装CDH5

将 CHD5 相关的Parcel 包放到主节点的/opt/cloudera/parcel-repo/目录中：

• CDH-5.1.3-1.cdh5.1.3.p0.12-el6.parcel

• CDH-5.1.3-1.cdh5.1.3.p0.12-el6.parcel.sha1

• manifest.json

最后将 CDH-5.1.3-1.cdh5.1.3.p0.12-el6.parcel.sha1，重命名为 CDH-5.1.3-

1.cdh5.1.3.p0.12-el6.parcel.sha，这点必须注意，否则，系统会重新下载 CDH-5.1.3-

1.cdh5.1.3.p0.12-el6.parcel文件。

6．启动 CMServer Agent

/opt/cm-5.1.3/etc/init.d/cloudera-scm-server start

/opt/cm-5.1.3/etc/init.d/cloudera-scm-agent start

五、CDH5 的安装配置

Cloudera Manager Server和Agent都启动以后，就可以进行

CDH5的安装配置了。

这时可以通过浏览器访问主节点的7180端口测试一下了（由于

CM Server的启动需要花点时间，这里可能要等待一会才能访问），默认的用户名和密码均为admin：

可以看到，免费版本的CM5已经没有原来50个节点数量的限制了。

各个Agent节点正常启动后，可以在当前管理的主机列表中看到对应的节点。选择要安装的节点，点继续。

接下来，出现以下包名，说明本地Parcel包配置无误，直接点继续就可以了。

点击，继续，如果配置本地Parcel包无误，那么下图中的已下

载，应该是瞬间就完成了，然后就是耐心等待分配过程就行了，大约10多分钟吧，取决于内网网速。

接下来是服务器检查，可能会遇到以下问题：

Cloudera 建议将/proc/sys/vm/swappiness 设置为 0。当前设置为 60。使用 sysctl命令在运行时更改该设置并编辑 /etc/sysctl.conf 以在重启后保存该设置。您可以继续进行安装，但可能会遇到问题，ClouderaManager 报告您的主机由于交换运行状况不佳。以下主机受到影响：通过echo 0 >/proc/sys/vm/swappiness 即可解决。

还要注意JDK的版本。

接下来是选择安装服务：

服务配置，一般情况下保持默认就可以了（Cloudera Manager 会根据机器的配置自动进行配置，如果需要特殊调整，自行进行设置就可以了）：

接下来是数据库的设置，检查通过后就可以进行下一步的操作了：

下面是集群设置的审查页面，保持默认配置的：

终于到安装各个服务的地方了，注意，这里安装 Hive 的时候可能会报错，因为我们使用了 MySql作为 hive的元数据存储，hive默认没有带 mysql的驱动，通过以下命令拷贝一个就行了：

^1.cp /opt/cm-5.1.3/share/cmf/lib/mysql-connector-java-5.1.33-bin.jar

/opt/cloudera/parcels/CDH-5.1.3-1.cdh5.1.3.p0.12/lib/hive/lib/

服务的安装过程大约半小时内就可以完成：

安装完成后，就可以进入集群界面看一下集群的当前状况了。

这里可能会出现无法发出查询：对 Service Monitor的请求超时的错误提示，如果各个组件安装没有问题，一般是因为服务器比较卡导致的，过一会刷新一下页面就好了：

测试

在集群的一台机器上执行以下模拟 Pi 的示例程序：

hadoop jar/opt/cloudera/parcels/CDH/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar pi 10 100

执行过程需要花费一定的时间，通过YARN的后台可以看到mapreduce的执行状态

遇到的问题

Agent 启动后，安装阶段“当前管理的主机”中显示的节点不全，每次刷新显示的都不一样。

Agent 的错误日志表现如下：

1. [18/Nov/201421:12:56 +0000] 22681 MainThread agent ERROR Heartbeating tomaster:7182 failed.

2. Traceback(most recent call last):

3. File"/home/opt/cm-5.2.0/lib64/cmf/agent/src/cmf/agent.py", line 820,in send_heartbeat

4. response = self.requestor.request('heartbeat',

dict(request=heartbeat))

5. File"/home/opt/cm-5.2.0/lib64/cmf/agent/build/env/lib/python2.6/sitepackages/avro-1.6.3-py2.6.egg/avro/ipc.py",line 139, in request

6. returnself.issue_request(call_request, message_name, request_datum)

7. File"/home/opt/cm-5.2.0/lib64/cmf/agent/build/env/lib/python2.6/sitepackages/avro-1.6.3-py2.6.egg/avro/ipc.py",line 255, in issue_request

8. returnself.read_call_response(message_name, buffer_decoder)

9. File"/home/opt/cm-5.2.0/lib64/cmf/agent/build/env/lib/python2.6/site-

packages/avro-1.6.3-py2.6.egg/avro/ipc.py", line 235, in

read_call_response

10. raiseself.read_error(writers_schema, readers_schema, decoder)

11. File "/home/opt/cm-

5. 2.0/lib64/cmf/agent/build/env/lib/python2.6/site-packages/avro-1.6.3py2.6.egg/avro/ipc.py",line 244, in read_error

12. returnAvroRemoteException(datum_reader.read(decoder))

13. File "/home/opt/cm-

5. 2.0/lib64/cmf/agent/build/env/lib/python2.6/site-packages/avro-1.6.3py2.6.egg/avro/io.py",line 444, in read

14. returnself.read_data(self.writers_schema, self.readers_schema,decoder)

15. File "/home/opt/cm-

5. 2.0/lib64/cmf/agent/build/env/lib/python2.6/site-packages/avro-1.6.3py2.6.egg/avro/io.py",line 448, in read_data

16. if notDatumReader.match_schemas(writers_schema, readers_schema):

17. File "/home/opt/cm-

5. 2.0/lib64/cmf/agent/build/env/lib/python2.6/site-packages/avro-1.6.3py2.6.egg/avro/io.py",line 379, in match_schemas

^{^[1]}^8. w_type =writers_schema.type

19. AttributeError: 'NoneType' object has no attribute 'type'

这是由于在主节点上启动了 Agent 后，又将 Agent scp 到了其他节点上导致的，首次启动 Agent，它会生成一个 uuid，路径为：

^1./opt/cm-5.1.3/lib/cloudera-scm-agent/uuid

,这样的话每台机器上的 Agent 的 uuid 都是一样的了，就会出现紊乱的情况。

解决方案：删除

[1] ^./opt/cm-5.1.3/lib/cloudera-scm-agent/目录下的所有文件。清空主节点CM 数据库。

潇逝水

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
cdh安装

关于 CDH 和 Cloudier Manager CDH (Cloudera's Distribution,including Apache Hadoop)，是Hadoop众多分支中的一种，由Cloudera维护，基于稳定版本的Apache Hadoop构建，并集成了很多补丁，可直接用于生产环境。ClouderaManager则是为了便于在集群中进行Hadoop等大数据处理相关的服务安装和监控管...
复制链接

扫一扫