「hadoop」centos7.2 上进行cdh5.7.2离线安装

已实机验证ok

环境
在win7 64位上通过vmware虚拟机安装三台centos7.2,内存分配分别为6G,1G,1G

其它必要软件:
CM:http://archive.cloudera.com/cm5/cm/5
parcel:http://archive.cloudera.com/cdh5/parcels/

注意事项:
1、root用户
2、parcel与cm版本一致
3、使用java默认路径(rpm包)

【配置centos minimal】

1、打开网络
默认网络处于关闭,nmtui命令进入配置页面

2、安装net-tools,支持ifconfig命令

3、设置主机名
/etc/hosts
10.0.203.71  cdj1

/etc/sysconfig/network(network这一步没加上貌似也没问题)
NETWORKING=yes
HOSTNAME=cdj1

4、增加主机名映射,位于/etc/hosts

【更新yum源】
#yum update

【安装python】
默认已安装

【安装其他库】
yum -y install gcc gcc-c++ make automake autoconf libtool perl

【关闭SELINUX】
# vi /etc/sysconfig/selinux
SELINUX=disabled
重启才能生效
重启后检查
[root@hadoop1~]#sestatus -v
SELinux status: disabled
表示已经关闭了

【安装编译环境】
这一步用于能够顺利安装vmware-tools
1、需要update
2、安装kernel-headers kernel-devel gcc
3、重启
参考如下命令:
#yum -y update
#yum -y install kernel-headers kernel-devel gcc
#reboot

【安装vmware-tools,文件共享】
用于win与centos文件共享,注意事项:
1、需要手动挂载/dev/cdrom才能访问cdrom

【安装java】
建议安装rpm格式,因为最好用默认路径
JAVA_HOME路径设置位于/etc/profile
#source /etc/profile让设置立即生效

【安装pstree】
#yum install psmisc

【免密码ssh】
在A生成公钥 #ssh-keygen -t rsa
添加到B中 #ssh-copy-id root@B // root为主机B的用户名

【关闭防火墙】
查看防火墙是否开启:#firewall-cmd --state
关闭防火墙:#systemctl stop firewalld.service
禁止防火墙开机启动:#systemctl disable firewalld.service

【安装mysql数据库】(主节点)

【parcel文件拷贝】(主节点)
1、拷贝parcel等三个文件到/opt/cloudera/parcel-repo/,手动创建目录
2、xxx.sha1改名为xxx.sha

【CM安装】
解压cm包到/opt目录下
mysql驱动jar包拷贝到 /usr/share/java/mysql-connector-java.jar

/opt/cm-5.7.2/share/cmf/lib,并改名为mysql-connector-java.jar
修改成主节点名称 /opt/cm-5.7.2/etc/cloudera-scm-agent/config.ini, 设置server_host=<namenode名称>
修改java路径,注意版本对应上,比如jdk8对应JAVA8_HOME_CANDIDATES
/opt/cm-5.7.2/share/cmf/schema/scm_prepare_database.sh
/opt/cm-5.7.2/share/cmf/bin/cmf-server

【创建cloudera-scm用户】
#useradd --system --home=/opt/cloudera-manager/cm-5.7.2/run/cloudera-scm-server --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm

【初始化CM数据库,仅主节点】
#/opt/cm-5.7.2/share/cmf/schema/scm_prepare_database.sh mysql cm -h10.0.203.10 -P3306 -uchendajian -p123456 --scm-host localhost root 123456
说明:这个脚本就是用来创建和配置CMS需要的数据库的脚本。各参数是指:
mysql:数据库用的是mysql,如果安装过程中用的oracle,那么该参数就应该改为oracle。
-10.0.203.10:数据库主机。
-uroot:root身份运行mysql。-p123456:mysql的root密码是123456。
--scm-host localhost:CMS的主机,一般是和mysql安装的主机是在同一个主机上。
最后三个参数是:数据库名,数据库用户名,数据库密码。
数据库连接配置文件位于 /etc/cloudera-scm-server/db.properties

【创建预设数据库】
mysql中依次创建hive, activity,oozie,hue等数据库,参考代码:create database activity DEFAULT CHARSET utf8 COLLATE utf8_general_ci;

【启动Cloudera Manager】
agent需要等待server完全启动后才能启动
主节点
#/opt/cm-5.7.2/etc/init.d/cloudera-scm-server start
#/opt/cm-5.7.2/etc/init.d/cloudera-scm-agent start

从节点
#/opt/cm-5.7.2/etc/init.d/cloudera-scm-agent start
当cloudera-scm-server、cloudera-scm-agent start启动成功之后,可通过http://主节点IP:7180来访问CM,用户名密码都为admin。剩下的就是一直点下一步和根据具体的需求来配置集群了。


【配置】
服务启动几分钟后,浏览器打开配置网页 http://<namenode>:7180
用户名密码都为admin

【其它说明】
部分步骤参考:http://blog.csdn.net/shawnhu007/article/details/52579204

安装失败,需要清理再重装
1、rm -rf /opt/cm-5.7.2/lib/cloudera-scm-agent/*;
2、删除并重装cm数据库;

安装过程中在安装HDFS /tmp目录中被超时中止
返回再安装即可,有可能是安装时间过长引起

转载于:https://www.cnblogs.com/ftrako/p/7791897.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
SQLAlchemy 是一个 SQL 工具包和对象关系映射(ORM)库,用于 Python 编程语言。它提供了一个高级的 SQL 工具和对象关系映射工具,允许开发者以 Python 类和对象的形式操作数据库,而无需编写大量的 SQL 语句。SQLAlchemy 建立在 DBAPI 之上,支持多种数据库后端,如 SQLite, MySQL, PostgreSQL 等。 SQLAlchemy 的核心功能: 对象关系映射(ORM): SQLAlchemy 允许开发者使用 Python 类来表示数据库表,使用类的实例表示表中的行。 开发者可以定义类之间的关系(如一对多、多对多),SQLAlchemy 会自动处理这些关系在数据库中的映射。 通过 ORM,开发者可以像操作 Python 对象一样操作数据库,这大大简化了数据库操作的复杂性。 表达式语言: SQLAlchemy 提供了一个丰富的 SQL 表达式语言,允许开发者以 Python 表达式的方式编写复杂的 SQL 查询。 表达式语言提供了对 SQL 语句的灵活控制,同时保持了代码的可读性和可维护性。 数据库引擎和连接池: SQLAlchemy 支持多种数据库后端,并且为每种后端提供了对应的数据库引擎。 它还提供了连接池管理功能,以优化数据库连接的创建、使用和释放。 会话管理: SQLAlchemy 使用会话(Session)来管理对象的持久化状态。 会话提供了一个工作单元(unit of work)和身份映射(identity map)的概念,使得对象的状态管理和查询更加高效。 事件系统: SQLAlchemy 提供了一个事件系统,允许开发者在 ORM 的各个生命周期阶段插入自定义的钩子函数。 这使得开发者可以在对象加载、修改、删除等操作时执行额外的逻辑。
SQLAlchemy 是一个 SQL 工具包和对象关系映射(ORM)库,用于 Python 编程语言。它提供了一个高级的 SQL 工具和对象关系映射工具,允许开发者以 Python 类和对象的形式操作数据库,而无需编写大量的 SQL 语句。SQLAlchemy 建立在 DBAPI 之上,支持多种数据库后端,如 SQLite, MySQL, PostgreSQL 等。 SQLAlchemy 的核心功能: 对象关系映射(ORM): SQLAlchemy 允许开发者使用 Python 类来表示数据库表,使用类的实例表示表中的行。 开发者可以定义类之间的关系(如一对多、多对多),SQLAlchemy 会自动处理这些关系在数据库中的映射。 通过 ORM,开发者可以像操作 Python 对象一样操作数据库,这大大简化了数据库操作的复杂性。 表达式语言: SQLAlchemy 提供了一个丰富的 SQL 表达式语言,允许开发者以 Python 表达式的方式编写复杂的 SQL 查询。 表达式语言提供了对 SQL 语句的灵活控制,同时保持了代码的可读性和可维护性。 数据库引擎和连接池: SQLAlchemy 支持多种数据库后端,并且为每种后端提供了对应的数据库引擎。 它还提供了连接池管理功能,以优化数据库连接的创建、使用和释放。 会话管理: SQLAlchemy 使用会话(Session)来管理对象的持久化状态。 会话提供了一个工作单元(unit of work)和身份映射(identity map)的概念,使得对象的状态管理和查询更加高效。 事件系统: SQLAlchemy 提供了一个事件系统,允许开发者在 ORM 的各个生命周期阶段插入自定义的钩子函数。 这使得开发者可以在对象加载、修改、删除等操作时执行额外的逻辑。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值