0549-6.1-如何在SUSE12 SP3安装CDH6.1

最新推荐文章于 2024-05-17 02:25:11 发布
最新推荐文章于 2024-05-17 02:25:11 发布
阅读量994 收藏 2
点赞数
分类专栏： Hadoop实操
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Hadoop_SC/article/details/103329755
版权

基础设施

2.1

硬件配置

机器名称系统版本配置用途
gdodsdcs2（128.18.9.209）SLES12 SP3CPU16CoresCM节点
内存32GB
硬盘80GB（raid1，安装操作系统）100GB \* 1 数据盘
gdodsspark1（128.18.9.202）SLES12 SP3CPU56CoresMaster节点兼数据节点
内存356GB
硬盘280GB（安装操作系统）1.5TB \* 6数据盘（SAT）1.1TB \* 1数据盘（SSD）1.7TB \* 1数据盘（SSD）
gdodsspark2（128.18.9.203）SLES12 SP3CPU56CoresMaster节点兼数据节点
内存356GB
硬盘280GB（安装操作系统）1.5TB \* 6数据盘（SAT）1.1TB \* 1数据盘（SSD）1.7TB \* 1数据盘（SSD）
Gdodsspark[3-6]（128.18.9.20[4-7]）SLES12 SP3CPU56CoresDataNode节点
内存356GB
硬盘280GB（安装操作系统）1.5TB \* 6数据盘（SAT）1.1TB \* 1数据盘（SSD）1.7TB \* 1数据盘（SSD）

2.2

软件环境

操作系统SLES12 SP3
CM6.1.0
JDK1.8.0_141
CDH6.1.0
Hadoop3.0.0
Hive2.1.1
Spark2.4.0
Zookeeper3.4.5
sqoop1.4.7
Postgresql9.6.10

2.3

角色部署

类型IP地址安装服务
管理节点1128.18.9.209Cloudera Manager、Cloudera Manager Service
管理节点2128.18.9.202NameNode(Standby)、JournalNode、FailoverController、Zookeeper、ResourceManager(Active)、 JournalNode、Zookeeper、Balancer、Hive MetaStore、Gateway、DateNode、Hive Server2、NodeManager、SparkHistory Server
管理节点3128.18.9.203NameNode(Active)、JournalNode、FailoverController、Zookeeper、ResourceManager(Standby)、HiveServer2、Gateway、Hive MetaStore、JobHistory ServerDateNode、NodeManager
数据节点128.18.9.204DataNode、NodeManager、Gateway、JournalNode、Zookeeper
数据节点128.18.9.20[5-7]DataNode、NodeManager、Gateway

2.4

Access UI

Service NameAddressUsername/Password
Cloudera Managerhttp://128.18.9.209:7180admin/admin

2.5

Postgresql

元数据库使用的是外部数据库：Postgresql数据库

Address:128.18.9.208:5432

DatabaseUsernamePasswordRemark
metastorehiveHivePostgresDatabase of Hive metastore
amamAmPostgresDatabase of Activity Monitor
cmcmCmPostgresDatabase of Cloudera Manager
rmrmRmPostgresDatabase of Reports Manager

2.6

数据目录信息

服务角色目录
CMService Monitor/data1/var/lib/ cloudera-service-monitor
Host Monitor/data1/var/lib/cloudera-host-monitor
Event Server/data1/var/lib/cloudera-scm-eventserver
Reports Manager/data1/var/lib/cloudera-scm-headlamp
HDFSNameNode/sdata1/dfs/nn
JournalNode/data1/dfs/jn
Datanode/data1/dfs/dn/data2/dfs/dn/data3/dfs/dn/data4/dfs/dn/data5/dfs/dn/data6/dfs/dn/sdata1/dfs/dn/sdata2/dfs/dn
YARNnodeManager/data1/yarn/nm/data2/yarn/nm/data3/yarn/nm/data4/yarn/nm/data5/yarn/nm/data6/yarn/nm
ZookerperZookerper/data1/var/lib/zookerper

3 集群基本配置及部署安装

因节点之间通过root用户相互ssh的权限被关闭，所以不能使用控制台自动化安装agent，需要手动到所有节点安装agent，并修改相关配置。

3.1

前置准备

以下条件原集群已配置完成：

Hosts文件已配置

Ntp时钟同步

防火墙已关闭

Selinux已关闭

  1. 修改swappiness
echo "vm.swappiness = 1" >> /etc/sysctl.conf
echo 1> /proc/sys/vm/swappiness
  1. 从系统镜像挂载点配置repo

vim /etc/zypp/repos/iso.repo

[iso]
name=iso
enabled=1
autorefresh=0
baseurl=file:///mnt
path=/
type=yast2
keeppackages=0
  1. 安装httpd
zypper install httpd
  1. 利用httpd制作系统镜像本地zypper源
mkdir /srv/www/htdocs/iso
cp /mnt/* /srv/www/htdocs/iso
cd /srv/www/htdocs/iso
zypper install createrepo
createrepo .

在apache2的配置文件中添加该文件夹

vim /etc/apache2/httpd.conf

<Directory "/srv/www/htdocs/iso">
    Option Indexes AllowFollowSymLinks
    AllowOverride None
</Directory>

  1. 利用httpd制作cm本地zypper源和parcel源
mkdir /srv/www/htdocs/cm6.1.0
mkdir /srv/www/htdocs/cdh6.1.0

将cm的安装包上传到cm6.1.0目录下，特别注意的是，SUSE系统还需要下载一个python-psycopg2依赖包上传到cm6.1.0下

cd /srv/www/htdocs/cm6.1.0
createrepo .

在apache2的配置文件中添加这两个文件夹

vim /etc/apache2/httpd.conf

<Directory "/srv/www/htdocs/cm6.1.0">
    Option Indexes AllowFollowSymLinks
    AllowOverride None
</Directory>
<Directory "/srv/www/htdocs/cdh6.1.0">
    Option Indexes AllowFollowSymLinks
    AllowOverride None
</Directory>

  1. 所有节点配置镜像源和cm源

vim /etc/zypp/repos/iso.repo

[iso]
name=iso
enabled=1
autorefresh=0
baseurl=http://128.18.9.202/iso
type=rpm-md
gpgcheck=0

vim /etc/zypp/repos/cm.repo

[cm]
name=cm
enabled=1
autorefresh=0
baseurl=http://128.18.9.202/cm6.1.0
type=rpm-md
gpgcheck=0

3.2

CM节点安装server、agent

  1. 安装jdk1.8
zypper install oracle-j2sdk1.8

  1. 安装cloudera-manager-server、cloudera-manager-agent
zypper install cloudera-manager-server cloudera-manager-agent

  1. 修改agent的配置文件，修改其连接的server主机，log目录以及lib目录
vim /etc/cloudera-scm-agent/config.ini

在数据盘下创建目录

mkdir -p /data1/var/lib
mkdr -p /data1/var/log

将原来的目录移到这两个目录下

mv /var/lib/cloudera-scm-agent /data1/var/lib
mv /var/log/cloudera-scm-agent /data1/var/log

启动agent

systemctl start cloudera-scm-agent
  1. 修改server的启动脚本，配置log目录
vim /opt/cloudera/cm/bin/cm-server

将目录文件移到数据盘上

mv /var/log/cloudera-scm-server /data1/var/log
  1. 初始化cloudera-scm-server的数据库
sh /opt/cloudera/cm/schema/scm_prepare_database.sh -h128.18.9.208 -P5432 postgresql cm cm CmPostgres

  1. 配置postgresql数据库驱动

将驱动上传到httpd节点的/srv/www/htdocs/cdh6.1.0目录下，其他节点通过wget进行拉取

mkdir -p /usr/share/java
cd /usr/share/java
wget http://128.18.9.202/cdh6.1.0/postgresql-42.2.2.jar
ln -s postgresql-42.2.2.jar postgresql-connector-java.jar

  1. 启动server
systemctl start cloudera-scm-server

3.3

其他节点安装agent

剩余节点都需要手动执行以下操作，手动安装agent并修改配置

  1. 安装jdk1.8
zypper install oracle-j2sdk1.8

  1. 安装cloudera-manager-agent
zypper install cloudera-manager-agent

  1. 修改agent的配置文件，修改其连接的server主机，log目录以及lib目录
vim /etc/cloudera-scm-agent/config.ini

在数据盘下创建目录

mkdir -p /sdata1/var/lib
mkdr -p /sdata1/var/log

将原来的目录移到这两个目录下

mv /var/lib/cloudera-scm-agent /sdata1/var/lib
mv /var/log/cloudera-scm-agent /sdata1/var/log
  1. 配置postgresql数据库驱动
mkdir -p /usr/share/java
cd /usr/share/java
wget http://128.18.9.202/cdh6.1.0/postgresql-42.2.2.jar
ln -s postgresql-42.2.2.jar postgresql-connector-java.jar

  1. 启动agent
systemctl start cloudera-scm-agent

3.4

修改数据盘所属用户及权限

由于原来数据盘都是由ods用户挂载，并且权限是700，这将导致root安装集群时无法生成所需目录，最终安装失败

修改这些数据盘目录所属用户为root,所属用户组为root,权限赋予755

chown root:root /data1
chown root:root /data2
chown root:root /data3
chown root:root /data4
chown root:root /data5
chown root:root /data6
chown root:root /sdata1
chown root:root /sdata2
chmod 755 /data1
chmod 755 /data2
chmod 755 /data3
chmod 755 /data4
chmod 755 /data5
chmod 755 /data6
chmod 755 /sdata1
chmod 755 /sdata2

4

控制台安装

  1. 打开http://128.18.9.209:7180，以admin/admin登录

  1. 点“继续”

  1. 勾选同意，点继续

  1. 选择“60天试用版”，点击继续

  1. 点击“继续”

  1. 点击“当前管理主机”，全部勾选，点击“继续”

  1. 点击“更多选项”

  1. 将其他的parcel路径删掉，添加自己制作的parcel包下载路径

  1. 点击继续

  1. 开始下载并分发parcel包，等待下载分发激活完成

  1. 确保下方的主机检查项全部通过，点击“继续”

  1. 点击“自定义服务”，勾选需要的服务

  1. 输入元数据库的信息，测试连接

  1. 配置相关目录

Datenode数据目录暂时默认即可，后期根据不同的节点分配不同的角色组，来分配不同的目录。

Namenode数据目录：

SecondaryNamenode数据目录：

CM服务数据目录：

NodeManager数据目录：

Zookeeper数据目录：

  1. 点击“继续”，等待安装完成。

  1. 配置DataNode目录，先配置角色组，设置Datanode角色为三个组，Datenode Default Group,onlywithzk,withnamenode：

  1. 根据不同的角色来分配datanode目录，以为namenode、zk、journalNode留出独立的数据盘：

5 启用HA

本集群启用了HDFS，YARN的高可用

JournalNode数据目录为：

6

配置组件的log,tmp等目录

7 集群基本配置

7.1

Cloudera Manager

这些服务主要是提供监控功能，目前的调整主要集中在内存放，以便有足够的资源完成集群管理。

服务选项配置值
Activity MonitorJava Heap Size4GB
Service MonitorJava Heap Size4GB
Host MonitorJava Heap Size4GB
Event ServerJava Heap Size4GB
Alert PublisherJava Heap Size2GB
Reports ManagerJava Heap Size4GB

7.2

HDFS配置

服务选项配置值
NameNodeJava Heap Size4GB
dfs.namenode.handler.countNameNode处理程序计数54
dfs.datanode.fsdataset.volume.choosing.policyDataNode 卷选择策略Round Robin
dfs.namenode.avoid.read.stale.datanode避免读取失效 DataNodefalse
dfs.namenode.write.stale.datanode.ratio写入失效 DataNode 比率0.5
dfs.namenode.safemode.threshold-pctSafemode 阈值百分比0.999
dfs.umaskmode默认值 Umask022
DataNodeJava Heap Size1GB
dfs.datanode.handler.countDataNode处理程序计数3
dfs.datanode.max.xcieversDataNode最大传输线程数4096
JournalNodeJava Heap Size1GB
Failover ControllerJava Heap Size512MB

7.3

YARN配置

服务选项配置值
ResourceManagerJava Heap Size4GB
yarn.scheduler.minimum-allocation-mb最小容器内存1GB
yarn.scheduler.increment-allocation-mb容器增量内存512MB
yarn.scheduler.maximum-allocation-mb最大容器内存230GB
yarn.scheduler.minimum-allocation-vcores最小容器虚拟内核1
yarn.scheduler.increment-allocation-vcores容器虚拟内核增量1
yarn.scheduler.maximum-allocation-vcores最大容器虚拟内核56
yarn.resourcemanager.recovery.enabled启用 ResourceManager Recoveryfalse
NodeManagerJava Heap Size1GB
yarn.nodemanager.resource.memory-mb容器内存230GB
yarn.nodemanager.resource.cpu-vcores容器虚拟内核数量56
yarn.nodemanager.remote-app-log-dir删除应用程序日志目录/tmp/logs
Gatewaymapreduce.map.memory.mbMap 任务内存2GB
mapreduce.reduce.memory.mbReduce 任务内存4GB
yarn.app.mapreduce.am.resource.mbApplicationMaster 内存1GB

7.4

Zookeeper配置

服务选项配置值
ZookeepermaxClientCnxns最大客户端连接数180
Java Heap Size1GB
maxSessionTimeout最大会话超时120000

7.5

Hive配置

服务选项配置值
HiveServer2Java Heap Size4GB
Hive MetaStoreJava Heap Size8GB
Hive GatewayJava Heap Size2GB
Hadoop_SC
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
搭建 cdh5.16.1 的步骤
u010985535的博客
09-09 175
搭建 cdh5.16.1 的步骤 1.设置 hosts 文件 /etc/hosts #example 172.16.28.110 CDH04 172.16.28.111 CDH03 172.16.28.112 CDH02 2.关闭所有节点的防火墙及清空规则 #查看防火墙状态 #systemctl status firewalld systemctl stop firewalld systemctl disable firewalld iptables -F 3.关闭所有节点的 selinux #查
原生SUSE Linux下安装CDH5.14.x版本页面安装Agent出现域名bogon导致的失败
qq_36454119的博客
07-07 254
1.前提环境 从SUSE Linux官网下载的原生镜像SLE-12-SP2-Server-DVD-x86_64-GM-DVD1.iso 在VMware12下完成镜像安装，并通过挂在iso文件配置了zypper本地镜像源 安装CDH版本为CDH_5.14.2 2.问题复现 cm节点（cloudera manager）已安装完毕cloudera server服务 登录CDH页面，添加识别主机，识别到从节点nn和dn后，开始为从节点安装Agent服务 cm节点安装正常，nn和dn节点安装Agent失败
SUSE12 全离线clouder Manager安装
06-20
SUSE12 全离线安装Cloudera Manger,其他操作系统也可以按照此文档进行。 文档属于本人原作。
大数据部署离线安装CDH操作指南（环境准备+Cloudera manager安装+CDH部署）
03-08
自己整理的CDH离线部署安装指南，可依据此部署步骤开发一键部署脚本程序，从而省去手动部署敲命令的繁琐过程。由于一键部署包好几个G，就不发出来了。
SUSE Linux Enterprise Server 12 SP3系统安装详解_suse12系统下载(2)
最新发布
m0_v648374的博客
05-17 728
最近很多小伙伴找我要Linux学习资料，于是我翻箱倒柜，整理了一些优质资源，涵盖视频、电子书、PPT等共享给大家！
CDH 5.9 之 Kylin 安装 （SuSE Linux Enterprise 12 SP1）
weixin_34195364的博客
12-28 135
为什么80%的码农都做不了架构师？>>> ...
SUSELinux下CDH5安装
04-30
自己实践过的，从最开始搭建到后期，能够正确安装CDH5，不过CDH5的配置没有在这里面
Clouder CDH 5.9 安装 (SuSE Linux Enterprise 12 SP1)
weixin_33850015的博客
12-27 379
为什么80%的码农都做不了架构师？>>> ...
关于CDH5安装的步骤及注意事项
demonson的专栏
12-09 134
https://blog.csdn.net/qq_37667074/article/details/78731529
利用vmware虚拟机实验从SUSE SLES12sp3 升级到SLES15sp1的过程
sinat_38723234的博客
03-15 1688
利用vmware虚拟机实验从SUSE SLES12sp3 升级到SLES15sp1的过程 1. 首先要给虚拟机安装两个光盘，第一个光驱装入15sp1的Installer光盘用于启动系统和选择升级选项， 第二个光驱装入Packages用于各种软件包的安装。 2. 重启虚拟机，快速按下Esc键进入BIOS设置，选择光盘启动 3. 光盘启动后选择Upgrade，按回车开始升级系统 4. 升级开始...
suse12_sp3 镜像下载链接
04-15
SUSE12-SP3 镜像 以及 惠普G10服务器引导驱动镜像。 SUSE12-SP3 镜像 以及 惠普G10服务器引导驱动镜像。
CDH6.3.2安装包及安装教程网盘下载地址.txt
04-10
从2021年1月31日开始，所有Cloudera软件都需要有效的订阅，并且只能通过付费墙进行访问。也就是说CDH各版本都不能免费获取了。 安装教程中详细说明了安装过程中遇到的各种问题，并且整个过程不需要依赖外网，全部为离线安装。 网盘下载《CDH6.3.2安装包及安装教程网盘下载地址.txt》，包括： manifest.json CDH-6.3.2-1.cdh6.3.2.p0.1605554-el7.parcel CDH-6.3.2-1.cdh6.3.2.p0.1605554-el7.parcel.sha1 CDH-6.3.2-1.cdh6.3.2.p0.1605554-el7.parcel.sha256 cloudera-manager-server-6.3.1-1466458.el7.x86_64.rpm cloudera-manager-agent-6.3.1-1466458.el7.x86_64.rpm cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm PHOENIX-5.0.0-cdh6.2.0.p0.1308267-el7.parcel PHOENIX-5.0.0-cdh6.2.0.p0.1308267-el7.parcel.sha CentOS7.6下CDH6.3.2离线安装教程(正式环境).docx
suse 12 sp3网盘链接
08-26
SUSE Linux 12 sp3百度网盘分享。官网下载奇慢，好不容易下载下来了，链接见附件txt。
SUSE12SP4 HA 文档
04-07
SUSE® Linux Enterprise High Availability 是一款采用开放源代码群集技术的的集成套件，能让您的企业实施高度可用的物理和虚拟 Linux 群集。为了快速有效地进行配置和管理，High Availability Extension 包含一个图形用户界面 (GUI) 和一个命令行界面 (CLI)，此外还随附 HA Web Konsole (Hawk)，便于您通过 Web 界面管理 Linux 群集。
SUSE 12 gcc-c++ 离线安装
04-20
SUSE 12 gcc-c++ 离线安装 虚拟机系统：Linux version 3.12.49-11-default (geeko@buildhost) (gcc version 4.8.5 (SUSE Linux) ) #1 SMP Wed Nov 11 20:52:43 UTC 2015 (8d714a0)
Suse Linux Enterprise 12 SP3下载资源
01-05
日常进行开发安装虚拟机，需要Suse Linux操作系统，官网下载速度忒慢，特上传网盘资源，需要的伙伴可以下载
libncurses5-6.1-lp151.5.41.x86_64.rar
07-06
本篇文章将深入探讨libncurses5-6.1-lp151.5.41.x86_64.rar文件所代表的ncurses库，以及其在SUSE Linux环境中的应用和重要性。 ncurses库是一组C语言接口，用于编写可以在文本终端上运行的交互式程序。它提供了屏幕...
libncurses5-6.1-lp151.5.41.x86_64.rpm
03-01
阿里云SUSE linux 安装mysql依赖资源 libncurses.so.5()(64bit)
suse linux 自动更新,suse linux 12 更新zypper源
weixin_39915505的博客
05-08 1282
由于系统自带的源不可用，因此我们使用国内的源。1、首先禁用掉原来的源zypper modifyrepo -d SLES12-SP5-12.5-02、新增国内zypper源，并刷新zypper ar https://mirror.bjtu.edu.cn/opensuse/update/leap/42.3/non-oss/ update-repo-no-oss-bjtuzypper ar https:...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值