CM搭建Hadoop全分布式

本文详细介绍了如何通过CM搭建Hadoop全分布式环境,涵盖了从环境配置、创建本地源、安装系统依赖包、安装MySQL,到CM安装过程和配置的全部步骤。包括配置主机名、关闭防火墙、安装jdk、关闭SELINUX、配置内网ntp服务器,以及集群的主机检查、最小规模组件选择和高可用性设置等关键环节。
摘要由CSDN通过智能技术生成

1.1 环境配置

使用XShell软件,创建5个会话窗口,五个服务器的地址分别是:

1.1.1 配置主机名、hosts文件

# 主机名  

 # 配置各节点的主机名 

[root@main-master ~]# vim /etc/sysconfig/network 

#查看

[root@main-master ~]# cat /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=main-master   

# 配置hosts   

[root@main-master ~]# vim /etc/hosts      

#在配置文件上加各节点IP

# 一定要保留127.0.0.1,否则cm分发会心跳错误  

 127.0.0.1    localhost      

1.1.2 配置各节点之间的ssh免密玥

# 在各个节点生成自己的公钥和私钥

[root@main-master ~]# ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa

[root@data1 packages]# cd ~

# 将自己的公钥分发给其他节点,包括自己分发给自己

首先在main-master节点上

[root@main-master ~]# ssh-copy-id -i .ssh/id_rsa.pub main-master

[root@main-master ~]# ssh-copy-id -i .ssh/id_rsa.pub back-master

[root@main-master ~]# ssh-copy-id -i .ssh/id_rsa.pub datanode1

[root@main-master ~]# ssh-copy-id -i .ssh/id_rsa.pub datanode2

[root@main-master ~]# ssh-copy-id -i .ssh/id_rsa.pub datanode3

然后依次在每个节点执行上述命令

1.1.3 安装jdk环境

# 安装jdk环境    

# rpm 安装   

[root@main-master soft]# rpm -i jdk-8u221-linux-x64_2.rpm 

 # 环境变量配置    

vim /etc/profile      

 # 在配置文件里增加

 export JAVA_HOME=/usr/java/jdk1.8.0_221-amd64  

 export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar    

 PATH=$PATH:$JAVA_HOME/bin

# 使环境变量生效  

 . /etc/profile

1.1.4 关闭防火墙

 #需要注意的是,每次节点挂掉重启后,都需要关闭防火墙

[root@main-master ~]# service iptables stop 

#检查是否已经关闭

 [root@hadoop1 ~]# chkconfig iptables off

1.1.5 SELINUX关闭

[root@main-master ~]# setenforce 0

# SELINUX=disabled

 [root@main-master ~]# vi /etc/selinux/config

1.1.6 配置内网ntp服务器

# 选定一台节点当ntp主服务器,其他节点同步本节点时间

 # 修改ntp主服务器配置如下:

[roo
  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值