记录搭建hadoop集群的过程

文章详细描述了在VmWare15环境下安装CentOS-7.6-x64位系统的过程,包括配置网络、设置静态IP、修改主机名、安装SSH并实现集群间的免密登录,以及处理安装和连接中遇到的问题。
摘要由CSDN通过智能技术生成

Linux(CentOS-7.6-x64位)基础配置, 虚拟机平台VmWare15
CentOS-7.6-x64镜像下载: https://www.aliyundrive.com/s/72Xg449t6i8 提取码: 32rm 

VmVare15安装包下载带序列号:VmVare15安装包下载带激活序列号资源-CSDN文库 

 

 

 

点击关闭,点击完成,即可

 如何查看自己的计算机的处理器(CPU)数和内核数?

 (487条消息) CentOS7.6的详细安装步骤_岁月轻扰的博客-CSDN博客

配置镜像文件:

 点击开启此虚拟机,键盘上的上下箭头按键可以进行选择,选中第一个后,敲回车就开始安装了。

剩下的参考这个博客:(我安装的是没有桌面的,这个博客安装的是有桌面的,适当参考)

 (487条消息) 使用 VMware 创建一个新的虚拟机_vmware创建虚拟机_汪小霜的博客-CSDN博客

 剩下的配置文件主要是参考博客:

(486条消息) 大数据软件安装配置教程[Linux, JDK, MySQL, Hadoop, ZooKeeper, Hive, Flume, Kafka, HBase-Phoenix, Scala, Spark等等]_大数据安装_hellosrc | remake的博客-CSDN博客

 依次点击确定,确定。

vi  /etc/sysconfig/network-scripts/ifcfg-ens33 

后来又修改了一下IPADDR:(需要重启reboot后,虚拟机ip地址才会改过来)

输入命令:reboot(重启虚拟机),之后发现主机名改过来了

vi /etc/hosts 

windows的hosts文件也配置一下:位置在 C:\WINDOWS\System32\drivers\etc下

 中途,我又去下载安装了个xshell7,有需要的链接放这里了:

Xshell 最新激活破解教程(持续更新~) - 哔哩哔哩 (bilibili.com)

本机ping不通虚拟机的ip地址:192.168.125.11

通过参考以下博客解决了问题:

(512条消息) 本地ping不上虚拟机地址? 只需简单几步即可_本地ping不通虚拟机_稚皓君的博客-CSDN博客

 

 yum下载 相关必备的软件包

yum install -y rsync 
yum install -y gcc 
yum install -y gcc-c++  
yum install -y vim 
yum install -y wget 
yum install -y perl  
yum install -y ntp 
yum install -y ntpdate 
yum install -y net-tools  
yum install -y lrzsz  
yum install -y libaio  
yum install vixie-cron(报错说:没有可用软件包 vixie-cron,网上查说命令是这个yum install cronie)
yum install crontabs

yum的使用介绍参考:

(515条消息) yum和vim须掌握的常用操作_yum install vim -y_今年依旧去年春的博客-CSDN博客

要完整克隆两台虚拟机,搭建hadoop分布式集群参考的博客:

(515条消息) 搭建Hadoop分布式集群的详细教程_hadoop完全分布式集群搭建全过程_木木子v的博客-CSDN博客

 

 同样,修改hadoop02,hadoop03两台虚拟机上的ip地址、hostname

vi  /etc/sysconfig/network-scripts/ifcfg-ens33 

 然后重启hadoop02和hadoop03

通过Xshell分别连接hadoop01、hadoop02和hadoop03

但是使用xshell连接服务器时,出现了“WARNING! The remote SSH server rejected X11 forwarding request.”,意思是“远程SSH服务器拒绝X11转发请求。”(我没解决这个问题,警告而已又不影响使用,但先在这做个笔记万一以后用到呢)

(515条消息) 解决“WARNINGThe remote SSH server rejected X11 forwarding request.“警告_远程ssh服务器拒绝了x11转发请求_SoloVersion的博客-CSDN博客

 使用vim编辑器打开network网络配置文件,命令如下:

        vim /etc/sysconfig/network

hadoop01的

 hadoop02和hadoop03的只需要把HOSTNAME更改成对应的主机名

这里有个小插曲是:xshell怎么设置右键粘贴

后来又改了一下,上边的图懒得改了,上下两张图结合着看吧

 好了,接着完成剩下的内容。

三台虚拟机互相ping一下,看有没有问题,正常来说都能ping通才对,我试过了都能ping通。

配置SSH免密登录

hadoop01上执行命令:ssh-keygen -t rsa

通过分别执行ssh-copy-id hadoop01(给自己做免密登录)、ssh-copy-id hadoop02 和 ssh-copy-id hadoop03两条命令

分别做自己的免密登录和hadoop02、hadoop03的免密登录

同样

hadoop02上执行命令:ssh-keygen -t rsa

通过分别执行ssh-copy-id hadoop02、ssh-copy-id hadoop01 和 ssh-copy-id hadoop03两条命令

分别做自己的免密登录和hadoop01、hadoop03的免密登录

同样

hadoop03上执行命令:ssh-keygen -t rsa

通过分别执行ssh-copy-id hadoop03、ssh-copy-id hadoop01 和 ssh-copy-id hadoop02两条命令

分别做自己的免密登录和hadoop01、hadoop02的免密登录

未完待续…………

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值