零基础搭建Hadoop高可用环境——①虚拟机安装②伪分布安装③高可用安装

本文详细介绍了如何从零开始搭建Hadoop高可用环境,包括虚拟机安装Cent OS,克隆虚拟机,配置主机名、IP和hosts,安装与配置Hadoop伪分布式和高可用集群,以及设置Windows下的Hadoop环境。
摘要由CSDN通过智能技术生成

文章目录

0. 安装WMware Workstation(本过程请读者自行解决,作者使用的是15.5版本,可以顺利完成环境搭建;作者上课时老师推荐12版本,兼容性较好)

1. 在WMware Workstation中安装创建parents虚拟机并安装Cent OS,并以此为原版克隆4台机子用于搭建Hadoop高可用环境

PS:1.没有特殊说明的情况下,请和截图中的选择保持一致,以免引起不必要的麻烦

1.1 新建虚拟机(暂时不安装操作系统)

1.1.1 单击“文件”选项卡下的“新建虚拟机”,弹出如下界面,选择“自定义(高级)”

在这里插入图片描述

1.1.2 选择虚拟机硬件兼容性,默认即可

在这里插入图片描述

1.1.3 选择“稍后安装系统”

在这里插入图片描述

1.1.4 选择Linux,版本为CentOS 6 64位

在这里插入图片描述

1.1.5 给虚拟机起个名字,我这里命名为parents,建议将虚拟机文件保存到非系统盘,防止今后重装系统导致虚拟机文件丢失

在这里插入图片描述

1.1.6 处理器配置

在这里插入图片描述

1.1.7 虚拟机内存配置

在这里插入图片描述

1.1.8 网络类型选择“使用网络地址转换(NAT)”

在这里插入图片描述

1.1.9 选择I/O控制器

在这里插入图片描述

1.1.10 选择磁盘类型

在这里插入图片描述

1.1.11 选择磁盘类型

在这里插入图片描述

1.1.12 选择磁盘

在这里插入图片描述

1.1.13 指定磁盘容量,最大磁盘大小改为200GB,建议不要勾选立即分配所有磁盘空间,以免硬盘容量不足造成麻烦

在这里插入图片描述

1.1.14 指定磁盘文件

在这里插入图片描述

1.1.15 完成创建虚拟机

在这里插入图片描述
此时虽然创建好了虚拟机,但还没有安装Cent OS,接下来我们来安装Cent OS

1.2 在刚刚创建好的虚拟机里安装Cent OS

1.2.1 在虚拟机parents上右键——设置,在CD/DVD(IDE)设置中,选择使用ISO映像文件,并单击“浏览”,设置好ISO文件的路径

在这里插入图片描述

1.2.2 单击“开启此虚拟机”

在这里插入图片描述

1.2.3 开启虚拟机后,选择第一个选项,开始安装Cent OS

在这里插入图片描述

1.2.4 选择Skip跳过

在这里插入图片描述

1.2.5

在这里插入图片描述

1.2.6 选择English(English)

在这里插入图片描述

1.2.7 选择U.S English

在这里插入图片描述

1.2.8 选择“Basic Storage Devices”

在这里插入图片描述

1.2.9 选择“Yes, discard any data”

在这里插入图片描述

1.2.10

在这里插入图片描述

1.2.11 选择东八区的一个城市,比如上海(如果列表翻起来太慢,可以直接点击地图上的点)

在这里插入图片描述

1.2.12 设置密码,由于本机器作为学习使用,不需要考虑安全性,为方便后续操作,密码设置为hadoop

在这里插入图片描述

1.2.13 选择“Create Custom Layout”

在这里插入图片描述

1.2.14 创建分区

在这里插入图片描述

1.2.14.1 创建启动系统用的分区

在这里插入图片描述

1.2.14.2 创建系统内核用的分区

在这里插入图片描述

1.2.14.3 创建装应用的分区

在这里插入图片描述

1.2.15 格式化

在这里插入图片描述
在这里插入图片描述### 1.2.16 单击Next开始安装系统
在这里插入图片描述
在这里插入图片描述

1.2.17 安装完成后重启

在这里插入图片描述

1.2.18 设置IP

单击VMware Workstation的编辑——虚拟网络编辑器,查看自己的子网IP
在这里插入图片描述
在Cent OS中,输入以下命令:

vi /etc/sysconfig/network-scripts/ifcfg-eth0

在打开的文件中,删除UUID和MAC地址(HWADDR)
ONBOOT=yes
BOOTPROTO=static
IPADDR=192.168.61.30(注意:61是每台机器不一样的,根据之前在VMware Workstation中查到的子网IP来进行设置)
NETMASK=255.255.255.0
GATEWAY=192.168.61.2
DNS=192.168.61.2

设置完成后的截图:
在这里插入图片描述
保存上述文件后,执行:

service network restart

出来的都是OK才行
在这里插入图片描述
然后执行以下命令ping一下百度,看看能不能通:
在Linux命令运行时,按Ctrl+C组合键可以打断命令运行

ping www.baidu.com

在这里插入图片描述

1.2.19 删除70-persitsent-net.rules

在任意目录下执行:

rm -rf /etc/udev/rules.d/70-persistent-net.rules

删除70-persistent-net.rules
扩展阅读:
那么为什么要删除上述文件呢?
接下来我们要以parents为原版,克隆4台虚拟机,如果保留以上文件,在通过该虚拟机克隆的时候:
1.文件被带到了新的虚拟机中
2.VM Warestation变更了新的虚拟机的MAC地址
导致:新的虚拟机不能使用eth0接口,导致后续配置的/etc/sysconfig/network-scripts/ifcfg-eth0无法应用

1.2.20 关闭防火墙&SELINUX

输入以下命令关闭防火墙:

service iptables stop
chkconfig iptables off

在这里插入图片描述
使用以下命令打开config,设置SELINUX=disabled:

vi /etc/selinux/config

1.2.21 关机、拍摄快照

输入以下命令关机:

poweroff

单击此按钮打开快照管理界面:
在这里插入图片描述
按如下步骤给虚拟机拍个快照:
在这里插入图片描述

1.3 克隆4台虚拟机

1.3.1 用快照克隆4台虚拟机

注意:虚拟机克隆一定要用刚刚拍摄的快照来克隆
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
将克隆的虚拟机命名为node01:
在这里插入图片描述
按照上述方法,克隆node02,node03和node04。
克隆完成:
在这里插入图片描述

1.3.2 配置4台机子的主机名、IP、hosts等

(以node01为例)

1.3.2.1 配置主机名

使用下列命令打开network文件配置主机名:

vi /etc/sysconfig/network

在这里插入图片描述
(另外3台配置方式参考node01,
node02的HOSTNAME=node02,
node03的HOSTNAME=node03,
node04的HOSTNAME=node04)

1.3.2.2 配置IP

使用下列命令打开ifcfg-eth0文件配置IP:

vi /etc/sysconfig/network-scripts/ifcfg-eth0

在这里插入图片描述
配置IP完成后,不要忘记执行:

service network restart

确保输入的都是OK,确保可以ping通百度:
在这里插入图片描述
(另外3台配置方式参考node01,
node02的IPADDR=192.168.X.32,
node03的IPADDR=192.168.X.33,
node04的IPADDR=192.168.X.33,
X的值和电脑有关,如果忘记了X的值,在VMware Workstation的编辑——虚拟网络编辑器查看,如下图所示(我的电脑的X=61):
在这里插入图片描述

1.3.2.3 配置hosts

使用以下命令打开hosts文件进行配置:

vi /etc/hosts

在这里插入图片描述
(另外3台机子的配置方法、内容和node01完全相同。)

建议:
配好4台机子的3个文件后,建议检查是否可以互相ping通,以免造成不必要的麻烦。

1.3.3 配置Windows下的hosts文件

文件路径为:
C:\Windows\System32\drivers\etc
在这里插入图片描述
然后打开命令行,看是否可以用ping通这些结点:
在这里插入图片描述

2.Hadoop伪分布式安装

2.1 使用Xshell和Xftp辅助以简化操作

如何新建Xshell连接?
以node01为例,单击文件——新建,按下图设置好连接

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值