文章目录
- 0. 安装WMware Workstation(本过程请读者自行解决,作者使用的是15.5版本,可以顺利完成环境搭建;作者上课时老师推荐12版本,兼容性较好)
- 1. 在WMware Workstation中安装创建parents虚拟机并安装Cent OS,并以此为原版克隆4台机子用于搭建Hadoop高可用环境
-
- 1.1 新建虚拟机(暂时不安装操作系统)
-
- 1.1.1 单击“文件”选项卡下的“新建虚拟机”,弹出如下界面,选择“自定义(高级)”
- 1.1.2 选择虚拟机硬件兼容性,默认即可
- 1.1.3 选择“稍后安装系统”
- 1.1.4 选择Linux,版本为CentOS 6 64位
- 1.1.5 给虚拟机起个名字,我这里命名为parents,建议将虚拟机文件保存到非系统盘,防止今后重装系统导致虚拟机文件丢失
- 1.1.6 处理器配置
- 1.1.7 虚拟机内存配置
- 1.1.8 网络类型选择“使用网络地址转换(NAT)”
- 1.1.9 选择I/O控制器
- 1.1.10 选择磁盘类型
- 1.1.11 选择磁盘类型
- 1.1.12 选择磁盘
- 1.1.13 指定磁盘容量,最大磁盘大小改为200GB,建议**不要**勾选立即分配所有磁盘空间,以免硬盘容量不足造成麻烦
- 1.1.14 指定磁盘文件
- 1.1.15 完成创建虚拟机
- 1.2 在刚刚创建好的虚拟机里安装Cent OS
-
- 1.2.1 在虚拟机parents上右键——设置,在CD/DVD(IDE)设置中,选择使用ISO映像文件,并单击“浏览”,设置好ISO文件的路径
- 1.2.2 单击“开启此虚拟机”
- 1.2.3 开启虚拟机后,选择第一个选项,开始安装Cent OS
- 1.2.4 选择Skip跳过
- 1.2.5
- 1.2.6 选择English(English)
- 1.2.7 选择U.S English
- 1.2.8 选择“Basic Storage Devices”
- 1.2.9 选择“Yes, discard any data”
- 1.2.10
- 1.2.11 选择东八区的一个城市,比如上海(如果列表翻起来太慢,可以直接点击地图上的点)
- 1.2.12 设置密码,由于本机器作为学习使用,不需要考虑安全性,为方便后续操作,密码设置为hadoop
- 1.2.13 选择“Create Custom Layout”
- 1.2.14 创建分区
- 1.2.15 格式化
- 1.2.17 安装完成后重启
- 1.2.18 设置IP
- 1.2.19 删除70-persitsent-net.rules
- 1.2.20 关闭防火墙&SELINUX
- 1.2.21 关机、拍摄快照
- 1.3 克隆4台虚拟机
- 2.Hadoop伪分布式安装
- 3.Hadoop高可用安装
-
- 3.1 分发jdk到node02、node03和node04
- 3.2 给node02、node03、node04分别安装jdk
- 3.3 同步时间
- 3.4 装机之前的配置文件检查
- 3.5 NameNode与其他三台机子的免秘钥设置
- 3.5 两台NameNode之间互相免秘钥
- 3.6 修改NameNode上的一些配置信息
- 3.7 给另外三台机子安装Hadoop
- 3.8 给node02、node03、node04安装zookeeper
- 3.9 启动zookeeper
- 3.10 启动JournalNode
- 3.11 格式化任一NameNode并启动
- 3.12 给另一台NameNode同步数据
- 3.13 格式化ZKFC
- 3.14 启动hdfs集群
- 3.15 为MapReduce做准备
- 3.16 关闭集群
- 3.17在Windows下配置Hadoop环境
0. 安装WMware Workstation(本过程请读者自行解决,作者使用的是15.5版本,可以顺利完成环境搭建;作者上课时老师推荐12版本,兼容性较好)
1. 在WMware Workstation中安装创建parents虚拟机并安装Cent OS,并以此为原版克隆4台机子用于搭建Hadoop高可用环境
PS:1.没有特殊说明的情况下,请和截图中的选择保持一致,以免引起不必要的麻烦
1.1 新建虚拟机(暂时不安装操作系统)
1.1.1 单击“文件”选项卡下的“新建虚拟机”,弹出如下界面,选择“自定义(高级)”
1.1.2 选择虚拟机硬件兼容性,默认即可
1.1.3 选择“稍后安装系统”
1.1.4 选择Linux,版本为CentOS 6 64位
1.1.5 给虚拟机起个名字,我这里命名为parents,建议将虚拟机文件保存到非系统盘,防止今后重装系统导致虚拟机文件丢失
1.1.6 处理器配置
1.1.7 虚拟机内存配置
1.1.8 网络类型选择“使用网络地址转换(NAT)”
1.1.9 选择I/O控制器
1.1.10 选择磁盘类型
1.1.11 选择磁盘类型
1.1.12 选择磁盘
1.1.13 指定磁盘容量,最大磁盘大小改为200GB,建议不要勾选立即分配所有磁盘空间,以免硬盘容量不足造成麻烦
1.1.14 指定磁盘文件
1.1.15 完成创建虚拟机
此时虽然创建好了虚拟机,但还没有安装Cent OS,接下来我们来安装Cent OS
1.2 在刚刚创建好的虚拟机里安装Cent OS
1.2.1 在虚拟机parents上右键——设置,在CD/DVD(IDE)设置中,选择使用ISO映像文件,并单击“浏览”,设置好ISO文件的路径
1.2.2 单击“开启此虚拟机”
1.2.3 开启虚拟机后,选择第一个选项,开始安装Cent OS
1.2.4 选择Skip跳过
1.2.5
1.2.6 选择English(English)
1.2.7 选择U.S English
1.2.8 选择“Basic Storage Devices”
1.2.9 选择“Yes, discard any data”
1.2.10
1.2.11 选择东八区的一个城市,比如上海(如果列表翻起来太慢,可以直接点击地图上的点)
1.2.12 设置密码,由于本机器作为学习使用,不需要考虑安全性,为方便后续操作,密码设置为hadoop
1.2.13 选择“Create Custom Layout”
1.2.14 创建分区
1.2.14.1 创建启动系统用的分区
1.2.14.2 创建系统内核用的分区
1.2.14.3 创建装应用的分区
1.2.15 格式化
### 1.2.16 单击Next开始安装系统
1.2.17 安装完成后重启
1.2.18 设置IP
单击VMware Workstation的编辑——虚拟网络编辑器,查看自己的子网IP
在Cent OS中,输入以下命令:
vi /etc/sysconfig/network-scripts/ifcfg-eth0
在打开的文件中,删除UUID和MAC地址(HWADDR)
ONBOOT=yes
BOOTPROTO=static
IPADDR=192.168.61.30(注意:61是每台机器不一样的,根据之前在VMware Workstation中查到的子网IP来进行设置)
NETMASK=255.255.255.0
GATEWAY=192.168.61.2
DNS=192.168.61.2
设置完成后的截图:
保存上述文件后,执行:
service network restart
出来的都是OK才行
然后执行以下命令ping一下百度,看看能不能通:
(在Linux命令运行时,按Ctrl+C组合键可以打断命令运行)
ping www.baidu.com
1.2.19 删除70-persitsent-net.rules
在任意目录下执行:
rm -rf /etc/udev/rules.d/70-persistent-net.rules
删除70-persistent-net.rules
扩展阅读:
那么为什么要删除上述文件呢?
接下来我们要以parents为原版,克隆4台虚拟机,如果保留以上文件,在通过该虚拟机克隆的时候:
1.文件被带到了新的虚拟机中
2.VM Warestation变更了新的虚拟机的MAC地址
导致:新的虚拟机不能使用eth0接口,导致后续配置的/etc/sysconfig/network-scripts/ifcfg-eth0无法应用
1.2.20 关闭防火墙&SELINUX
输入以下命令关闭防火墙:
service iptables stop
chkconfig iptables off
使用以下命令打开config,设置SELINUX=disabled:
vi /etc/selinux/config
1.2.21 关机、拍摄快照
输入以下命令关机:
poweroff
单击此按钮打开快照管理界面:
按如下步骤给虚拟机拍个快照:
1.3 克隆4台虚拟机
1.3.1 用快照克隆4台虚拟机
注意:虚拟机克隆一定要用刚刚拍摄的快照来克隆
将克隆的虚拟机命名为node01:
按照上述方法,克隆node02,node03和node04。
克隆完成:
1.3.2 配置4台机子的主机名、IP、hosts等
(以node01为例)
1.3.2.1 配置主机名
使用下列命令打开network文件配置主机名:
vi /etc/sysconfig/network
(另外3台配置方式参考node01,
node02的HOSTNAME=node02,
node03的HOSTNAME=node03,
node04的HOSTNAME=node04)
1.3.2.2 配置IP
使用下列命令打开ifcfg-eth0文件配置IP:
vi /etc/sysconfig/network-scripts/ifcfg-eth0
配置IP完成后,不要忘记执行:
service network restart
确保输入的都是OK,确保可以ping通百度:
(另外3台配置方式参考node01,
node02的IPADDR=192.168.X.32,
node03的IPADDR=192.168.X.33,
node04的IPADDR=192.168.X.33,
X的值和电脑有关,如果忘记了X的值,在VMware Workstation的编辑——虚拟网络编辑器查看,如下图所示(我的电脑的X=61):
)
1.3.2.3 配置hosts
使用以下命令打开hosts文件进行配置:
vi /etc/hosts
(另外3台机子的配置方法、内容和node01完全相同。)
建议:
配好4台机子的3个文件后,建议检查是否可以互相ping通,以免造成不必要的麻烦。
1.3.3 配置Windows下的hosts文件
文件路径为:
C:\Windows\System32\drivers\etc
然后打开命令行,看是否可以用ping通这些结点:
2.Hadoop伪分布式安装
2.1 使用Xshell和Xftp辅助以简化操作
如何新建Xshell连接?
以node01为例,单击文件——新建,按下图设置好连接