前言
# 大数据课程课前环境准备一、课前准备
- 准备一台内存最少8G(建议16G)、cpu i7 4核的电脑
二、课堂主题
- 安装虚拟化软件VMware
- 准备3台linux虚拟机
- 搭建3节点zookeeper集群
- 搭建3节点的hadoop集群
三、课堂目标
- 完成大数据课程课前环境准备
四、知识要点
文档说明:
- 在学习大数据课程的全程中,要求大家统一保持跟老师一样的操作系统、软件版本、环境设置
VMware版本:
- VMware建议使用比较新的版本,如VMware 15.5
- 关于VMware的安装,直接使用安装包一直下一步安装即可,且安装包当中附带破解秘钥,进行破解即可使用
linux版本
linux统一使用centos7.6 64位版本
种子文件下载地址:http://mirrors.aliyun.com/centos/7.6.1810/isos/x86_64/CentOS-7-x86_64-DVD-1810.torrent
具体实操过程请参考视频
1. 三台linux服务器的安装
1. 安装VMware
-
VMware虚拟机软件是一个“虚拟PC”软件,它使你可以在一台机器上同时运行二个或更多Windows、DOS、LINUX系统。与“多启动”系统相比,VMWare采用了完全不同的概念。
-
我们可以通过VMware来安装我们的linux虚拟机,然后通过linux虚拟机来进行集群的安装,VMware的安装双击之后,一路下一步即可,尽量不要装在操作系统盘里面了,VMware的安装步骤省略
2. 通过Vmware安装第一台linux机器
- 我们通过Vmware可以安装第一台我们的linux机器,接下来我们来看如何通过VMWare创建linux虚拟机,并给我们的虚拟机挂载操作系统
1:双击Vmware打开之后,点击创建新的虚拟机
2:选择自定义安装配置
3:选择稍后安装操作系统
4:选择稍后安装操作系统
5:选择安装路径,尽量不要放在C盘,并且所在盘符的剩余空间尽量大些
6:CPU核数,默认即可
7:虚拟机内存根据自身windows电脑进行调整
8:网络配置一定要选择NAT
9:磁盘大小尽量给40GB
注意:千万不要勾选“立即分配所有磁盘空间”
10:完成
3. 为我们创建的linux虚拟机挂载操作系统
- 我们现在已经有了一台虚拟电脑了,就类似我们刚刚买了一台电脑回来,只不过不同的是我们这台虚拟电脑还没有操作系统我们需要为这台电脑挂在操作系统出来
1:通过设置来挂载操作系统
2:直接回车开始安装
用键盘的方向键,选中“Install CentOS 7”,然后按回车,开始安装
再按回车键
3:设置键盘为英文键盘
4:接下来配置这三项
(1)设置①时区为Asia/Shanghai
(2)设置②INSTALATION DESTINATION
(3)设置③NETWORK & HOST NAME
5:设置root用户密码
6:安装完成之后重启reboot即可
此过程稍长,耐心等待
4. 为我们的linux虚拟机设置网络配置
- 我们的linux虚拟机已经创建并挂载好了操作系统,接下来我们可以为我们的第一台虚拟机来设置网络地址了,设置网络地址比较麻烦,尽量参见视频进行一步步的操作
1:设置虚拟机的网段
[
2:查看NAT模式的网关,子网IP以及子网掩码
3:设置window当中的VMNet8网络地址
4:设置linux当中的网络
-
我们已经配置好了Vmware当中的网络、windows当中的网络;
-
剩下就是配置linux虚拟机当中的网络,配置好了linux当中的网络,我们的linux就可以联网使用了
-
登录linux
编辑配置文件
vi /etc/sysconfig/network-scripts/ifcfg-ens33
添加联网四要素
IPADDR=192.168.51.100
NETMASK=255.255.255.0
GATEWAY=192.168.51.1
DNS1=8.8.8.8
具体参考下图
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-jPaOMjxf-1617451081118)(assets/image-20201019114510503.png)]
更改完成配置,重启网络服务
systemctl restart network
安装一些常用的软件
yum -y install vim
yum -y install net-tools
关机
init 0
5. 克隆第一台机器
-
现在我们已经有了种子机器了,我们可以通过种子机器进行复制或者克隆出三台机器
-
关闭linux种子机器,然后准备进行克隆
选择创建完整克隆
6. 更改克隆机器的IP地址
-
三台机器的ip地址分别是
192.168.51.100、192.168.51.110、192.168.51.120
-
克隆出来的机器IP地址与种子的ip地址一样,我们将第二台机器的IP地址更改为192.168.51.110即可
-
启动虚拟机,并通过root用户,密码123456来进行登录,然后来更改linux机器的IP地址
vi /etc/sysconfig/network-scripts/ifcfg-ens33
IPADDR=192.168.51.110
NETMASK=255.255.255.0
GATEWAY=192.168.51.1
DNS1=8.8.8.8
-
依照上面步骤,接着克隆第三台机器,并将第三台机器的IP地址设置为
192.168.51.120
建议:三台机器准备好后,打个快照,便于出错后恢复
2. 安装大数据集群前的环境准备
1. 三台虚拟机关闭防火墙
三台机器执行以下命令(root用户来执行)
systemctl stop firewalld
systemctl disable firewalld
2. 三台机器关闭selinux
三台机器执行以下命令关闭selinux
vi /etc/sysconfig/selinux
SELINUX=disabled
3. 三台机器更改主机名
三台机器执行以下命令更改主机名
vi /etc/hostname
第一台机器更改内容
node01.hadoop.com
第二台机器更改内容
node02.hadoop.com
第三台机器更改内容
node03.hadoop.com
4. 三台机器做主机名与IP地址的映射
三台机器执行以下命令更改主机名与IP地址的映射
vi /etc/hosts
192.168.51.100 node01.hadoop.com node01
192.168.51.110 node02.hadoop.com node02
192.168.51.120 node03.hadoop.com node03
注意:根据自己的实际情况,修改ip地址
5. 三台机器时钟同步
第一种同步方式:通过网络进行时钟同步
通过网络连接外网进行时钟同步,必须保证虚拟机连上外网
三台机器都安装ntpdate
yum -y install ntpdate
阿里云时钟同步服务器
ntpdate ntp4.aliyun.com
三台机器定时任务
crontab -e
添加如下内容
*/1 * * * * /usr/sbin/ntpdate ntp4.aliyun.com;
第二种同步方式:内网某机器作为时钟同步服务器
以下操作都在root用户下面执行,通过su root切换到root用户
以192.168.51.100这台服务器的时间为准进行时钟同步
第一步:三台机器确定是否安装了ntpd的服务
三台机器确认是否安装ntpdate时钟同步工具
rpm -qa | grep ntpdate
如果没有安装,三台机器执行以下命令可以进行在线安装
yum -y install ntpdate
安装后如下图
node01安装ntp
yum -y install ntp
三台机器,执行以下命令,设置时区为中国上海时区
timedatectl set-timezone Asia/Shanghai
第二步:node01启动ntpd服务
我们需要启动node01的ntpd服务,作为服务端,对外提供同步时间的服务
启动ntpd的服务
#启动ntpd服务
systemctl start ntpd
#设置ntpd服务开机启动
systemctl enable ntpd
第三步:修改node01服务器配置
修改node01这台服务器的时钟同步配置,允许对外提供服务
vim /etc/ntp.conf
添加以下两行内容
# 同意192.168.51.0网段(修改成自己的网段)的所有机器与node01同步时间
restrict 192.168.51.0 mask 255.255.255.0 nomodify notrap
server 127.127.1.0
注释掉以下这四行内容
#server 0.centos.pool.ntp.org iburst
#server 1.centos.pool.ntp.org iburst
#server 2.centos.pool.ntp.org iburst
#server 3.centos.pool.ntp.org iburst
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-sSoJfpc2-1617451081134)(assets/39.png)]
修改完成之后,重启node01的ntpd服务
systemctl restart ntpd
至此,ntpd的服务端已经安装配置完成,接下来配置客户端与服务端进行同步
第四步:配置node02与node03同步node01的时间
客户端node02与node03设置时区与node01保持一致Asia/Shanghai
node02与node03修改配置文件,保证每次时间写入硬件时钟
vim /etc/sysconfig/ntpdate
SYNC_HWCLOCK=yes
node02与node03修改定时任务,定时与node01同步时间
[root@node03 hadoop]# crontab -e
增加如下内容
*/1 * * * * /usr/sbin/ntpdate node01
6. 三台机器添加普通用户
三台linux服务器统一添加普通用户hadoop,并给以sudo权限,用于以后所有的大数据软件的安装
并统一设置普通用户的密码为 123456
useradd hadoop
passwd hadoop
普通用户的密码设置为123456
三台机器为普通用户添加sudo权限
visudo
增加如下内容
hadoop ALL=(ALL) ALL
7. 三台定义统一目录
定义三台linux服务器软件压缩包存放目录,以及解压后安装目录,三台机器执行以下命令,创建两个文件夹,一个用于存放软件压缩包目录,一个用于存放解压后目录
mkdir -p /kkb/soft # 软件压缩包存放目录
mkdir -p /kkb/install # 软件解压后存放目录
chown -R hadoop:hadoop /kkb # 将文件夹权限更改为hadoop用户
创建hadoop用户之后,我们三台机器都通过hadoop用户来进行操作,以后再也不需要使用root用户来操作了
三台机器通过 su hadoop命令来切换到hadoop用户
su hadoop
8. 三台机器hadoop用户免密码登录
重启下3个linux虚拟机,让主机名生效
第一步:三台机器在hadoop用户下执行以下命令生成公钥与私钥
ssh-keygen -t rsa
执行上述命令之后,按三次Enter键即可生成了
第二步:三台机器在hadoop用户下,执行命令拷贝公钥到node01服务器
ssh-copy-id node01
第三步:node01服务器将公钥拷贝给node02与node03
node01在hadoop用户下,执行以下命令,将authorized_keys拷贝到node02与node03服务器
cd /home/hadoop/.ssh/
scp authorized_keys node02:$PWD
scp authorized_keys node03:$PWD
第四步:验证;从任意节点是否能免秘钥登陆其他节点;如node01免密登陆node02
ssh node02
9. 三台机器关机重启
三台机器在hadoop用户下执行以下命令,实现关机重启
sudo reboot -h now
10. 三台机器安装jdk
-
使用hadoop用户来重新连接三台机器,然后使用hadoop用户来安装jdk软件
-
上传压缩包到第一台服务器的/kkb/soft下面,然后进行解压,配置环境变量即可,三台机器都依次安装即可
cd /kkb/soft/
tar -xzvf jdk-8u141-linux-x64.tar.gz -C /kkb/install/
sudo vim /etc/profile
#添加以下配置内容,配置jdk环境变量
export JAVA_HOME=/kkb/install/jdk1.8.0_141
export PATH=$PATH:$JAVA_HOME/bin
让修改马上生效
source /etc/profile
建议:三台机器准备好后,打个快照,便于出错后恢复