文章目录
部署Hadoop集群
一、准备工作
1、虚拟机配置
1.1、安装epel-release
注：Extra Packages for Enterprise Linux是为“红帽系”的操作系统提供额外的软件包，适用于RHEL、CentOS和Scientific Linux。相当于是一个软件仓库，大多数rpm包在官方repository中是找不到的）
yum install -y epel-release
1.2、安装工具包
如果Linux安装的是最小系统版，还需要安装如下工具；如果安装的是Linux桌面标准版，不需要执行如下操作
net-tool：工具包集合，包含ifconfig等命令
yum install -y net-tools
vim：编辑器
yum install -y vim
1.3、关闭防火墙，关闭防火墙开机自启
systemctl stop firewalld
systemctl disable firewalld.service
注意：在企业开发时，通常单个服务器的防火墙时关闭的。公司整体对外会设置非常安全的防火墙
1.4、修改克隆机主机名，以bigdata01举例
vim /etc/hostname
修改为bigdata01
配置Linux克隆机主机名称映射hosts文件，打开/etc/hosts
vim /etc/hosts
添加以下内容：
192.168.10.102 bigdata01
192.168.10.103 bigdata02
192.168.10.104 bigdata03
以自己虚拟机的实际ip为准
2、下载jdk
JDK8官网下载路径：https://www.oracle.com/java/technologies/downloads/
点击登录Oracle账号就可以下载了（作为开发人员肯定有Oracle账号）
3、下载hadoop
我这里用的3.3.4版本 推荐使用清华大学镜像下载很快https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-3.3.4/
点击下载就可以了
到此前期的准备工作已经完成，开始部署
二、部署Hadoop集群
1、安装jdk
1.1、解压jdk
这里我在/opt目录下创建software和module两个文件夹
提前把jdk和hadoop的压缩包传到software文件夹里
然后开始解压缩，把文件压缩到/opt/module/目录下
tar -zxvf jdk-8u341-linux-x64.tar.gz -C /opt/module/
注意压缩包的名字别写错了，我这里的压缩包名可能跟你的不一样
1.2、配置环境变量
常规做法是vi /etc/profile，直接在后面写东西，但发现创建新的.sh文件更加方便直观，我在这里采用一种新的方法
先进入profile.d这个文件夹看一下,里面有各种各样的.sh文件，我们这里创建一个新的.sh文件。
新建/etc/profile.d/my_env.sh文件
vim /etc/profile.d/my_env.sh
添加如下内容：
#JAVA_HOME
export JAVA_HOME=/opt/module/jdk1.8.0_341
export PATH=$PATH:$JAVA_HOME/bin
写完之后出来source一下
source /etc/profile
输入java或java -version能看到信息就证明jdk安装成功了
2、安装Hadoop
2.1、解压Hadoop
跟jdk安装一样先到software目录下解压Hadoop压缩包
tar -zxvf hadoop-3.3.4.tar.gz -C /opt/module/
2.2、配置环境变量
vi /etc/profile.d/my_env.sh
注意看清文件名
#HADOOP_HOME
export HADOOP_HOME=/opt/module/hadoop-3.3.4
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin
最后再source一下
source /etc/profile
hadoop
source完之后，输入hadoop或hadoop version回车能看到内容说明hadoop已经安装完成
我们进到hadoop目录里面
bin、etc、sbin这三个目录非常重要，后期会经常使用，这里只简单说一下文件里的内容大体有什么，可以自行查找资料，我后期可能会更新相关内容，建议关注一下我!
（1）bin目录：存放对Hadoop相关服务（hdfs，yarn，mapred）进行操作的脚本
（2）etc目录：Hadoop的配置文件目录，存放Hadoop的配置文件
（3）sbin目录：存放启动或停止Hadoop相关服务的脚本
3、Hadoop完全分布式集群
Hadoop运行模式包括：本地模式、伪分布式模式以及完全分布式模式。
①本地模式：单机运行，只是用来演示一下官方案例。生产环境不用。
②伪分布式模式：也是单机运行，但是具备Hadoop集群的所有功能，一台服务器模拟一个分布式的环境，个别缺钱的公司用来测试，生产环境不用。
③完全分布式模式：多台服务器组成分布式环境。生产环境使用。
这篇文章只介绍最牛皮的分布式环境，其他两种模式太low，大家可以自行搜索学习
3.1、scp（secure copy）安全拷贝
3.1.1、scp定义
scp可以实现服务器与服务器之间的数据拷贝。（from server1 to server2）
3.1.2、基本语法
scp -r $pdir/$fname $user@$host:$pdir/$fname
命令 递归 要拷贝的文件路径/名称 目的地用户@主机:目的地路径/名称
3.1.3、实操
前提：在hadoop102、hadoop103、hadoop104都已经创建好的/opt/module和/opt/software两个目录
①在hadoop102上，将hadoop102中/opt/module/jdk1.8.0_314目录拷贝到hadoop103上
scp -r jdk1.8.0_341/ root@hadoop103:/opt/module/
②那么问题来了能不能再hadoop103上拉取hadoop的文件呢
在hadoop103上，将hadoop102中/opt/module/hadoop-3.3.4目录拷贝到hadoop103上。
scp -r root@hadoop102:/opt/module/hadoop-3.3.4 /opt/module/
结果显而易见也是可以的
③那么问题又来了，能不能在hadoop103上拉取hadoop102的文件给hadoop104呢
在hadoop103上操作，将hadoop102中/opt/module目录下所有目录拷贝到hadoop104上。
scp -r root@hadoop102:/opt/module/* root@hadoop104:/opt/module/
我们发现也是可以的，是不是很神奇，这就是scp的强大之处
3.2、rsync远程同步工具
rsync主要用于备份和镜像。具有速度快、避免复制相同内容和支持符号链接的优点。
rsync和scp区别：用rsync做文件的复制要比scp的速度快，rsync只对差异文件做更新。scp是把所有文件都复制过去。
rsync -av $pdir/$fname $user@$host:$pdir/$fname
命令 选项参数 要拷贝的文件路径/名称 目的地用户@主机:目的地路径/名称
选项参数说明：
| 选项 | 说明 |
|---|---|
| -a | 归档拷贝 |
| -v | 显示复制过程 |
3.3、xsync集群分发脚本
3.3.1、需求：循环复制文件到所有节点的相同目录下
3.3.2、需求分析：
（1）rsync命令原始拷贝：
rsync -av /opt/module root@hadoop103:/opt/
（2）期望脚本：
xsync+要同步的文件名称
（3）期望脚本在任何路径都能使用（脚本放在声明了全局环境变量的路径）
echo $PATH
/usr/local/bin:/usr/bin:/usr/local/sbin:/usr/sbin:/home/atguigu/.local/bin:/home/atguigu/bin:/opt/module/jdk1.8.0_212/bin
3.3.3、脚本实现
（1）在/home/atguigu/bin目录下创建xsync文件
cd /home/atguigu
mkdir bin
cd bin
vim xsync
在该文件中编写如下代码
#!/bin/bash
#1. 判断参数个数
if [ $# -lt 1 ]
then
echo Not Enough Arguement!
exit;
fi
#2. 遍历集群所有机器
for host in hadoop102 hadoop103 hadoop104
do
echo ==================== $host ====================
#3. 遍历所有目录，挨个发送
for file in $@
do
#4. 判断文件是否存在
if [ -e $file ]
then
#5. 获取父目录
pdir=$(cd -P $(dirname $file); pwd)
#6. 获取当前文件的名称
fname=$(basename $file)
ssh $host "mkdir -p $pdir"
rsync -av $pdir/$fname $host:$pdir
else
echo $file does not exists!
fi
done
done
（2）修改脚本 xsync 具有执行权限
chmod 777 xsync
（3）测试脚本
xsync /home/root/bin
（4）将脚本复制到/bin中，以便全局调用
sudo cp xsync /bin/
（5）同步环境变量配置（root所有者）
xsync /etc/profile.d/my_env.sh
注意：如果用了sudo，那么xsync一定要给它的路径补全。
让环境变量生效
[root@hadoop103 bin]$ source /etc/profile
[root@hadoop104 opt]$ source /etc/profile
3.4、SSH无密登录
3.4.1、基本语法
ssh另一台电脑的IP地址
3.4.2、ssh连接时出现Host key verification failed的解决方法
[root@hadoop102 ~]$ ssh hadoop103
如果出现如下内容
Are you sure you want to continue connecting (yes/no)?
输入yes，并回车
（3）退回到hadoop102
[root@hadoop103 ~]$ exit
3.4.3、无密钥配置
生成公钥和私钥
cd root
ls -al
cd .ssh
ssh-keygen -t rsa
现在我们就看到文件夹里有一个私钥一个公钥
我们分别打印看一下
现看私钥 cat id_rsa
长这样
再看一下公钥 cat id_rsa.pub
将公钥拷贝到要免密登录的目标机器上
然后我们再试一下
ssh hadoop103
ssh hadoop104
我们可以看到不用再输密码了
为了方便使用我们可以给hadoop103和hadoop104两台机器再按照上述操作配一下
3.5、集群配置
3.5.1、集群部署规划
注意：
按理说NameNode和SecondaryNameNode不要安装在同一台服务器。ResourceManager也很消耗内存，不要和NameNode、SecondaryNameNode配置在同一台机器上。为了测试方便将NameNode和SecondaryNameNode装在了一台主机上。
3.5.2、配置文件说明
Hadoop配置文件分两类：默认配置文件和自定义配置文件，只有用户想修改某一默认配置值时，才需要修改自定义配置文件，更改相应属性值。
①默认配置文件：
②自定义配置文件：
core-site.xml、hdfs-site.xml、yarn-site.xml、mapred-site.xml四个配置文件存放在$HADOOP_HOME/etc/hadoop这个路径上，用户可以根据项目需求重新进行修改配置。
3.5.3、配置自定义文件
①核心配置文件
配置core-site.xml
vim core-site.xml
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://bigdata01:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/opt/module/hadoop/hadoop_repo</value>
</property>
</configuration>
②HDFS配置文件
配置hdfs-site.xml
vim hdfs-site.xml
<configuration>
<property>
<name>dfs.namenode.http-address</name>
<value>bigdata01:9870</value>
</property>
<property>
<name>dfs.namenode.secondary.http-address</name>
<value>bigdata03:9868</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/opt/module/hadoop/hadoop_repo</value>
</property>
</configuration>
③YARN配置文件
配置yarn-site.xml
vim yarn-site.xml
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.nodemanager.env-whitelist</name>
<value>JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CONF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAPRED_HOME</value>
</property>
<property>
<name>yarn.resourcemanager.hostname</name>
<value>bigdata01</value>
</property>
</configuration>
④MapReduce配置文件
配置mapred-site.xml
vim mapred-site.xml
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>
⑤修改hadoop-env.sh文件，在文件末尾增加环境变量信息
export JAVA_HOME=/opt/module/jdk1.8
export HADOOP_LOG_DIR=/opt/module/hadoop/logs
我们目前只是在hadoop102上配置好了，然后该分发给其他两个主机
xsync /opt/module/hadoop-3.1.3/etc/hadoop/
3.5.4、修改启动脚本
修改启动脚本
cd /opt/module/hadoop/sbin/
修改 start-dfs.sh ， stop-dfs.sh 这两个脚本文件，在文件前面增加如下内容
start-dfs.sh
HDFS_DATANODE_USER=root
HDFS_DATANODE_SECURE_USER=hdfs
HDFS_NAMENODE_USER=root
HDFS_SECONDARYNAMENODE_USER=root
stop-dfs.sh
HDFS_DATANODE_USER=root
HDFS_DATANODE_SECURE_USER=hdfs
HDFS_NAMENODE_USER=root
HDFS_SECONDARYNAMENODE_USER=root
修改 start-yarn.sh ， stop-yarn.sh 这两个脚本文件，在文件前面增加如下内容
start-yarn.sh
YARN_RESOURCEMANAGER_USER=root
HADOOP_SECURE_DN_USER=yarn
YARN_NODEMANAGER_USER=root
stop-yarn.sh
YARN_RESOURCEMANAGER_USER=root
HADOOP_SECURE_DN_USER=yarn
YARN_NODEMANAGER_USER=root
3.5.5、开启日志聚合功能
开启日志聚合功能需要修改yarn-site.xml的配置，增加yarn.log-aggregation-enable和yarn.log.server.url这两个参数
<property>
<name>yarn.log-aggregation-enable</name>
<value>true</value>
</property>
<property>
<name>yarn.log.server.url</name>
<value>http://bigdata01:19888/jobhistory/logs/</value>
</property>
<!-- 设置日志保留时间为7天 -->
<property>
<name>yarn.log-aggregation.retain-seconds</name>
<value>604800</value>
</property>
分发配置
xsync /opt/module/hadoop-3.3.4/etc/hadoop/yarn-site.xml
注意：修改这个配置想要生效需要重启集群。
启动historyserver进程，需要在集群的所有节点上都启动这个进程
bin/mapred --daemon start historyserver
3.6群起集群
3.6.1、配置workers
vim /opt/module/hadoop-3.3.4/etc/hadoop/workers
bigdata02
bigdata03
注意：该文件中添加的内容结尾不允许有空格，文件中不允许有空行。
同步所有节点配置文件
xsync /opt/module/hadoop-3.3.4/etc
3.6.2、启动集群
①如果集群是第一次启动，需要在hadoop102节点格式化NameNode
注意：格式化NameNode，会产生新的集群id，导致NameNode和DataNode的集群id不一致，集群找不到已往数据。如果集群在运行过程中报错，需要重新格式化NameNode的话，一定要先停止namenode和datanode进程，并且要删除所有机器的data和logs目录，然后再进行格式化。
hdfs namenode -format
②启动HDFS
sbin/start-all.sh
③Web端查看HDFS的NameNode
浏览器中输入：http://bigdata01:9870
查看HDFS上存储的数据信息
注意如果使用云服务器需要在安全组开放9870端口
⑤Web端查看YARN的ResourceManager
浏览器中输入：http://bigdata01:8088
查看YARN上运行的Job信息
注意如果使用云服务器需要在安全组开放9870端口
4、Hadoop常用端口号
5、所有配置文件整理
1、hadoop-env.sh：
export JAVA_HOME=/opt/module/jdk1.8
export HADOOP_LOG_DIR=/opt/module/hadoop/logs
2、core-site.xml
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://bigdata01:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/opt/module/hadoop/hadoop_repo</value>
</property>
</configuration>
3、hdfs-site.xml
<configuration>
<property>
<name>dfs.namenode.http-address</name>
<value>bigdata01:9870</value>
</property>
<property>
<name>dfs.namenode.secondary.http-address</name>
<value>bigdata03:9868</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/opt/module/hadoop/hadoop_repo</value>
</property>
</configuration>
4、yarn-site.xml
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.nodemanager.env-whitelist</name>
<value>JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CONF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAPRED_HOME</value>
</property>
<property>
<name>yarn.resourcemanager.hostname</name>
<value>bigdata01</value>
</property>
<property>
<name>yarn.log-aggregation-enable</name>
<value>true</value>
</property>
<property>
<name>yarn.log.server.url</name>
<value>http://bigdata01:19888/jobhistory/logs/</value>
</property>
</configuration>
5、mapred-site.xml
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>
6、works
bigdata02
bigdata03
7、start-dfs.sh ， stop-dfs.sh
start-dfs.sh
HDFS_DATANODE_USER=root
HDFS_DATANODE_SECURE_USER=hdfs
HDFS_NAMENODE_USER=root
HDFS_SECONDARYNAMENODE_USER=root
stop-dfs.sh
HDFS_DATANODE_USER=root
HDFS_DATANODE_SECURE_USER=hdfs
HDFS_NAMENODE_USER=root
HDFS_SECONDARYNAMENODE_USER=root
8、 start-yarn.sh ， stop-yarn.sh
start-yarn.sh
YARN_RESOURCEMANAGER_USER=root
HADOOP_SECURE_DN_USER=yarn
YARN_NODEMANAGER_USER=root
stop-yarn.sh
YARN_RESOURCEMANAGER_USER=root
HADOOP_SECURE_DN_USER=yarn
YARN_NODEMANAGER_USER=root
1219
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
