环境参数
项目 | 参数 | 备注 |
---|---|---|
操作系统 | CentOS7 | 1908 |
JDK | 1.8.0_212 | |
hadoop | 3.1.3 |
前期准备
Centos 1908单台安装
1)配置IP等,能够上网
2)安装epel-release
注:Extra Packages for Enterprise Linux 是为“红帽系”的操作系统提供额外的软件包,
适用于RHEL、CentOS 和Scientific Linux。相当于是一个软件仓库,大多数rpm 包在官方repository 中是找不到的)
[root@hadoop100 ~]# yum install -y epel-release
3)如果Linux 安装的是最小系统版,还需要安装如下工具;如果安装的是Linu桌面标准版,不需要执行如下操作
➢ net-tool:工具包集合,包含ifconfig 等命令
[root@hadoop100 ~]# yum install -y net-tools
➢ vim:编辑器
[root@hadoop100 ~]# yum install -y vim
4)关闭防火墙,关闭防火墙开机自启
[root@hadoop100 ~]# systemctl stop firewalld
[root@hadoop100 ~]# systemctl disable firewalld.service
5)创建用户并配置root权限
[root@hadoop100 ~]# useradd zyi
[root@hadoop100 ~]# passwd zyi
[root@hadoop100 ~]# vim /etc/sudoers
修改/etc/sudoers 文件,在%wheel 这行下面添加一行,如下所示:
#Allow root to run any commands anywhere
root ALL=(ALL) ALL
#Allows people in group wheel to run all commands
%wheel ALL=(ALL) ALL
zyi ALL=(ALL) NOPASSWD: ALL
这一行不要直接放到 root行下面,因为所有用户都属于 wheel组,先 配置了zyi具有免密功能,但是程序执行到 %wheel行时, 该功能又被覆盖回。所以zyi要放到 要放到 %wheel这行下面。
6)在/opt目录下创建文件夹 ,并修改所属主和组
root@h102 software]# mkdir /opt/module
root@h102 software]# mkdir /opt/software
root@h102 software]# chown zyi:zyi /opt/module/
root@h102 software]# chown zyi:zyi /opt/software/
7)卸载虚拟机自带的 JDK
[root@h102 jdk1.8.0_212]# rpm -qa | grep -i java # 查看现有哪些JDK
[root@h102 jdk1.8.0_212]# rpm -qa | grep -i java | xargs -n1 rpm -e --nodeps #卸载
➢ rpm -qa:查询所安装的所有rpm软件包
➢ grep -i:忽略大小写
➢ xargs -n1:表示每次只传递一个参数
➢ rpm -e –nodeps:强制卸载软件
根据需要克隆一定数量虚机
安装步骤
Hadoop下载地址 下载地址 :https://archive.apache.org/dist/hadoop/common/hadoop-3.1.3/
1)Scp两个安装包到/opt/software
root@h102 software]# ll
total 520600
-rw-r--r--. 1 root root 338075860 Jun 1 02:26 hadoop-3.1.3.tar.gz
-rw-r--r--. 1 root root 195013152 Jun 1 02:40 jdk-8u212-linux-x64.tar.gz
2)解压两个包到工作目录/opt/module
tar -zxvf jdk-8u212-linux-x64.tar.gz -C /opt/module/
tar -zxvf hadoop-3.1.3.tar.gz -C /opt/module/
3)配置环境变量
新建 /etc/profile.d/my_env.sh(在/etc/profile下,可以看到启动时遍历/etc/profile.d/*.sh)
vim /etc/profile.d/my_env.sh
#JAVA_HOME
export JAVA_HOME=/opt/module/jdk1.8.0_212
export PATH=$PATH:$JAVA_HOME/bin
#HADOOP
export HADOOP_HOME=/opt/module/hadoop-3.1.3
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin
source一下,使得新的环境变量生效
source /etc/profile
4)测试安装情况
[root@h102 software]# java -version
java version "1.8.0_212"
Java(TM) SE Runtime Environment (build 1.8.0_212-b10)
Java HotSpot(TM) 64-Bit Server VM (build 25.212-b10, mixed mode)
[root@h102 software]# hadoop version
Hadoop 3.1.3
Source code repository https://gitbox.apache.org/repos/asf/hadoop.git -r ba631c436b806728f8ec2f54ab1e289526c90579
Compiled by ztang on 2019-09-12T02:47Z
Compiled with protoc 2.5.0
From source with checksum ec785077c385118ac91aadde5ec9799
This command was run using /opt/module/hadoop-3.1.3/share/hadoop/common/hadoop-common-3.1.3.jar
hadoop目录结构
[root@h102 hadoop-3.1.3]# ll
total 176
drwxr-xr-x. 2 zyi zyi 183 Sep 12 2019 bin
drwxr-xr-x. 3 zyi zyi 20 Sep 11 2019 etc
drwxr-xr-x. 2 zyi zyi 106 Sep 12 2019 include
drwxr-xr-x. 3 zyi zyi 20 Sep 12 2019 lib
drwxr-xr-x. 4 zyi zyi 288 Sep 12 2019 libexec
-rw-rw-r--. 1 zyi zyi 147145 Sep 4 2019 LICENSE.txt
-rw-rw-r--. 1 zyi zyi 21867 Sep 4 2019 NOTICE.txt
-rw-rw-r--. 1 zyi zyi 1366 Sep 4 2019 README.txt
drwxr-xr-x. 3 zyi zyi 4096 Sep 11 2019 sbin
drwxr-xr-x. 4 zyi zyi 31 Sep 12 2019 share
(1)bin目录:存放对 Hadoop相关服务( hdfs,yarn,mapred)进行操作的脚本
(2)etc目录:Hadoop的配置文件目录,存放 Hadoop的配置文件
(3)lib目录:存放 Hadoop的本地库(对数据进行压缩解功能)
(4)sbin目录:存放启动或停止 Hadoop相关服务的脚本
(5)share目录:存放 Hadoop的依赖 jar包、文档 、和官方案例