1、下载Hadoop以及JAVA
本文用的是hadoop-3.2.0
下载地址:
http://mirrors.hust.edu.cn/apache/hadoop/common/hadoop-3.2.0/hadoop-3.2.0.tar.gz
本文用的是JAVA1.81
下载地址:https://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html
2、安装3台虚拟机并实现SSH免密登录
(1)安装三台虚拟机centos7
第一台正常安装,后两台做克隆。配置好IP地址,关闭防火墙跟SELINUX。
这三台机器的用户名以及对应的IP
192.168.10.198 server1
192.168.10.199 server2
192.168.10.200 server3
(2)修改用户名以及对应的IP
# vi /etc/hostname
改为server1
# vi /etc/hosts
另外两台虚拟机也按同样的设置,例如:centos7 2 为server2
设置完成后每台虚拟机都需要重启,重启生效。
配置完成后使用ping命令检查这3个机器是否相互ping得通,以server1为例,在什么执行命令:
# ping -c 3 server2
(3)进行SSH免密互登设置
#ssh-keygen -t dsa
在命令执行过程中敲击两遍回车,然后在/root/.ssh文件下生成id_dsa id_dsa.pub
在该文件下建立一个authorized_keys文件,将id_dsa.pub文件内容拷贝到authorized_keys文件中
另外两个虚拟机也执行 #ssh-keygen -t dsa操作,并分别将id_dsa.pub内容拷贝到第一台虚拟机的authorized_keys文件中。将第一台的authorized_keys文件拷贝到另外两台虚拟机的/root/.ssh/ 下面。
通过命令# ssh server2 看是否可以免密互登。通过命令exit退出。
3、给3台机器安装JAVA环境
(1)将文件拷贝到/usr/lib/jvm 解压缩
tar -xzvf jdk-8u201-linux-x64.tar
看到生成了jdk1.8.0_121文件
(2)修改/etc/profile这个文件,修改的方法很多,可以用远程工具下载该文件到本地系统,修改后,在上载上去,也可以直接使用vim命令对该文件进行修改(这里不打算详细展开讲vim命令),不管用什么方法只要在/etc/profile文件中增加如下配置即可,增加的内容是:
export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_121
export CLASSPATH=$:CLASSPATH:$JAVA_HOME/lib/
export PATH=$PATH:$JAVA_HOME/bin
(3)测试是否安装成功,执行命令 java -version回车
4、给3台机器安装Hadoop
注意:以下搭建过程中的端口设置,请先检查个人服务器是否有端口冲突。
(1)在opt目录下新建一个名为hadoop的目录,并将下载得到的hadoop-3.2.0.tar.gz解压到该目录。
tar -xzvf hadoop-3.2.0.tar.gz
(2)新建几个目录
在/root目录下新建几个目录,复制粘贴执行下面的命令:
mkdir /root/hadoop
mkdir /root/hadoop/tmp
mkdir /root/hadoop/var
mkdir /root/hadoop/dfs
mkdir /root/hadoop/dfs/name
mkdir /root/hadoop/dfs/data
(3)修改etc/hadoop中的一系列配置文件
/opt/hadoop/hadoop-3.2.0/etc/hadoop/
修改core-site.xml
在<configuration>
节点内加入配置:
<property>
<name>hadoop.tmp.dir</name>
<value>/root/hadoop/tmp</value>
<description>Abase for other temporary directories.</description>
</property>
<property>
<name>fs.default.name</name>
<value>hdfs://server1:9000</value>
</property>
注意: <value>hdfs://server1:9000</value>
此处应与hostname保持一致
修改hadoop-env.sh
将export JAVA_HOME=${JAVA_HOME}
修改为:
export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_121
说明:修改为自己的JDK路径。此处可以与系统JAVA环境一致,也可以单独配置。
修改hdfs-site.xml
在<configuration>
节点内加入配置:
<property>
<name>dfs.name.dir</name>
<value>/root/hadoop/dfs/name</value>
<description>Path on the local filesystem where theNameNode stores the namespace and transactions logs persistently.</description>
</property>
<property>
<name>dfs.data.dir</name>
<value>/root/hadoop/dfs/data</value>
<description>Comma separated list of paths on the localfilesystem of a DataNode where it should store its blocks.</description>
</property>
<property>
<name>dfs.replication</name>
<value>2</value>
</property>
<property>
<name>dfs.permissions</name>
<value>false</value>
<description>need not permissions</description>
</property>
说明:dfs.permissions配置为false后,可以允许不要检查权限就生成dfs上的文件,方便倒是方便了,但是你需要防止误删除,请将它设置为true,或者直接将该property节点删除,因为默认就是true。
新建并且修改mapred-site.xml
在该版本中,有一个名为mapred-site.xml的文件,复制该文件,后改名mapred-site.xml.template,命令是:
cp mapred-site.xml mapred-site.xml.template
修改这个新建的mapred-site.xml文件,在<configuration>
节点内加入配置:
<property>
<name>mapred.job.tracker</name>
<value>server1:49001</value>
</property>
<property>
<name>mapred.local.dir</name>
<value>/root/hadoop/var</value>
</property>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
注意: <value>server1:49001</value>
修改worker文件(hadoop3.2版本没有slaves文件,之前版本修改slaves文件)
修改worker文件,将里面的localhost删除,添加如下内容:
server2
server3
第二台虚拟机添加如下内容:
server1
server3
修改yarn-site.xml文件
在<configuration>
节点内加入配置(注意了,内存根据机器配置越大越好,我这里只配2个G是因为虚拟机安装测试):
<property>
<name>yarn.resourcemanager.hostname</name>
<value>server1</value>
</property>
<property>
<description>The address of the applications manager interface in the RM.</description>
<name>yarn.resourcemanager.address</name>
<value>${yarn.resourcemanager.hostname}:8032</value>
</property>
<property>
<description>The address of the scheduler interface.</description>
<name>yarn.resourcemanager.scheduler.address</name>
<value>${yarn.resourcemanager.hostname}:8030</value>
</property>
<property>
<description>The http address of the RM web application.</description>
<name>yarn.resourcemanager.webapp.address</name>
<value>${yarn.resourcemanager.hostname}:8088</value>
</property>
<property>
<description>The https adddress of the RM web application.</description>
<name>yarn.resourcemanager.webapp.https.address</name>
<value>${yarn.resourcemanager.hostname}:8090</value>
</property>
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>${yarn.resourcemanager.hostname}:8031</value>
</property>
<property>
<description>The address of the RM admin interface.</description>
<name>yarn.resourcemanager.admin.address</name>
<value>${yarn.resourcemanager.hostname}:8033</value>
</property>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.scheduler.maximum-allocation-mb</name>
<value>2048</value>
<discription>每个节点可用内存,单位MB,默认8182MB</discription>
</property>
<property>
<name>yarn.nodemanager.vmem-pmem-ratio</name>
<value>2.1</value>
</property>
<property>
<name>yarn.nodemanager.resource.memory-mb</name>
<value>2048</value>
</property>
<property>
<name>yarn.nodemanager.vmem-check-enabled</name>
<value>false</value>
</property>
注意:端口号与里面的值,后期优化配置需要修改,第一次配可以全复制。
说明:yarn.nodemanager.vmem-check-enabled这个的意思是忽略虚拟内存的检查,如果你是安装在虚拟机上,这个配置很有用,配上去之后后续操作不容易出问题。如果是实体机上,并且内存够多,可以将这个配置去掉。
(5)另外两台虚拟机也要配置
重复上述步骤。
4、启动Hadoop
因为server1是namenode,server2和server3都是datanode,所以只需要对server1进行初始化操作,也就是对hdfs进行格式化。
(1)进入到hserver1这台机器的/opt/hadoop/hadoop-3.2.0/bin目录,也就是执行命令:
cd /opt/hadoop/hadoop-3.2.0/bin
执行初始化脚本,也就是执行命令:
./hadoop namenode -format
等几秒没报错就是执行成功,格式化成功后,可以在看到在/root/hadoop/dfs/name/目录多了一个current目录,而且该目录内有一系列文件。
(2)在namenode上执行启动命令
因为server1是namenode,server2和server3都是datanode,所以只需要再server1上执行启动命令即可。
进入到server1这台机器的/opt/hadoop/hadoop-3.2.0/sbin目录
执行初始化脚本,也就是执行命令:
./start-all.sh
第一次执行上面的启动命令,会需要我们进行交互操作,在问答界面上输入yes回车。
执行过程中发生报错
解决办法:
修改start_dfs.sh stop-dfs.sh start-yarn.sh stop-yarn.sh
在start_dfs.sh 、stop-dfs.sh两个文件开头位置添加如下配置:
HDFS_DATANODE_USER=root
HADOOP_SECURE_DN_USER=root
HDFS_NAMENODE_USER=root
HDFS_SECONDARYNAMENODE_USER=root
注意:一定要是开头位置。
在start_yarn.sh 、stop-yarn.sh两个文件开头位置添加如下配置:
YARN_RESOURCEMANAGER_USER=root
HADOOP_SECURE_DN_USER=root
YARN_NODEMANAGER_USER=root
正常登陆的截图:
server1是我们的namanode,该机器的IP是192.168.10.198,在本地电脑访问如下地址:
http://192.168.10.198:9870/
自动跳转到了overview页面
注明:3.x 版本 NameNode 50070端口 -> 9870端口了
我以为端口号是50070,结果打不开,感谢网友yuanziqiang1995的指导,我才知道3.X版本后改了端口号!
在本地浏览器里访问如下地址:
http://192.168.10.198:8088/
自动跳转到了cluster页面
5、关闭Hadoop
本文为第一次搭建Hadoop集群的整理记录,在此感谢陈南志老师的博文,通过看陈老师的博文一步步搭建起来。再次对陈老师进行诚挚的感谢!
陈老师原博地址:https://blog.csdn.net/pucao_cug/article/details/71698903