创建六台linux centos7(redhat)虚拟机,起名分别为hadoop001,hadoop002,hadoop003,hadoop004,hadoop005,hadoop006
创建用户hadoop,设置为sudo用户。
1、关闭防火墙
2、配置主机名
3、配置hosts
4、配置密码互通
5、安装jdk1.8
6、安装hadoop
以上参看hadoop单节点安装(注意六台机器都要分别配置)
https://blog.csdn.net/starkpan/article/details/85470433
7、搭建zookeeper集群
参看zookeeper集群搭建
https://blog.csdn.net/starkpan/article/details/85562113
8、配置hadoop001
(1)修改hadoop-env.sh
通过vim打开
vim [hadoop]/etc/hadoop/hadoop-env.sh
主要是修改java_home的路径,在hadoop-env.sh的第27行,把export JAVA_HOME=${JAVA_HOME}修改成具体的路径。
export JAVA_HOME=/home/root/app/jdk1.8.0_181
重新加载使修改生效
source hadoop-env.sh
(2)配置hdfs-site.xml
<configuration>
<!--执行hdfs的nameservice为ns,和core-site.xml保持一致-->
<property>
<name>dfs.nameservices</name>
<value>ns</value>
</property>
<!--ns下有两个namenode,分别是nn1,nn2-->
<property>
<name>dfs.ha.namenodes.ns</name>
<value>nn1,nn2</value>
</property>
<!--nn1的RPC通信地址-->
<property>
<name>dfs.namenode.rpc-address.ns.nn1</name>
<value>hadoop001:9000</value>
</property>
<!--nn1的http通信地址-->
<property>
<name>dfs.namenode.http-address.ns.nn1</name>
<value>hadoop001:50070</value>
</property>
<!--nn2的RPC通信地址-->
<property>
<name>dfs.namenode.rpc-address.ns.nn2</name>
<value>hadoop002:9000</value>
</property>
<!--nn2的http通信地址-->
<property>
<name>dfs.namenode.http-address.ns.nn2</name>
<value>hadoop002:50070</value>
</pr