Hadoop-HA安装部署
1 集群规划
1.1 集群规划
1.2 所需安装包:
- jdk-8u172-linux-x64.tar.gz
- hadoop-2.6.0-cdh5.15.0.tar.gz
- zookeeper-3.4.5-cdh5.15.0.tar.gz
2 环境准备
以下操作除2.6外均需要对所有的节点进行操作
2.1 配置静态IP
2.2 修改主机名
# vi /etc/sysconfig/network
2.3 修改主机名映射
# vi /etc/hosts
所有主机的/etc/hosts文件保持一致(可以先在hadoop1主机上修改,然后使用scp拷贝到其他主机上去)
2.4 关闭防火墙
# service iptables stop
# chkconfig iptables off
2.5 关闭Linux安全子系统
# vi /etc/sysconfig/selinux
2.6 配置NTP服务
- 把PC1作为整个集群的时间同步服务器
- 集群中所有其他服务器都来这台服务器PC1同步时间
2.6.1 检查每台服务器所在的时区
# date –R
如果不是+800,如要通过如下命令调整
# rm -rf /etc/localtime
# ln -s /usr/share/zoneinfo/Asia/Shanghai /etc/localtime
2.6.2 安装ntp服务
# rpm -qa | grep ntp --查看ntp软件包是否已安装
# yum -y install ntp --如果没有那就需要安装ntp
2.6.3 修改ntp的配置文件(PC1)
# vi /etc/ntp.conf
* 去掉第18行的# 修改成自己的网段
restrict 192.168.111.0 mask 255.255.255.0 nomodify notrap
- 注释掉以下几行(22行)
#server 0.centos.pool.ntp.org iburst
#server 1.centos.pool.ntp.org iburst
#server 2.centos.pool.ntp.org iburst
#server 3.centos.pool.ntp.org iburst
- CentsOS6.4 去掉注释第35 36行
server 127.127.1.0 #local clock
fudge 127.127.1.0 stratum 10
2.6.4 启动ntp服务(默认式开始)PC1
# service ntpd restart
# chkconfig ntopd on
2.6.5 制定周期性时间同步计划任务(除PC1外的所有节点)
每10分钟同步一次时间
# crontab -e
*/10 * * * * /usr/sbin/ntpdate bigdata01
2.7 创建相同普通用户名和密码
后续步骤使用创建的用户操作
2.8 配置SSH免密钥登录
如果不配置, sbin/start-dfs.sh
和sbin/start-yarn.sh
执行会报错
- 生产当前主机的公钥和私钥
$ssh-keygen
- 分发密钥(要向本机和其他节点都发送)
$ ssh-copy-id hadoop-20-5-11.lx-idc.net
- 需要配置NameNode/Standby到其他所有Datanode的免密钥登陆
- 需要配置ResourceManager/Standby到其他所有NodeManager的免密钥登陆
- 检查配置
$ cd ~
$ ls .ssh/
authorized_keys id_rsa id_rsa.pub known_hosts
- 测试失败,需要先删除.ssh目录,重做一遍
3 安装配置JDK
3.1 卸载自带的jdk
$ su root
# rpm -qa | grep jdk
# rpm -e --nodeps tzdata-java-2012j-1.el6.noarch
# rpm -e --nodeps java-1.6.0-openjdk-1.6.0.0-1.50.1.11.5.el6_3.x86_64
# rpm -e --nodeps java-1.7.0-openjdk-1.7.0.9-2.3.4.1.el6_3.x86_64
3.2 创建目录
分别在所有主机上/opt目录下创建software和apps目录
$ mkdir –p /opt/software /opt/apps
3.3 上传软件包
将jdk-8u172-linux-x64.tar.gz
上传到/opt/software下面,解压到/opt/apps下
$ tar -zxvf /opt/software/jdk-8u172-linux-x64.tar.gz -C /opt/apps
3.4 配置Java环境变量
$vi ~/.bash_profile
将下面3段加入到文件最后
export JAVA_HOME=/opt/apps/jdk1.8.0_172
export CLASS_PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$JAVA_HOME/bin:$PATH
$source ~/.bash_profile
- 分发jdk和.bash_profile到其他主机
- 检查java安装
$java –version
java version "1.8.0_172"
Java(TM) SE Runtime Environment (build 1.8.0_172-b11)
Java HotSpot(TM) 64-Bit Server VM (build 25.172-b11, mixed mode)
4 安装配置zookeeper
4.1 上传软件包
- 将
zookeeper-3.4.5-cdh5.15.0.tar.gz
上传到PC1主机的/opt/software
目录下 - 解压到
/opt/apps
下
$ tar –xvf /opt/software/zookeeper-3.4.5-cdh5.15.0.tar.gz –C /opt/apps
4.2 修改配置
4.2.1 修改zoo.cfg
$ cd /opt/apps/zookeeper-3.4.5-cdh5.15.0/conf
$ cp zoo_sample.cfg zoo.cfg
$ vi zoo.cfg
dataDir=/opt/apps/zookeeper-3.4.5-cdh5.15.0/data ---修改
---追加下面几行
server.1=hadoop-20-5-11.lx-idc.net:2888:3888
server.2=hadoop-20-5-12.lx-idc.net:2888:3888
server.3=hadoop-20-5-13.lx-idc.net:2888:3888
server.4=hadoop-20-5-14.lx-idc.net:2888:3888
server.5=hadoop-20-5-15.lx-idc.net:2888:3888
server.6=hadoop-20-5-16.lx-idc.net:2888:3888
4.2.2 创建myid文件
- 创建dataDir
$ mkdir –p /opt/apps/zookeeper-3.4.5-cdh5.15.0/data
- 在data文件夹下创建一个空文件myid,并向文件写入ID
$ cd /opt/apps/zookeeper-3.4.5-cdh5.15.0/data
$ touch myid
$ echo 1 > myid
4.3 配置环境变量
$ vi ~/.bash_profile ---追加如下内容
export ZOOKEEPER_HOME=/opt/apps/zookeeper-3.4.5-cdh5.15.0
export PATH=$ZOOKEEPER_HOME/bin:$PATH
$ souce /~/.bash_profile
$ echo $ZOOKEEPER_HOME
4.4 分发zookeeper到其他主机
- 按照规划的主机顺序依次拷贝配置好的zookeeper目录
- 按照顺序依次修改myid的内容为2/3/4/5/6
$ echo 2 > /opt/apps/zookeeper-3.4.5-cdh5.15.0/data/myid
- 按照PC1的方式配置其他主机的环境变量
4.5 验证zookeeper集群
$ zkServer.sh start
ZooKeeper JMX enabled by default
Using config: /opt/apps/zookeeper-3.4.5-cdh5.15.0/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
$ zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /opt/apps/zookeeper-3.4.5-cdh5.15.0/bin/../conf/zoo.cfg
Mode: leader
$ jps
3366 Jps
3225 QuorumPeerMain
$ zkServer.sh stop
ZooKeeper JMX enabled by default
Using config: /opt/apps/zookeeper-3.4.5-cdh5.15.0/bin/../conf/zoo.cfg
Stopping zookeeper ... STOPPED
5 安装配置Hadoop集群
5.1 上传软件包
- 上传安装hadoop-2.6.0-cdh5.15.0.tar.gz到hadoop1主机/opt/software上,并解压
$ tar -xvf /opt/software/hadoop-2.6.0-cdh5.15.0.tar.gz -C /opt/apps
- 建立目录
$ mkdir –p /opt/hadoop-data/tmp
5.2 配置环境变量
$ vi ~/.bash_profile
追加以下两行:
export HADOOP_HOME=/opt/apps/hadoop-2.6.0-cdh5.15.0
export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH
$ source ~/.bash_profile
$ echo $HADOOP_HOME
/opt/apps/hadoop-2.6.0-cdh5.15.0
5.3 修改配置文件
/opt/apps/hadoop-2.6.0-cdh5.15.0/etc/hadoop
5.3.1 修改hadoop-env.sh
export JAVA_HOME=/opt/apps/jdk1.8.0_172
5.3.2 修改core-site.xml
<configuration>
<!-- 指定hdfs的nameservice为ns1 -->
<property>
<name>fs.defaultFS</name>
<value>hdfs://ns</value>
</property>
<!-- 指定hadoop临时目录 -->
<property>
<name>hadoop.tmp.dir</name>
<value>/opt/hadoop-data/tmp</value>
</property>
<!-- 指定zookeeper地址 -->
<property>
<name>ha.zookeeper.quorum</name>
<value>hadoop-20-5-11.lx-idc.net:2181,hadoop-20-5-12.lx-idc.net:2181,hadoop-20-5-13.lx-idc.net:2181,hadoop-20-5-14.lx-idc.net:2181,hadoop-20-5-15.lx-idc.net:2181,hadoop-20-5-16.lx-idc.net:2181</value>
</property>
</configuration>
5.3.3 修改hdfs-site.xml
<configuration>
<!--指定hdfs的nameservice为ns1,需要和core-site.xml中的保持一致 -->
<property>
<name>dfs.nameservices</name>
<value>ns</value>
</property>
<!-- ns下面有两个NameNode,分别是nn1,nn2 -->
<property>
<name>dfs.ha.namenodes.ns</name>
<value>nn1,nn2</value>
</property>
<!-- nn1的RPC通信地址 -->
<property>
<name>dfs.namenode.rpc-address.ns.nn1</name>
<value>hadoop-20-5-11.lx-idc.net:9000</value>
</property>
<!-- nn1的http通信地址 -->
<property>
<name>dfs.namenode.http-address.ns.nn1</name>
<value>hadoop-20-5-11.lx-idc.net:50070</value>
</property>
<!-- nn2的RPC通信地址 -->
<property>
<name>dfs.namenode.rpc-address.ns.nn2</name>
<value>hadoop-20-5-12.lx-idc.net:9000</value>
</property>
<!-- nn2的http通信地址 -->
<property>
<name>dfs.namenode.http-address.ns.nn2</name>
<value>hadoop-20-5-12.lx-idc.net:50070</value>
</property>
<!-- 指定NameNode的元数据在JournalNode上的存放位置 -->
<property>
<name>dfs.namenode.shared.edits.dir</name>
<value>qjournal://hadoop-20-5-11.lx-idc.net:8485;hadoop-20-5-12.lx-idc.net:8485;hadoop-20-5-13.lx-idc.net:8485;hadoop-20-5-14.lx-idc.net:8485;hadoop-20-5-15.lx-idc.net:8485;hadoop-20-5-16.lx-idc.net:8485/ns</value>
</property>
<!-- 指定JournalNode在本地磁盘存放数据的位置 -->
<property>
<name>dfs.journalnode.edits.dir</name>
<value>/opt/hadoop-data/journal</value>
</property>
<!-- 开启NameNode失败自动切换 -->
<property>
<name>dfs.ha.automatic-failover.enabled</name>
<value>true</value>
</property>
<!-- 配置失败自动切换实现方式 -->
<property>
<name>dfs.client.failover.proxy.provider.ns</name>
<value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
</property>
<!-- 配置隔离机制方法,多个机制用换行分割,即每个机制占用一行-->
<property>
<name>dfs.ha.fencing.methods</name>
<value>
sshfence
shell(/bin/true)
</value>
</property>
<!-- 使用sshfence隔离机制时需要ssh免登陆 -->
<property>
<name>dfs.ha.fencing.ssh.private-key-files</name>
<value>/home/hadoop/.ssh/id_rsa</value>
</property>
<!-- 配置sshfence隔离机制超时时间 -->
<property>
<name>dfs.ha.fencing.ssh.connect-timeout</name>
<value>30000</value>
</property>
</configuration>
5.3.4 修改mapred-site.xml
<configuration>
<!-- 指定mr框架为yarn方式 -->
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
<property>
<name>mapreduce.jobhistory.address</name>
<value>hadoop-20-5-11.lx-idc.net:10020</value>
</property>
<property>
<name>mapreduce.jobhistory.webapp.address</name>
<value>hadoop-20-5-11.lx-idc.net:19888</value>
</property>
</configuration>
5.3.5 修改yarn-site.xml
<configuration>
<!-- Site specific YARN configuration properties -->
<!-- 开启RM高可靠 -->
<property>
<name>yarn.resourcemanager.ha.enabled</name>
<value>true</value>
</property>
<!-- 指定RM的cluster id -->
<property>
<name>yarn.resourcemanager.cluster-id</name>
<value>yrc</value>
</property>
<!-- 指定RM的名字 -->
<property>
<name>yarn.resourcemanager.ha.rm-ids</name>
<value>rm1,rm2</value>
</property>
<!-- 分别指定RM的地址 -->
<property>
<name>yarn.resourcemanager.hostname.rm1</name>
<value>hadoop-20-5-13.lx-idc.net</value>
</property>
<property>
<name>yarn.resourcemanager.hostname.rm2</name>
<value>hadoop-20-5-14.lx-idc.net</value>
</property>
<!-- 指定zk集群地址 -->
<property>
<name>yarn.resourcemanager.zk-address</name>
<value>hadoop-20-5-11.lx-idc.net:2181,hadoop-20-5-12.lx-idc.net:2181,hadoop-20-5-13.lx-idc.net:2181,hadoop-20-5-14.lx-idc.net:2181,hadoop-20-5-15.lx-idc.net:2181,hadoop-20-5-16.lx-idc.net:2181</value>
</property>
<!-- 在RM节点接管后,任务状态可以恢复-->
<property>
<name>yarn.resourcemanager.recovery.enabled</name>
<value>true</value>
</property>
<!-- 设置存储yarn中状态信息的地方,默认为hdfs,这里设置为zookeeper-->
<property>
<name>yarn.resourcemanager.store.class</name>
<value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value>
</property>
<!-- 使在yarn上能够运行mapreduce_shuffle程序-->
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
</configuration>
5.3.6 修改slaves
文件
hadoop-20-5-11.lx-idc.net
hadoop-20-5-12.lx-idc.net
hadoop-20-5-13.lx-idc.net
hadoop-20-5-14.lx-idc.net
hadoop-20-5-15.lx-idc.net
hadoop-20-5-16.lx-idc.net
5.4 分发配置好的Hadoop到其他主机
6 启动集群
6.1 启动zookeeper
每个主机上执行
$ zkServer.sh start
6.2 启动journalnode
每个主机上执行
$ cd /opt/apps/hadoop-2.6.0-cdh5.15.0/sbin
$ ./hadoop-daemon.sh start journalnode
6.3 启动HDFS
6.3.1 格式化HDFS
$ hdfs namenode –format
格式化后会在根据core-site.xml
中的hadoop.tmp.dir
配置生成个目录,这里我配置的是/opt/hadoop-data/tmp
,然后将/opt/hadoop-data/tmp
拷贝到hadoop-20-5-12.lx-idc.net
的/opt/hadoop-data
下
$ scp -r tmp hadoop@hadoop-20-5-12.lx-idc.net:/opt/hadoop-data/
6.3.2 格式化ZK
在hadoop-20-5-11.lx-idc.net上执行
$ hdfs zkfc –formatZK
6.3.3 启动HDFS
在hadoop-20-5-11.lx-idc.net
上执行
$ start-dfs.sh
$ jps ----检查进程,如果进程不正确,可以手动执行
$ cd /opt/apps/hadoop-2.6.0-cdh5.15.0
$ sbin/hadoop-daemon.sh start namenode
$ sbin/hadoop-daemon.sh start datanode
6.3.4 启动YARN
注意:是在hadoop-20-5-13.lx-idc.net
上执行start-yarn.sh
,把namenode和resourcemanager分开是因为性能问题,因为他们都要占用大量资源,所以把他们分开了,他们分开了就要分别在不同的机器上启动。
$ cd app/hadoop-2.6.0-cdh5.15.0/sbin
$ ./start-yarn.sh
$ jps ----检查进程,如果进程不正确,可以手动执行
$ sbin/yarn-daemon.sh start resourcemanager
$ sbin/yarn-daemon.sh start nodemanager
若备用节点(hadoop-20-5-14.lx-idc.ne)的resourcemanager没有起来,则手工启动
6.3.5 启动任务历史服务器
在hadoop-20-5-11.lx-idc.net服务器上启动mapreduce任务历史服务器
$ mr-jobhistory-daemon.sh start historyserver
$ jps
12019 NameNode
12404 JobHistoryServer
12517 Jps
12300 DFSZKFailoverController
7 测试集群
7.1 HDFS测试
$ cd /opt/apps/hadoop-2.6.0-cdh5.15.0
$ bin/hdfs dfs //可以查看所有的dfs相关的操作指令
$ bin/hdfs dfs -ls /
$ bin/hdfs dfs -mkdir -p /input/test
$ bin/hdfs dfs -put /opt/software/jdk-7u67-linux-x64.tar.gz/input/test
$ bin/hdfs dfs -rmdir /input/test
7.2 YARN任务测试
$ cd /tmp
$ touch 1.txt
$ cat 1.txt
hello world
hello abc
hello good
hello mysql
hello oracle
hello hadoop
hello hdfs
hello yarn
hello namenode
hello datanode
hello resourcemanager
hello nodemanager
$ cd /opt/apps/hadoop-2.6.0-cdh5.15.0
$ bin/hdfs dfs -mkdir -p /wordcount/input
$ bin/hdfs dfs -put /tmp/1.txt /wordcount/input