Hadoop HA安装(zookeeper)

Hadoop-HA安装部署

1 集群规划

1.1 集群规划

这里写图片描述

1.2 所需安装包:

  • jdk-8u172-linux-x64.tar.gz
  • hadoop-2.6.0-cdh5.15.0.tar.gz
  • zookeeper-3.4.5-cdh5.15.0.tar.gz

2 环境准备

以下操作除2.6外均需要对所有的节点进行操作

2.1 配置静态IP

2.2 修改主机名

# vi /etc/sysconfig/network

2.3 修改主机名映射

# vi /etc/hosts

所有主机的/etc/hosts文件保持一致(可以先在hadoop1主机上修改,然后使用scp拷贝到其他主机上去)

2.4 关闭防火墙

# service iptables stop
# chkconfig iptables off

2.5 关闭Linux安全子系统

# vi /etc/sysconfig/selinux

2.6 配置NTP服务

  • 把PC1作为整个集群的时间同步服务器
  • 集群中所有其他服务器都来这台服务器PC1同步时间
2.6.1 检查每台服务器所在的时区

# date –R

如果不是+800,如要通过如下命令调整

# rm  -rf /etc/localtime
# ln -s /usr/share/zoneinfo/Asia/Shanghai  /etc/localtime
2.6.2 安装ntp服务
# rpm -qa | grep ntp      --查看ntp软件包是否已安装
# yum  -y install ntp     --如果没有那就需要安装ntp
2.6.3 修改ntp的配置文件(PC1)

# vi /etc/ntp.conf
* 去掉第18行的# 修改成自己的网段

restrict 192.168.111.0 mask 255.255.255.0 nomodify notrap
  • 注释掉以下几行(22行)
#server 0.centos.pool.ntp.org iburst
#server 1.centos.pool.ntp.org iburst
#server 2.centos.pool.ntp.org iburst
#server 3.centos.pool.ntp.org iburst
  • CentsOS6.4 去掉注释第35 36行
server 127.127.1.0     #local clock
    fudge 127.127.1.0  stratum 10
2.6.4 启动ntp服务(默认式开始)PC1
# service ntpd restart
# chkconfig ntopd on
2.6.5 制定周期性时间同步计划任务(除PC1外的所有节点)

每10分钟同步一次时间

# crontab -e
*/10 * * * * /usr/sbin/ntpdate bigdata01

2.7 创建相同普通用户名和密码

后续步骤使用创建的用户操作

2.8 配置SSH免密钥登录

如果不配置, sbin/start-dfs.shsbin/start-yarn.sh执行会报错

  1. 生产当前主机的公钥和私钥
    $ssh-keygen
  2. 分发密钥(要向本机和其他节点都发送)
    $ ssh-copy-id hadoop-20-5-11.lx-idc.net
  3. 需要配置NameNode/Standby到其他所有Datanode的免密钥登陆
  4. 需要配置ResourceManager/Standby到其他所有NodeManager的免密钥登陆
  5. 检查配置
$ cd ~
$ ls .ssh/
authorized_keys  id_rsa  id_rsa.pub  known_hosts
  1. 测试失败,需要先删除.ssh目录,重做一遍

3 安装配置JDK

3.1 卸载自带的jdk

$ su root
# rpm -qa | grep jdk
# rpm -e --nodeps tzdata-java-2012j-1.el6.noarch
# rpm -e --nodeps java-1.6.0-openjdk-1.6.0.0-1.50.1.11.5.el6_3.x86_64
# rpm -e --nodeps java-1.7.0-openjdk-1.7.0.9-2.3.4.1.el6_3.x86_64

3.2 创建目录

分别在所有主机上/opt目录下创建software和apps目录

$ mkdir –p /opt/software /opt/apps

3.3 上传软件包

jdk-8u172-linux-x64.tar.gz上传到/opt/software下面,解压到/opt/apps下
$ tar -zxvf /opt/software/jdk-8u172-linux-x64.tar.gz -C /opt/apps

3.4 配置Java环境变量

  1. $vi ~/.bash_profile 将下面3段加入到文件最后
export JAVA_HOME=/opt/apps/jdk1.8.0_172
export CLASS_PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/lib
export PATH=$JAVA_HOME/bin:$PATH 

$source ~/.bash_profile

  1. 分发jdk和.bash_profile到其他主机
  2. 检查java安装
$java –version
java version "1.8.0_172"
Java(TM) SE Runtime Environment (build 1.8.0_172-b11)
Java HotSpot(TM) 64-Bit Server VM (build 25.172-b11, mixed mode)

4 安装配置zookeeper

4.1 上传软件包

  1. zookeeper-3.4.5-cdh5.15.0.tar.gz上传到PC1主机的/opt/software目录下
  2. 解压到/opt/apps
$ tar –xvf /opt/software/zookeeper-3.4.5-cdh5.15.0.tar.gz –C /opt/apps

4.2 修改配置

4.2.1 修改zoo.cfg
$ cd /opt/apps/zookeeper-3.4.5-cdh5.15.0/conf
$ cp zoo_sample.cfg zoo.cfg
$ vi zoo.cfg    
dataDir=/opt/apps/zookeeper-3.4.5-cdh5.15.0/data   ---修改  
---追加下面几行
server.1=hadoop-20-5-11.lx-idc.net:2888:3888
server.2=hadoop-20-5-12.lx-idc.net:2888:3888
server.3=hadoop-20-5-13.lx-idc.net:2888:3888
server.4=hadoop-20-5-14.lx-idc.net:2888:3888
server.5=hadoop-20-5-15.lx-idc.net:2888:3888
server.6=hadoop-20-5-16.lx-idc.net:2888:3888
4.2.2 创建myid文件
  1. 创建dataDir
    $ mkdir –p /opt/apps/zookeeper-3.4.5-cdh5.15.0/data
  2. 在data文件夹下创建一个空文件myid,并向文件写入ID
   $ cd /opt/apps/zookeeper-3.4.5-cdh5.15.0/data
   $ touch myid
   $ echo 1 > myid

4.3 配置环境变量

$ vi ~/.bash_profile      ---追加如下内容
export ZOOKEEPER_HOME=/opt/apps/zookeeper-3.4.5-cdh5.15.0
export PATH=$ZOOKEEPER_HOME/bin:$PATH
$ souce /~/.bash_profile
$ echo $ZOOKEEPER_HOME

4.4 分发zookeeper到其他主机

  1. 按照规划的主机顺序依次拷贝配置好的zookeeper目录
  2. 按照顺序依次修改myid的内容为2/3/4/5/6
 $ echo 2 > /opt/apps/zookeeper-3.4.5-cdh5.15.0/data/myid
  1. 按照PC1的方式配置其他主机的环境变量

4.5 验证zookeeper集群

$ zkServer.sh start
ZooKeeper JMX enabled by default
Using config: /opt/apps/zookeeper-3.4.5-cdh5.15.0/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
$ zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /opt/apps/zookeeper-3.4.5-cdh5.15.0/bin/../conf/zoo.cfg
Mode: leader
$ jps
3366 Jps
3225 QuorumPeerMain
$ zkServer.sh stop
ZooKeeper JMX enabled by default
Using config: /opt/apps/zookeeper-3.4.5-cdh5.15.0/bin/../conf/zoo.cfg
Stopping zookeeper ... STOPPED

5 安装配置Hadoop集群

5.1 上传软件包

  1. 上传安装hadoop-2.6.0-cdh5.15.0.tar.gz到hadoop1主机/opt/software上,并解压
$ tar -xvf /opt/software/hadoop-2.6.0-cdh5.15.0.tar.gz -C /opt/apps
  1. 建立目录
$ mkdir –p /opt/hadoop-data/tmp

5.2 配置环境变量

$ vi ~/.bash_profile
追加以下两行:

export HADOOP_HOME=/opt/apps/hadoop-2.6.0-cdh5.15.0
export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH
$ source ~/.bash_profile
$ echo $HADOOP_HOME
/opt/apps/hadoop-2.6.0-cdh5.15.0

5.3 修改配置文件

/opt/apps/hadoop-2.6.0-cdh5.15.0/etc/hadoop

5.3.1 修改hadoop-env.sh
export JAVA_HOME=/opt/apps/jdk1.8.0_172
5.3.2 修改core-site.xml
<configuration>
        <!-- 指定hdfs的nameservice为ns1 -->
        <property>
                <name>fs.defaultFS</name>
                <value>hdfs://ns</value>
        </property>
        <!-- 指定hadoop临时目录 -->
        <property>
                <name>hadoop.tmp.dir</name>
                <value>/opt/hadoop-data/tmp</value>
        </property>
        <!-- 指定zookeeper地址 -->
        <property>
                <name>ha.zookeeper.quorum</name>
                <value>hadoop-20-5-11.lx-idc.net:2181,hadoop-20-5-12.lx-idc.net:2181,hadoop-20-5-13.lx-idc.net:2181,hadoop-20-5-14.lx-idc.net:2181,hadoop-20-5-15.lx-idc.net:2181,hadoop-20-5-16.lx-idc.net:2181</value>
        </property>
</configuration>
5.3.3 修改hdfs-site.xml
<configuration>
        <!--指定hdfs的nameservice为ns1,需要和core-site.xml中的保持一致 -->
        <property>
                <name>dfs.nameservices</name>
                <value>ns</value>
        </property>
        <!-- ns下面有两个NameNode,分别是nn1,nn2 -->
        <property>
                <name>dfs.ha.namenodes.ns</name>
                <value>nn1,nn2</value>
        </property>
        <!-- nn1的RPC通信地址 -->
        <property>
                <name>dfs.namenode.rpc-address.ns.nn1</name>
                <value>hadoop-20-5-11.lx-idc.net:9000</value>
        </property>
        <!-- nn1的http通信地址 -->
        <property>
                <name>dfs.namenode.http-address.ns.nn1</name>
                <value>hadoop-20-5-11.lx-idc.net:50070</value>
        </property>
        <!-- nn2的RPC通信地址 -->
        <property>
                <name>dfs.namenode.rpc-address.ns.nn2</name>
                <value>hadoop-20-5-12.lx-idc.net:9000</value>
        </property>
        <!-- nn2的http通信地址 -->
        <property>
                <name>dfs.namenode.http-address.ns.nn2</name>
                <value>hadoop-20-5-12.lx-idc.net:50070</value>
        </property>
        <!-- 指定NameNode的元数据在JournalNode上的存放位置 -->
        <property>
                <name>dfs.namenode.shared.edits.dir</name>
                <value>qjournal://hadoop-20-5-11.lx-idc.net:8485;hadoop-20-5-12.lx-idc.net:8485;hadoop-20-5-13.lx-idc.net:8485;hadoop-20-5-14.lx-idc.net:8485;hadoop-20-5-15.lx-idc.net:8485;hadoop-20-5-16.lx-idc.net:8485/ns</value>
        </property>
        <!-- 指定JournalNode在本地磁盘存放数据的位置 -->
        <property>
                <name>dfs.journalnode.edits.dir</name>
                <value>/opt/hadoop-data/journal</value>
        </property>
        <!-- 开启NameNode失败自动切换 -->
        <property>
                <name>dfs.ha.automatic-failover.enabled</name>
                <value>true</value>
        </property>
        <!-- 配置失败自动切换实现方式 -->
        <property>
                <name>dfs.client.failover.proxy.provider.ns</name>
                <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
        </property>
        <!-- 配置隔离机制方法,多个机制用换行分割,即每个机制占用一行-->
        <property>
                <name>dfs.ha.fencing.methods</name>
                <value>
                        sshfence
                        shell(/bin/true)
                </value>
        </property>
        <!-- 使用sshfence隔离机制时需要ssh免登陆 -->
        <property>
                <name>dfs.ha.fencing.ssh.private-key-files</name>
                <value>/home/hadoop/.ssh/id_rsa</value>
        </property>
        <!-- 配置sshfence隔离机制超时时间 -->
        <property>
                <name>dfs.ha.fencing.ssh.connect-timeout</name>
                <value>30000</value>
        </property>
</configuration>
5.3.4 修改mapred-site.xml
<configuration>
        <!-- 指定mr框架为yarn方式 -->
        <property>
                <name>mapreduce.framework.name</name>
                <value>yarn</value>
        </property>
        <property>
                <name>mapreduce.jobhistory.address</name>
                <value>hadoop-20-5-11.lx-idc.net:10020</value>
        </property>
        <property>
                <name>mapreduce.jobhistory.webapp.address</name>
                <value>hadoop-20-5-11.lx-idc.net:19888</value>
        </property>
</configuration>
5.3.5 修改yarn-site.xml
<configuration>

<!-- Site specific YARN configuration properties -->
        <!-- 开启RM高可靠 -->
        <property>
                <name>yarn.resourcemanager.ha.enabled</name>
                <value>true</value>
        </property>
        <!-- 指定RM的cluster id -->
        <property>
                <name>yarn.resourcemanager.cluster-id</name>
                <value>yrc</value>
        </property>
        <!-- 指定RM的名字 -->
        <property>
                <name>yarn.resourcemanager.ha.rm-ids</name>
                <value>rm1,rm2</value>
        </property>
        <!-- 分别指定RM的地址 -->
        <property>
                <name>yarn.resourcemanager.hostname.rm1</name>
                <value>hadoop-20-5-13.lx-idc.net</value>
        </property>
        <property>
                <name>yarn.resourcemanager.hostname.rm2</name>
                <value>hadoop-20-5-14.lx-idc.net</value>
        </property>
        <!-- 指定zk集群地址 -->
        <property>
                <name>yarn.resourcemanager.zk-address</name>
                <value>hadoop-20-5-11.lx-idc.net:2181,hadoop-20-5-12.lx-idc.net:2181,hadoop-20-5-13.lx-idc.net:2181,hadoop-20-5-14.lx-idc.net:2181,hadoop-20-5-15.lx-idc.net:2181,hadoop-20-5-16.lx-idc.net:2181</value>
        </property>
        <!-- 在RM节点接管后,任务状态可以恢复-->
        <property>
                <name>yarn.resourcemanager.recovery.enabled</name>
                <value>true</value>
        </property>
        <!-- 设置存储yarn中状态信息的地方,默认为hdfs,这里设置为zookeeper-->
        <property>
                <name>yarn.resourcemanager.store.class</name>
                <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value>
        </property>
        <!-- 使在yarn上能够运行mapreduce_shuffle程序-->
        <property>
                <name>yarn.nodemanager.aux-services</name>
                <value>mapreduce_shuffle</value>
        </property>
</configuration>
5.3.6 修改slaves文件
hadoop-20-5-11.lx-idc.net
hadoop-20-5-12.lx-idc.net
hadoop-20-5-13.lx-idc.net
hadoop-20-5-14.lx-idc.net
hadoop-20-5-15.lx-idc.net
hadoop-20-5-16.lx-idc.net

5.4 分发配置好的Hadoop到其他主机

6 启动集群

6.1 启动zookeeper

每个主机上执行
$ zkServer.sh start

6.2 启动journalnode

每个主机上执行

$ cd /opt/apps/hadoop-2.6.0-cdh5.15.0/sbin
$ ./hadoop-daemon.sh start journalnode

6.3 启动HDFS

6.3.1 格式化HDFS
$ hdfs namenode –format

格式化后会在根据core-site.xml中的hadoop.tmp.dir配置生成个目录,这里我配置的是/opt/hadoop-data/tmp,然后将/opt/hadoop-data/tmp拷贝到hadoop-20-5-12.lx-idc.net/opt/hadoop-data

$ scp -r tmp hadoop@hadoop-20-5-12.lx-idc.net:/opt/hadoop-data/
6.3.2 格式化ZK

在hadoop-20-5-11.lx-idc.net上执行
$ hdfs zkfc –formatZK

6.3.3 启动HDFS

hadoop-20-5-11.lx-idc.net上执行

$ start-dfs.sh
$ jps              ----检查进程,如果进程不正确,可以手动执行
$ cd /opt/apps/hadoop-2.6.0-cdh5.15.0
$ sbin/hadoop-daemon.sh start namenode
$ sbin/hadoop-daemon.sh start datanode
6.3.4 启动YARN

注意:是在hadoop-20-5-13.lx-idc.net上执行start-yarn.sh,把namenode和resourcemanager分开是因为性能问题,因为他们都要占用大量资源,所以把他们分开了,他们分开了就要分别在不同的机器上启动。

$ cd app/hadoop-2.6.0-cdh5.15.0/sbin
$ ./start-yarn.sh
$ jps              ----检查进程,如果进程不正确,可以手动执行
$ sbin/yarn-daemon.sh start resourcemanager
$ sbin/yarn-daemon.sh start nodemanager

若备用节点(hadoop-20-5-14.lx-idc.ne)的resourcemanager没有起来,则手工启动

6.3.5 启动任务历史服务器

在hadoop-20-5-11.lx-idc.net服务器上启动mapreduce任务历史服务器

$ mr-jobhistory-daemon.sh start historyserver
$ jps
12019 NameNode
12404 JobHistoryServer
12517 Jps
12300 DFSZKFailoverController

7 测试集群

7.1 HDFS测试

$ cd /opt/apps/hadoop-2.6.0-cdh5.15.0
$ bin/hdfs dfs   //可以查看所有的dfs相关的操作指令
$ bin/hdfs dfs -ls /  
$ bin/hdfs dfs -mkdir -p /input/test
$ bin/hdfs dfs  -put /opt/software/jdk-7u67-linux-x64.tar.gz/input/test
$ bin/hdfs dfs  -rmdir /input/test

7.2 YARN任务测试

$ cd /tmp
$ touch 1.txt
$ cat 1.txt
hello world
hello abc
hello good
hello mysql
hello oracle
hello hadoop
hello hdfs
hello yarn
hello namenode
hello datanode
hello resourcemanager
hello nodemanager
$ cd /opt/apps/hadoop-2.6.0-cdh5.15.0
$ bin/hdfs dfs -mkdir -p /wordcount/input
$ bin/hdfs dfs -put /tmp/1.txt /wordcount/input

7.3 高可用性测试

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值