第七章:HadoopHA搭建

本文详细介绍了如何在6台虚拟机上搭建Hadoop2.0高可用(HA)集群,包括配置静态IP、关闭防火墙、设置主机名和SSH免密登录、安装Zookeeper、配置Hadoop的各个组件如NameNode、ResourceManager等,并提供了详细的步骤和配置文件示例。
摘要由CSDN通过智能技术生成

交流群:942277506,问题答案:董长春

  1. Hadoop2.0 HA搭建步骤
    1. 准备工作

6台虚拟机,内存512M,hadoop1~6

修改静态IP:192.168.65.121 ~ 126

    1. 架构图

 

    1. 集群节点分配
  • hadoop1

Zookeeper

NameNode(active)

Resourcemanager (active)

  • hadoop2

Zookeeper

NameNode (standby)

  • hadoop3

Zookeeper

ResourceManager(standby)

  • hadoop4

DataNode

NodeManager

JournalNode

  • hadoop5

DataNode

NodeManager

JournalNode

  • hadoop6

DataNode

NodeManager

JournalNode

    1. 安装步骤
      1. 固化IP

修改配置文件

cd /etc/sysconfig/network-scripts   #进入网络配置目录

dir ifcfg*                         #找到网卡配置文件

ifcfg-ens16777736  ifcfg-lo

vi ifcfg-ens16777736

或者

vim /etc/sysconfig/network-scripts/ifcfg-ens33

配置文件内容

TYPE=Ethernet

BOOTPROTO=static                              #改成static,针对NAT

NAME=eno16777736

UUID=4cc9c89b-cf9e-4847-b9ea-ac713baf4cc8

DEVICE=eno16777736

ONBOOT=yes               #开机启动此网卡

IPADDR=192.168.163.129   #固定IP地址

NETMASK=255.255.255.0    #子网掩码

GATEWAY=192.168.163.2    #网关和NAT自动配置的相同,不同则无法登录

DNS1=192.168.163.2       #和网关相同

重启网络

service network restart

ping www.baidu.com

 

      1. 永久关闭每台机器的防火墙

systemctl stop firewalld.service        #关闭防火墙服务

systemctl disable firewalld.service     #禁止防火墙开启启动

firewall-cmd --state                   #检查防火墙状态

      1. 为每台机器配置主机名*

hadoop1,hadoop2 ……

以及hosts文件

配置主机名

执行:vim /etc/hostname 修改为hadoop1~6

然后执行 hostname 主机名

达到不重启生效目的

配置hosts文件

执行:vim /etc/hosts

示例:

127.0.0.1 localhost

::1 localhost

192.168.65.121 hadoop1

192.168.65.122 hadoop2

192.168.65.123 hadoop3

192.168.65.124 hadoop4

192.168.65.125 hadoop5

192.168.65.126 hadoop6

      1. 为每台机器配置ssh免秘钥登录

执行:ssh-keygen

ssh-copy-id root@hadoop1 (分别发送到6台节点上)

vim /root/.ssh/known_hosts 检查是否配置成功

      1. 为每台机器安装jdk和配置JAVA_HOME

vim /etc/profile

在尾行添加

JAVA_HOME=/home/app/jdk1.8.0_65

JAVA_BIN=/home/app/jdk1.8.0_65/bin

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值