4台Hadoop集群完全分布式搭建

一、集群拓扑结构


集群软件,如下所示:

  1. jdk-1.7.0
  2. hadoop-0.20.2
  3. mahout-0.5.0
  4. ubuntu-12.04
说明:
(1)四台计算机的用户名均为computer。
(2)所有软件均放在/home/computer/目录下面。
(3)master的作用是NameNode,Secondary,JobTracker。
(4)slaver1,slaver3,slaver4的作用是DataNode,TaskTracker。

二、准备工作

1、新建用户组hadoop,并且将computer加入hadoop

(1)sudo addgroup hadoop

(2)sudo gpasswd -a computer hadoop

说明:修改/etc/sudoers文件,在 root  ALL=(ALL:ALL) ALL下面添加computer  ALL=(ALL:ALL) ALL。4台计算机做同样的配置。

2、配置静态IP地址以及IP到机器名的映射

(1)sudo vim /etc/network/interfaces

iface eth0 inet static

address 192.168.1.2

netmask 255.255.255.0

说明:

其余三台计算机做相应的配置。

(2)sudo vim /etc/hosts

192.168.1.2  master

192.168.1.3  slaver1

192.168.1.5  slaver3

192.168.1.6  slaver4

说明:

4台计算机做同样的配置。

(3)重启网络服务

sudo /etc/init.d/networking restart

3、配置Java环境变量

(1)sudo vim /etc/profil

  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
集群规划: 主机名 IP 安装的软件 运行的进程 weekend01 192.168.1.201 jdk、hadoop NameNode、DFSZKFailoverController(zkfc) weekend02 192.168.1.202 jdk、hadoop NameNode、DFSZKFailoverController(zkfc) weekend03 192.168.1.203 jdk、hadoop ResourceManager weekend04 192.168.1.204 jdk、hadoop ResourceManager weekend05 192.168.1.205 jdk、hadoop、zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain weekend06 192.168.1.206 jdk、hadoop、zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain weekend07 192.168.1.207 jdk、hadoop、zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain 说明: 1.在hadoop2.0中通常由两个NameNode组成,一个处于active状态,另一个处于standby状态。Active NameNode对外提供服务,而Standby NameNode则不对外提供服务 仅同步active namenode的状态,以便能够在它失败时快速进行切换。 hadoop2.0官方提供了两种HDFS HA的解决方案,一种是NFS,另一种是QJM。这里我们使用简单的QJM。在该方案中,主备NameNode之间通过一组JournalNode同步元数据 信息,一条数据只要成功写入多数JournalNode即认为写入成功。通常配置奇数个JournalNode 这里还配置了一个zookeeper集群,用于ZKFC(DFSZKFailoverController)故障转移,当Active NameNode挂掉了,会自动切换Standby NameNode为standby状态 2.hadoop-2.2.0中依然存在一个问题,就是ResourceManager只有一个,存在单点故障,hadoop-2.4.1解决了这个问题,有两个ResourceManager,一个是Active,一个 是Standby,状态由zookeeper进行协调

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值