Cloudera CDH5 Hadoop集群的搭建

本文档详述了在CentOS 6.5上搭建Cloudera CDH5 Hadoop集群的过程,包括环境配置、主机规划、创建hadoop用户、配置hosts、关闭防火墙、时钟同步、安装mysql、权限配置、CM安装及集群配置等关键步骤。集群包含5个节点,分别部署了不同的组件,如NameNode、DataNode、Zookeeper等。
摘要由CSDN通过智能技术生成

环境

  • CentOS 6.5 x86_64
  • CDH 5.2.0
  • jdk1.7

集群规划为5个节点,每个节点的ip、主机名和部署的组件分配如下:

192.168.20.191  cm191.hadoop.d3dstore.com    元数据库,CM  

192.168.20.192  nn192.hadoop.d3dstore.com     NameNodeResourceMangerJobHistoryService

192.168.20.193  dn193.hadoop.d3dstore.com     DataNodeNodeManagerZookeeperHiveSqoopFlumeHbase

192.168.20.194  dn194.hadoop.d3dstore.com     DataNodeNodeManager

192.168.20.195  dn195.hadoop.d3dstore.com     DataNodeNodeManager ZookeeperSecondryNameNodeFlumeImpala



 创建1hadoop用户,并给用户设置无密码sudo权限:
1
adduser hadoop
2
passwd  hadoop
3
chmod u+w /etc/sudoers
4
vi  /etc/sudoers
增加: hadoop ALL=(root) NOPASSWD:ALL
5
chmod u-w /etc/sudoers 


1.1 配置hosts

vi /etc/sysconfig/network

NETWORKING=yes
HOSTNAME=cm191.hadoop.d3dstore.com


$ vi/etc/hosts

192.168.20.191 cm191.hadoop.d3dstore.com

192.168.20.192 nn192.hadoop.d3dstore.com

192.168.20.193 dn193.hadoop.d3dstore.com

192.168.20.194 dn194.hadoop.d3dstore.com

192.168.20.195dn195.hadoop.d3dstore.com


1.2关闭防火墙


$

service iptables stop (临时关闭)

$

chkconfig iptables off (重启后生效)



1.3 时钟同步

NTP服务器

集群中所有主机必须保持时间同步,如果时间相差较大会引起各种问题 具体思路如下:

1.       191节点作为ntp服务器与外界对时中心同步时间,随后对所有datanode

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值