hadoop分布式搭建

  1. 环境
    准备三台Linux系统(我使用的是CentOS系统)
    JDK版本1.7; hadoop2.5
    配置vi /etc/hosts 增加三台电脑的IP与本机名的映射
    配置NTP服务器(时间同步)
    –hadoop-study01.com
    rpm -qa|grep ntp –查看ntp软件
    ntpdate asia.poo.ntp.org–同步时间
    –hadoop-study02.com,-hadoop-study02.com,
    注:三台电脑都要配置相同的环境,保持网络的畅通
  2. 分布式集群配置文件
    配置jdk环境:hadoop-env.sh,yarn-env.sh , mapred-env.sh
    core-site.xml ,hdfs-site.xml, yarn-site.xml
    3.正式搭建
    首先同步三台计算机时间第一台机器配置信息,修改 vi /etc/ntp.conf
    一、按要求更改三处划线的地方:
    (1)取消前面的注释,并修改网段(192.168.17.0)
    restrict 192.168.17.0 mask 255.255.255.0 nomodify notrap
    (2)把下面三行加#注释
    #server 0.centos.pool.ntp.org
    #server 1.centos.pool.ntp.org
    #server 2.centos.pool.ntp.org
    (3)取消下面两行的#号
    server 127.127.1.0 # local clock
    fudge 127.127.1.0 stratum 10

ntp.conf配置文件
二、修改 /etc/sysconfig/ntpd 文件
插入:
SYNC_HWCLOCK=yes
这里写图片描述
配置完成后ntpdate asia.ntp.pool.org同步时间并使用 service ntpd start启动ntp服务, chkconfig ntpd on 设置为开机启动
起动ntp服务
查看ntp状态
第二,第三机器使用# crontab -e命令增加/10 * * * /usr/sbin/ntpdate bigdata01.ibeifeng.com
之后保存重启同步# service crond restart
这里写图片描述
如此配置时间同步服务完成,开始修改分布式环境配置文件
分布式搭建步骤::::
第三 >.确定角色分配
这里写图片描述
namenode配置在01机器,resourmanager配置02机器,secondarynamenode,historyserver配置在03机器,nodemanager,datenode,配置在所有机器上
第四:更改配置文件:
core-sitr.xml
core-site.xml
slaves
slaves
,mapred-site.xml
mapred-site.xml
yarn-site.xml
这里写图片描述
第五:启动服务:
01机器:hdfs
启动dfs
02机器:yarnyarn启动
03机器:jobhistory
jobhistory
使用jps查看进程。。。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值