hadoop 1.2.0集群搭建

  1. 修改网卡的名称:
  2. cd /etc/udev/rules.d/  vim 70-persistent-net.rules
  3.   
  4. Hadoop1.2.0集群搭建
    1. 目标 : 一台master(实现NameNode Jobtracker),两台slave(实现DataNode taskTracker)集群
    2. 环境准备
      1. 安装ssh软件。(yum install ssh\* -y )
      2. 实现每个机器的名称管理(主机名 对应IP)。生产环境中采用DNS来完成。测试环境可以采用修改本地hosts文件。
      3. 配置完成执行scp /etc/hosts slave1:/ect/hosts;scp /etc/host slave2:/etc/hosts ;scp /etc/host master:/etc/hosts 。到此每个机器上都有了各台机器的名称(包括自己)。
      4. 实现免密登录
        1. 每个机器上执行ssh-keygen -t rsa,产生自己的公钥和私钥。
        2. 为了实现master管控其他机器。master必须要实时登录其他机器,因此要实现master免密登录其他机器。故在master机器上执行ssh-copy-id slave1、ssh-copy-id slave2 、还有master自己ssh-copy-id master。至此master实现ssh免密登录。
      5. 安装指定java(hadoop 1.x 使用JDK6)
        1. 将解压后的文件拷贝到 /usr/java 目录中。(保证原有的java已经卸载)
        2. 配置环境变量 vim /etc/profile  export JAVA_HOME=/usr/java  export PATH=$JAVA_HOME/bin:$PATH
      6. 复制Hadoop1.2.0解压文件到/bigdata/hadoop-1.2.0/
        1. 修改 /bigdata/hadoop1.2.0/conf/下的指定文件:
          1. hadoop-env.sh
            1. 去除export JAVA_HOME 的注释。将新的java路径写到等号有右边。

          2. core-site.xml
            1. 在<configuration></configuration>
          3. hdfs.site.xml
          4. maperd.site.xml

          5. 修改master文件中为:master 指定NameNode 和jobtracker在master机器上
          6. 修改slaves文件中为:slave1 slave2
        2. 配置hadoop环境变量
          1. vim /etc/profile  在下面加入
          2. source /etc/profile使得文件生效。
      7. 分发安装环境环境到集群其他节点
        1. 分发java环境
          1. 在master上执行:scp -r /usr/java root@slave1:/usr/java
            1. 在master上执行:scp /etc/profile slave1:/etc/profile
          2. 针对slave2执行相同操作!!!
        2. 分发hadoop环境到集群其他节点上。
          1. 在master上执行:scp -r /bigdata slave1:/bigdata(分发的时候将整个hadoop文件copy过去,保证master与slave相同,尤其是其中的conf文件夹)。
            1. 在master上执行:ssh slave1 /etc/profile
          2. slave2执行与上相同操作
      8. 格式化Namen,
        1. master 上执行:hadoop namenode -format
        2. start-all.sh启动hadoop。如果没有配置免密登录。需要我们多次输入密码。启动状态
          1. master 
          2. slave  
          3.      
      9. 特别注意要放开防火墙,关闭SELinux(如何关闭SELinux自行百度)。
  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值