Linux上安装Hadoop集群(CentOS7+hadoop-2.8.0)

1下载hadoop

2安装3个虚拟机并实现ssh免密码登录

        2.1安装3个机器

        2.2检查机器名称

        2.3修改/etc/hosts文件

        2.4 给3个机器生成秘钥文件

        2.5 在hserver1上创建authorized_keys文件

        2.6将authorized_keys文件复制到其他机器

        2.7 测试使用ssh进行无密码登录

                   2.7.1在hserver1上进行测试

                   2.7.2在hserver2上进行测试

                   2.7.3在hserver3上进行测试

3安装jdk和hadoop

         3.1安装JDK

         3.2安装hadoop

                  3.2.1上载文件并解压缩

                  3.2.2新建几个目录

                  3.2.3修改etc/hadoop中的一系列配置文件

                              3.2.3.1修改core-site.xml

                              3.2.3.2修改hadoop-env.sh

                              3.2.3.3修改hdfs-site.xml

                              3.2.3.4新建并且修改mapred-site.xml

                              3.2.3.5修改slaves文件

                              3.2.3.6修改yarn-site.xml文件

4启动hadoop

              4.1在namenode上执行初始化

              4.2在namenode上执行启动命令

5测试hadoop

 

  关键字：Linux  CentOS  Hadoop  Java

  版本：  CentOS7  Hadoop2.8.0  JDK1.8

  说明：Hadoop从版本2开始加入了Yarn这个资源管理器，Yarn并不需要单独安装。只要在机器上安装了JDK就可以直接安装Hadoop，单纯安装Hadoop并不依赖Zookeeper之类的其他东西。

1下载hadoop

     本博文使用的hadoop是2.8.0

    打开下载地址选择页面：

http://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-2.8.0/hadoop-2.8.0.tar.gz

    如图：

我使用的地址是：

       http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-2.8.0/hadoop-2.8.0.tar.gz 

2安装3个虚拟机并实现ssh免密码登录

2.1安装3个机器

        这里用的Linux系统是CentOS7(其实Ubuntu也很好，但是这里用的是CentOS7演示)，安装方法就不多说了，如有需要请参考该博文：

        http://blog.csdn.net/pucao_cug/article/details/71229416

        安装3个机器，机器名称分别叫hserver1、hserver2、hserver3(说明机器名不这么叫可以，待会用hostname命令修改也行)。

如图：

   

 

          说明：为了免去后面一系列授权的麻烦，这里直接使用root账户登录和操作了。

          使用ifconfig命令，查看这3个机器的IP。我的机器名和ip的对应关系是:

192.168.119.128   hserver1

192.168.119.129   hserver2

192.168.119.130   hserver3

2.2检查机器名称

         为了后续操作方便，确保机器的hostname是我们想要的。拿192.168.119.128这台机器为例，用root账户登录，然后使用hostname命令查看机器名称

如图：

    

        发现，这个机器名称不是我们想要的。不过这个好办， 我给它改个名称，命令是：

hostname   hserver1

如图：

   

         执行完成后，在检查看，是否修改了，敲入hostname命令：

  如图：

      

          类似的，将其他两个机器，分别改名为hserver2和hserver3。

2.3 修改/etc/hosts文件

        修改这3台机器的/etc/hosts文件，在文件中添加以下内容：

192.168.119.128   hserver1
192.168.119.129   hserver2
192.168.119.130   hserver3

如图：

     

          说明：IP地址没必要和我的一样，这里只是做一个映射，只要映射是对的就可以，至于修改方法，可以用vim命令，也可以在你的本地机器上把hosts文件内容写好后，拿到Linux机器上去覆盖。

          配置完成后使用ping命令检查这3个机器是否相互ping得通，以hserver1为例，在什么执行命令：

 ping  -c 3  hserver2

如图：

     

       执行命令：

ping  -c  3  hserver3

如图：

     

        ping得通，说明机器是互联的，而且hosts配置也正确。

2.4给3个机器生成秘钥文件

         以hserve1为例，执行命令，生成空字符串的秘钥(后面要使用公钥)，命令是：

ssh-keygen  -t   rsa   -P  ''

如图：

     

 

         因为我现在用的是root账户，所以秘钥文件保存到了/root/.ssh/目录内，可以使用命令查看，命令是：