Hadoop2.7.3完全分布式集群搭建和测试

最新推荐文章于 2024-09-19 09:07:03 发布
最新推荐文章于 2024-09-19 09:07:03 发布
阅读量121 收藏
点赞数
文章标签： 大数据 运维 java
原文链接：https://my.oschina.net/u/2548093/blog/834104
版权

   这几天在学习Hadoop相关的东西，前些时候，搭建了单机和伪分布式的集群。但是在搭建完全分布式集群的时候遇到很多问题，网上找到很多文章，感觉都有些差别，因此，再次汇总一下，把我的详细的搭建过程记录下来。

参考了很多篇文章：http://www.w2bc.com/Article/19645

                                http://blog.csdn.NET/weixuehao/article/details/15813681

                                http://www.07net01.com/2015/07/874408.html

                                https://my.oschina.Net/voyage1314/blog/262392

                                ......

 

环境配置：
        虚拟机：
                vmware workstation 12
        系统：
                ubuntu 16.04 LTS（推荐使用原版，不要用kylin）
        节点：
                192.168.159.132    master
                192.168.159.134    node1
                192.168.159.137    node2
 

jdk-8u101-Linux-x64.gz (Java )

hadoop-2.7.3.tar.gz (Hadoop 包)

安装步骤：
1、安装虚拟机系统，并进行准备工作（可安装一个然后克隆）
2.修改各个虚拟机的hostname和host
3.创建用户组和用户
4、配置虚拟机网络，使虚拟机系统之间以及和host主机之间可以通过相互ping通。
5.安装jdk和配置环境变量，检查是否配置成功
6、配置ssh，实现节点间的无密码登录 ssh node1/2指令验证时候成功
7、master配置hadoop，并将hadoop文件传输到node节点 
8、配置环境变量，并启动hadoop，检查是否安装成功，执行wordcount检查是否成功。

1.安装虚拟机

   在VM上安装下载好的Ubuntu的系统，具体过程自行百度。可以安装完一个以后克隆，但是本人安装过程中遇到很多问题，经常需要删除虚拟机，重新安装，而被克隆的虚拟机不能删除，所以本人就用了很长时候，一个一个安装。

一共3台虚拟机：分配情况和IP地址如下：

（注：查看ip地址的指令   ifconfig）

安装虚拟机时可以设置静态IP，因为过程中常常遇到网络连接问题,ifconfig找不到IPV4地址。当然，也可以不设，默认分配。

参考  http://blog.csdn.net/wolf_soul/article/details/46409323

 

192.168.159.132    master
                192.168.159.134    node1
                192.168.159.137    node2

2.修改虚拟机的hostname和hosts文件

以master上机器为例，打开终端，执行如下的操作，把hostname修改成master，hosts修改成如下所示的样子：

#修改hostname的指令：
sudo gedit /etc/hostname
#修改hosts指令：
sudo gedit /etc/hosts
#将以下内容添加到hosts中
192.168.159.132    master
192.168.159.134    node1
192.168.159.137    node2

如下图所示:

 

 

同样地，在node1和node2机器上做相似的操作，分别更改主机名为node1和node2，然后把hosts文件更改和master一样。

3.创建用户和用户组（三台机器上都要操作）

1. 创建hadoop用户组

 

sudo addgroup hadoop

2. 创建hadoop用户

 

sudo adduser -ingroup hadoop hadoop

3. 给hadoop用户添加权限，打开/etc/sudoers文件

 

sudo gedit /etc/sudoers

按回车键后就会打开/etc/sudoers文件了，给hadoop用户赋予root用户同样的权限
在root  ALL=(ALL:ALL)  ALL下添加hadoop  ALL=(ALL:ALL)  ALL

4.检验各个主机之间能否连通

分别以刚刚创建的hadoop用户重新登录系统，以后的操作都以hadoop用户登录。

ping +主机名

分别在各个主机上执行上述指令，看是否能与其他主机连通。

出现下图代表能够连通：

 

如果都成功ping通，进行下面的操作。

5.安装jdk和配置环境变量

分别在每台主机上安装jdk，并配置环境变量。（嫌麻烦的前面可以安装完jdk后再克隆）

1）下载jdk安装包（自行百度），并将安装包拖入到虚拟机当中

2）通过cd命令进入到安装包的当前目录，利用如下命令进行解压缩。

tar -zxvf jdk.....(安装包名称)

3）利用如下命令将解压后的文件夹移到/usr目录下　

#注意，这样移动到/usr以后就没有jdk1.8...这个目录了，是将这个目录下的所有文件全部移动到/usr/java下，
mv jdk1.8...(文件夹名称) /usr/java

4）配置环境变量

sudo gedit /etc/profile

 

在末尾加上四行：

#java  
export JAVA_HOME=/usr/java 
export JRE_HOME=/usr/java/jre  
export CLASSPATH=$JAVA_HOME/lib  
export PATH=:$PATH:$JAVA_HOME/bin:$JRE_HOME/bin

输入如下命令使配置生效：source /etc/profile

查看配置是否成功，

 

出现如上信息说明Java配置成功。

6.配置SSH，实现节点间的无密码登录

本人在这一步经常出错，莫名其妙的错误，网上也找不到资料。需要自己多实验几次。

下面的 1.2.3在所有主机上都要做

1..安装ssh

sudo apt-get install openssh-server  

已有ssh或者安装成功了的输入命令

ps -e | grep ssh 

验证SSH是否成功安装输入

ssh localhost 

出现以下提示说明安装成功

 

3.生成密钥Pair

 

ssh-keygen -t rsa

 

输入之后一直选择enter即可。生成的秘钥位于 ~/.ssh文件夹下。可用cd 命令进入查看。

4.在master上，导入authorized_keys

 

cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

 

5.远程无密码登录(把master上的authorized_keys拷贝到其他主机的相应目录下)

#进入master的.ssh目录,执行复制操作
scp authorized_keys hadoop@node1:~/.ssh/
scp authorized_keys hadoop@node2:~/.ssh/

修改各台主机上authorized_keys文件的权限：

所有机器上，均执行命令：

chmod 600 .ssh/authorized_keys

 

完成之后，在master上执行下面操作，检查免密码登录是否成功。

ssh node1(node2)

7.master配置hadoop,然后将master的hadoop文件传送给node节点

1）解包移动

#解压hadoop包
tar -zxvf hadoop...
#将安装包移到/usr目录下
mv hadoop... /usr/hadoop

2）新建文件夹

  1. #在/usr/hadoop目录下新建如下目录(root)  
  2. mkdir /dfs  
  3. mkdir /dfs/name  
  4. mkdir /dfs/data  
  5. mkdir /tmp  

 

3)配置文件：hadoop-env.sh(文件都在/usr/hadoop/etc/hadoop中)

修改JAVA_HOME值（export JAVA_HOME=/usr/java） 

 

4)配置文件：yarn-env.sh

修改JAVA_HOME值（export JAVA_HOME=/usr/java）

5)配置文件：slaves

将内容修改为：

node1
node2

6)配置文件：core-site.xml

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://master:9000</value>
    </property>
    <property>
        <name>io.file.buffer.size</name>
        <value>131072</value>
    </property>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>file:/usr/hadoop/tmp</value>
        <description>Abase for other temporary   directories.</description>
    </property>
</configuration>

7)配置文件：hdfs-site.xml

<configuration>
       <property>
                <name>dfs.namenode.secondary.http-address</name>
               <value>master:9001</value>
       </property>
     <property>
             <name>dfs.namenode.name.dir</name>
             <value>file:/usr/hadoop/dfs/name</value>
       </property>
      <property>
              <name>dfs.datanode.data.dir</name>
              <value>file:/usr/hadoop/dfs/data</value>
       </property>
       <property>
               <name>dfs.replication</name>
               <value>2</value>
        </property>
        <property>
                 <name>dfs.webhdfs.enabled</name>
                  <value>true</value>
         </property>
</configuration>

8)配置文件：mapred-site.xml

先创建然后编辑

 cp etc/hadoop/mapred-site.xml.template etc/hadoop/mapred-site.xml

gedit etc/hadoop/mapred-site.xml

<configuration>
          <property>                                                                  
　　　　　　　　<name>mapreduce.framework.name</name>
                <value>yarn</value>
           </property>
          <property>
                  <name>mapreduce.jobhistory.address</name>
                  <value>master:10020</value>
          </property>
          <property>
                <name>mapreduce.jobhistory.webapp.address</name>
                <value>master:19888</value>
       </property>
</configuration>

9)配置文件：yarn-site.xml

<configuration>
        <property>
               <name>yarn.nodemanager.aux-services</name>
               <value>mapreduce_shuffle</value>
        </property>
        <property>                                                                
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
               <value>org.apache.hadoop.mapred.ShuffleHandler</value>
        </property>
        <property>
               <name>yarn.resourcemanager.address</name>
               <value>master:8032</value>
       </property>
       <property>
               <name>yarn.resourcemanager.scheduler.address</name>
               <value>master:8030</value>
       </property>
       <property>
            <name>yarn.resourcemanager.resource-tracker.address</name>
             <value>master:8031</value>
      </property>
      <property>
              <name>yarn.resourcemanager.admin.address</name>
               <value>master:8033</value>
       </property>
       <property>
               <name>yarn.resourcemanager.webapp.address</name>
               <value>master:8088</value>
       </property>
</configuration>

10)将hadoop传输到node1和node2 usr/hadoop目录,（如果传输时报错说 ：权限拒绝，先把文件传送到非/usr目录下，然后在node上把这个文件再移动到/usr/hadoop）

 scp -r /usr/hadoop hadoop@node1:/usr/hadoop
7、配置环境变量，并启动hadoop，检查是否安装成功
1）配置环境变量
#编辑/etc/profile
sudo gedit /etc/profile
#以上已经添加过java的环境变量,在后边添加就可以
  1. #hadoop  
  2. export HADOOP_HOME=/opt/Hadoop/hadoop-2.7.2  
  3. export PATH=$PATH:$HADOOP_HOME/sbin  
  4. export PATH=$PATH:$HADOOP_HOME/bin  

执行 

source /etc/profile

 

使文件生效。

2）启动hadoop,进入hadoop安装目录

bin/hdfs namenode -format

启动hdfs:

./sbin/start-dfs.sh

启动yarn:

./sbin/start-yarn.sh

3)启动后分别在master, node下输入jps查看进程

看到下面的结果，则表示成功。

Master:

node:

 

如果启动成功:浏览器中输入http://localhost:50070/那么将登陆到namenode上

http://localhost:50030   MapReduce的Web页面

http://localhost:50070   HDFS的Web页面

终止守护进程：

./sbin/stop-dfs.sh
./sbin/stop-yarn.sh

 

8.向hadoop集群系统提交第一个mapreduce任务(wordcount)

进入/usr/hadoop/bin

hdfs dfs -mkdir -p /input

1、  hdfs dfs -mkdir -p /input在虚拟分布式文件系统上创建一个测试目录/input

2、  hdfs dfs -put ../README.txt  /input  将README.txt 文件复制到虚拟分布式文件系统中

3、  hdfs dfs -ls /input    查看文件系统中是否存在我们所复制的文件

如图操作：

3、  运行如下命令向hadoop提交单词统计任务

进入jar文件目录，执行下面的指令。

hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar wordcount /data/input /data/output/result

 

查看result，结果在result下面的part-r-00000中

hdfs dfs -cat /data/output/result/part-r-00000

启动hadoop，但ssh 端口不是默认的22怎么样？好在它可以配置。在conf/hadoop-env.sh里改下。如：

export HADOOP_SSH_OPTS="-p 1234"   

自此，hadoop集群搭建成功！

 

转载于:https://my.oschina.net/u/2548093/blog/834104

chuisou1495
关注
【Hadoop】完全分布式安装
ht15177518806的博客
06-23 767
这个是最后改好的样子。
Hadoop2.7.3完全分布式集群搭建（三节点）
bigdodo的博客
09-06 4607
实验环境 虚拟机：Virtualbox 系统：CentOS-6.5 JDK:jdk-8u172-linux-x64.tar Hadoop版本：Hadoop-2.7.3 上述软件均是开源，大家可以网上自行下载 一、CentOS6.5安装 1.打开Virtualbox，点击新建 2.输入第一台机器名centos6.5-matser，类型选择linux，版本选择Red Hat(...
nodejs之SSH
最新发布
weixin_63443072的博客
09-19 438
SSH（Secure Shell）是一个加密的网络协议，用于在不安全的网络上安全地执行远程命令和管理系统。SSH 最常见的用途是通过加密的连接远程登录计算机，但它也可以用于传输文件、隧道其他协议、以及执行其他网络服务。而 node-ssh 是一个用于 Node.js 的库，封装了 SSH 协议的功能，使得开发者可以通过 JavaScript 或 TypeScript 代码在 Node.js 应用程序中实现 SSH 功能。
Hadoop完全分布式安装（centos下）
zmqgeek的博客
10-22 448
Hadoop完全分布式安装 （注：本教程简单的使用两个节点作为集群环境: 一个作为 Master 主节点，另一个作为 Slave1 从节点。） 一、准备工作 useradd -m hadoop -s /bin/bash   # 创建新用户hadoop，这条命令创建了可以登陆的 hadoop 用户，并使用 /bin/bash 作为shell。   passwd hadoop    #修改密
Hadoop的完全分布式安装
Maqiuqiu520的博客
10-24 227
Hadoop的安装 一、准备工作 1.创建三台虚拟机； 2.ip addr查看三台虚拟机的ip; 3.用hostname修改主机名； 4.三台主机都修改/etc/hosts文件： 文件内容为： 172.18.74.59 cow1 172.18.74.61 cow2 172.18.74.65 cow3 5.查看三台主机是否可以ping通： 命令：ping -c 3 cow2 二、配置ssh免...
Hadoop完全分布式安装
u012510757的博客
08-18 122
1.三台虚拟机装jdk,hadoop scp -r /opt/hadoop root@10.90.17.89:/opt 需要source下profile 2.开始部署 hadoop102/hadoop1 hadoop103/hadoop2 hadoop104/hadoop3 HDFS NameNode DataNode ...
Hadoop集群完全分布式的搭建~（超详细版）来了
不曾与你分享的时间，我都在努力，时间是最好的答案!
03-11 1223
此篇文章虽然详细地描述，Hadoop集群的搭建流程，但比较适合有一定Linux系统基础的友友们，新手也不用太担心哈，跟着步骤操作下去就没有太大问题哈，我写的几篇文章是相互贯通的，友友们可以参考参考一下哈，相信友友们一定会有收获的
基于CentOS6.5系统Hadoop2.7.3完全分布式集群搭建详细步骤
LG_49的博客
05-30 1742
 前言：本次搭建hadoop集群使用虚拟机克隆方式克隆slave节点，这样做可以省去很多不必要的操作，来缩短我们的搭建时间。 一、所需硬件，软件要求 使用 VMWare构建三台虚拟机模拟真实物理环境 操作系统：CentOS6.5 二、必备条件 hadoop搭建需要在三台机器上进行，并且不能是root用户，我们需要创建普通用户，进行下面的操作，三台机器分别都要创建普通用户，而且三台机器上的...
【Hadoop】Centos7中完全分布式hadoop-2.7.3集群的安装与配置
strawcherry_wj的博客
07-24 1069
一、安装操作系统并配置IP 在VMware虚拟机中安装三台Centos，分别作为Master，Slave1，Slave2，并配置root用户。 配置三台机器的静态IP地址，本次示例IP分别为： Master: 192.168.157.128 Slave1: 192.168.157.129 Slave2: 192.168.157.130 （关于设置静态ip连不上网的问题，https://blog.csdn.net/tearofthemyth/article/details/112800999 Mac VMw
CentOS7 基于Hadoop2.7.3完全分布式安装Hive2.3.4以及安装MySql
7INrelief的博客
04-29 1527
CentOS7基于Hadoop2.7.3安装Hive2.3.40x00 本人的Hadoop集群已配置并且能正常运行0x10 安装Mysql5.70x11 为yum配置mysql57的源0x12 修改MySQL密码开启 mysql 中 root用户远程访问权限0x20 下载、配置Hive0x21到apache下载Hive的tar包0x22安装Hive，并设置环境变量0x23 配置hive-site....
hadoop2.7.3+hive1.2.1+spark2.0.1性能测试
03-17
hadoop2.7.3+hive1.2.1+spark2.0.1性能测试
Hadoop完全分布式详细安装过程
11-23
Hadoop安装有三种模式：单机、伪分布式、完全分布式，本文档为完全分布式安装，过程很详细，设计内容包括：在win7上安装虚拟化工具VMware（用于支撑Linux系统），在VMware上安装Ubuntu系统，安装Hadoop前的准备工作（安装JDK和SSH服务），配置Hadoop，安装eclipse（为了方便开发过程），运行一个简单的Hadoop程序（WordCount.java）等。
Hadoop HA部署流程
2401_82567159的博客
07-31 569
​ 本节点主要介绍安装Hadoop HA模式的主要步骤。​ 在安装Hadoop HA模式，我们需要完成一些准备工作，包括网络配置、关闭防火墙、安装SSH和安装JDK环境、Zookeeper组件安装等。
Hadoop完全分布式安装教程
denghe4720的博客
03-31 185
一、软件版本 Hadoop版本号：hadoop-2.6.0.tar； VMWare版本号：VMware-workstation-full-11.0.0-2305329 Ubuntu版本号：ubuntu-14.04.1-desktop-i386 其他版本也可 Jdk版本号：jdk-6u45-linux-i586.bin 后三项对版本要求不严格，如果使用Hbase1....
手把手教你搭建Hadoop2.7.3伪分布式环境
在Hadoop生态系统中，有多种部署模式供用户选择，其中，伪分布式模式是介于本地模式和完全分布式模式之间的一种中间形态。对于学习和测试Hadoop功能而言，伪分布式模式非常实用，因为它可以在单台机器上模拟分布式...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值