Hadoop本地模式、伪分布式、完全分布式安装

准备工作:

Centos 7系统、4台虚拟机(相互免密登陆)、jdk1.8、关闭防火墙、设置静态IP
1、安装hadoop
a)下载hadoop-2.7.4.tar.gz
b)tar开

    $>cd /zdq/soft
    $>tar -xzvf hadoop-2.7.4.tar.gz -C /zdq

2、配置hadoop环境变量

vim /etc/profile
追加环境变量:
HADOOP_HOME=/zdq/hadoop-2.7.4
PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

3、生效

$>source /etc/profile

一:本地模式。

什么都不用配置!
直接:hadoop version看见下面界面。说明配置成功:
![这里写图片描述](https://img-blog.csdn.net/20171002101703427?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvdTAxNDE4Mjc0NQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)
使用:
    $>hdfs dfs -ls /

发现本地模式,就是使用的本地磁盘的内容。如下:
这里写图片描述

二、伪分布式模式

    a)进入${HADOOP_HOME}/etc/hadoop目录
    b)编辑core-site.xml
        <?xml version="1.0"?>
            <configuration>
                <property>
                    <name>fs.defaultFS</name>
                    <value>hdfs://localhost/</value>
                </property>
            </configuration>
    c)编辑hdfs-site.xml
        <?xml version="1.0"?>
            <configuration>
                <property>
                    <name>dfs.replication</name>
                    <value>1</value>
                </property>
            </configuration>
    d)编辑mapre-site.xml
        注意:cp mapred-site.xml.template mapred-site.xml
        <?xml version="1.0"?>
            <configuration>
                <property>
                    <name>mapreduce.framework.name</name>
                    <value>yarn</value>
                </property>
            </configuration>
    e)编辑yarn-site.xml
        <?xml version="1.0"?>
            <configuration>
                <property>
                    <name>yarn.resourcemanager.hostname</name>
                    <value>localhost</value>
                </property>
                <property>
                    <name>yarn.nodemanager.aux-services</name>
                    <value>mapreduce_shuffle</value>
                </property>
            </configuration>
    f)编辑hadoop-env.sh
        修改:export JAVA_HOME=/zdq/jdk1.8.0_144
    g)格式化namenode
        $>hadoop namenode -format
    h)启动所有进程
        $>start-all.sh
    i)查看进程:jps

这里写图片描述

连接网页:192.168.3.201:50070
这里写图片描述

三、完全分布式安装

a)修改配置文件
    编辑:core-site.xml
    fs.defaultFS=hdfs://service/
    我在hosts文件
    配置了:
    192.168.3.201 service1
    192.168.3.202 service2
    192.168.3.203 service3
    192.168.3.204 service4
    编辑:hdfs-site.xml
    dfs.replication=3
    编辑:yarn-site.xml
    yarn.resourcemanager.hostname=service1
    编辑:slaves
    service2
    service3
    service4

在201使用:jps
5153 ResourceManager
5002 SecondaryNameNode
4815 NameNode

202、203、204使用jps
2886 NodeManager
2823 DataNode
如果见到以上配置,那么恭喜您,配置完全正确、

这里写图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值