Hadoop 伪分布式 环境安装 - hadoop-2.6.0-cdh5.7.0

本文详细介绍了如何在Linux环境中安装Hadoop的伪分布式模式。首先,通过设置SSH免密登录集群。接着,配置Java环境变量。然后,下载并解压Hadoop 2.6.0-cdh5.7.0,调整相关配置文件如hadoop-env.sh, core-site.xml和hdfs-site.xml。启动HDFS并进行格式化,验证通过使用jps。最后,配置并启动YARN,通过ResourceManager的Web界面进行验证,最后了解如何停止服务。" 114869005,8189073,Redis-Cluster详解:原理与实战,"['Redis', '数据库', '分布式', '缓存']
摘要由CSDN通过智能技术生成

Hadoop 伪分布式 环境安装

1、集群免密登录

ssh-keygen -t rsa

cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys

2、修改Java 环境变量

vim /etc/profile

3、下载Hadoop

http://archive.cloudera.com/cdh5/cdh/5/hadoop-2.6.0-cdh5.7.0.tar.gz

解压 tar -zxvf hadoop-2.6.0-cdh5.7.0.tar.gz -C /home/hadoop000/app/

4、Hadoop 配置文件修的(/home/hadoop000/app/hadoop-2.6.0-cdh5.7.0/etc/hadoop)

vim hadoop-env.sh

etc/hadoop/core-site.xml

         <property>
           <name>fs.defaultFS</name>
            <value>hdfs://hadoop000:8020</value>
        </property>
         <property>
            <name>hadoop.tmp.dir</name>
            <value>/home/hadoop000/app/tmp</value>
         </property>

etc/hadoop/hdfs-site.xml

        <property>
            <name>dfs.replication</name>
            <value>1</value>
        </property

vim slaves (针对集群配置文件)

5、启动hdfs

格式化文件系统 (仅仅第一次):hdfs namenode -format

sbin/start-dfs.sh

验证:jps

6、停止hdfs

sbin/stop-dfs.sh

Yarn 环境安装

1、etc/hadoop/mapred-site.xml

    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>

etc/hadoop/yarn-site.xml

    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property

2、启动

sbin/start-yarn.sh

3、验证

jps

ResourceManager - http://localhost:8088/

4、停止

sbin/stop-yarn.sh

 

 

 

 

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值