Hadoop 运行模式的设置

 Hadoop的配置文件主要有 4 个,存在于

$HADOOP_HOME/etc/hadoop

  • core-site.xml:用于配置通用属性。
  • hdfs-site.xml : 用于配置hdfs属性。
  • mapred-site.xml:用于配置mapreduce属性。
  • yarn-site.xml:用于配置yarn的属性。

配置表:

ComponentPropertyStandalonePseudodistributedFully distributed
Commonfs.defaultFS(default) file:///hdfs://localhost/hdfs://namenode/
HDFSdfs.replicationN/A13(default)
MapReducemapreduce.framework.namelcoal(default)yarnyarn
Yarnyarn.resourcemanager.hostname

yarn.nodemanager.aux-services
N/A

N/A
localhost

mapreduce_shuffle
resourcemanager

mapreduce_shuffle


其中:fs.defaultFS 是用来设置默认的文件系统的。

 几种模式如下

1、伪分布式
  • core-site.xml
<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost/</value>
    </property>
</configuration>
  • hdfs-site.xml
<?xml version="1.0"?>
<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
</configuration>
  • mapred-site.xml
<?xml version="1.0"?>
<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>
  • yarn-site.xml
<configuration>
    <property>
        <name>yarn.resourcemanager.hostname</name>
        <value>localhost</value>
    </property>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
</configuration>
 2、完全分布式
 3、本地模式
默认是本地模式

配置完hadoop 运行模式之后要启动HDFS、YARN 和 MapReduce 守护进程。

% start-dfs.sh
% start-yarn.sh
% mr-jobhistory-daemon.sh start historyserver
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值