hadoop配置_Hadoop配置yarn

f041e81514104ebe8ab744e2a17aa16b.png
yarn的英文意思是yet another resource negotiator 即另一种资源协调器。它主要是分为Resource Manager、node manager 、container等部分构成

RM(resource manager)

resource manager是一个资源的管理的器,它主要由两部分组成,第一部分就是scheduler调度器,第二部分application manager 负责作业的管理和监控。每次提交作业都会生成一个application manager。

Node Manager

它是RM位于每个DataNode节点上面的代理,它负责监控本节点的container信息。

Container

container把集群节点的内资源给封装起来了,这样就方便集群调用。

Hadoop中配置yarn

第一步打开yarn-site.xml文件中设置配置文件如下

<configuration>

<!-- Site specific YARN configuration properties -->

<property>

<name>yarn.nodemanager.aux-services</name>

<value>mapreduce_shuffle</value>

</property>

</configuration>

第二步打开创建一个map-site.xml 文件然后添加配置项如下

<configuration>

<property>

<name>mapreduce.framework.name</name>

<value>yarn</value>

</property>

</configuration>

即可

启动yarn以及部分yarn的命令

start-yarn.sh:启动yarn,yarn的启动和hadoop的启动是分开的,即hadoop启动之后还需要我们自己去启动yarn

stop-yarn.sh:停止yarn

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 无效的 hadoop_yarn_home 是指 Hadoop 配置中的 YARN_HOME 环境变量设置不正确或不存在。YARN_HOME 是指向 YARN 安装目录的路径,如果该路径不存在或设置不正确,则会导致 Hadoop 无法启动 YARN 服务。需要检查 YARN_HOME 环境变量是否正确设置,并确保该路径下存在 YARN 相关的文件和目录。 ### 回答2: invalid hadoop_yarn_home是指在Hadoop程序运行时未设置或设置错误的YARN Home环境变量。YARN是Apache Hadoop的一个资源调度和管理系统,它有一个YARN Home目录来存储它所需的文件配置。 如果出现invalid hadoop_yarn_home错误,可能会导致Hadoop程序无法正常运行或找不到必要的资源文件。为了解决这个问题,可以按照以下步骤进行操作: 1. 确定正确的YARN Home目录,例如/opt/hadoop/yarn。 2. 通过设置环境变量来指定YARN Home目录。可以在~/.bashrc或/etc/environment配置文件中添加以下行: export HADOOP_YARN_HOME=/opt/hadoop/yarn 3. 重新启动终端,使新的环境变量生效。 如果问题仍然存在,请检查YARN Home目录的权限和访问性。在一些情况下,可能需要更改目录的权限或所有者来解决问题。 总之,通过正确设置YARN Home环境变量,可以解决invalid hadoop_yarn_home问题,并确保Hadoop程序的正常运行。 ### 回答3: invalid hadoop_yarn_home 错误通常出现在启动 Hadoop 集群时。 首先,Hadoop YARNHadoop 的一个子模块,它是 Hadoop 用于管理和调度集群资源的框架。而 hadoop_yarn_home 是 Hadoop YARN 的根目录路径。 当您启动 Hadoop 集群时,Hadoop 会检查一些必要的参数是否正确设置,其中包括环境变量设置是否正确。如果您没有正确设置 hadoop_yarn_home 环境变量,则会出现“invalid hadoop_yarn_home”错误。 为了解决此错误,您需要hadoop_yarn_home 环境变量设置为正确的值。具体来说,要设置 hadoop_yarn_home 环境变量,您可以按照以下步骤进行操作: 1. 打开 Hadoop配置文件,通常是 $HADOOP_HOME/etc/hadoop/hadoop-env.sh。 (HADOOP_HOME 表示 Hadoop 的安装路径) 2. 找到以下语句: # export HADOOP_YARN_HOME=${HADOOP_PREFIX}/share/hadoop/yarn 3. 去掉前面的注释符号(#),并将默认的 HADOOP_YARN_HOME 路径替换为正确的路径,例如: export HADOOP_YARN_HOME=/usr/local/hadoop-2.7.3/share/hadoop/yarn 4. 保存文件并退出。 5. 在终端中执行命令:source $HADOOP_HOME/etc/hadoop/hadoop-env.sh。这将重新加载您的配置文件。 6. 重新启动 Hadoop。如果一切正确设置,则应该可以启动 Hadoop 集群而不会再出现“invalid hadoop_yarn_home”错误。 需要注意的是,在设置 hadoop_yarn_home 环境变量时,您需要确保指定的路径指向正确的 Hadoop YARN 的根目录。如果错误指定了路径,则会导致启动 Hadoop 集群失败。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值