yarn伪分布式

yarn配置
单一节点至多启动一个节点
1.vim yarn-env.sh
export JAVA_HOME=/opt/module/jdk1.8.0_221
2.vim yarn-site.xml

<property>
            <name>yarn.nodemanager.aux-services</name>
                    <value>mapreduce_shuffle</value>
                        </property>
       
   <property>
             <name>yarn.resourcemanager.hostname</name>//指定yarn的resourceManager的地址
                    <value>hadoop101</value>
                        </property>
	
  1. vim mapred-env.sh

         export JAVA_HOME=/opt/module/jdk1.8.0_221
    
  2. //mapred-site.xml里面是空的,把mapred-site.xml.template文件copy给mapred-site.xml

cp mapred-site.xml.template mapred-site.xml
ll
vim  mapred-site.xml
 <property>
         <name>mapreduce.framework.name</name>//指定MR运行在yarn上
                 <value>yarn</value>       
  </property>

5.启动yarn(hadoop-2.7.2目录)

yarn-daemon.sh start resourcemanager
yarn-daemon.sh start nodemanager

jps后出现 NodeManager NameNode DataNode jps ResourceManager

http://hadoop101:8088/cluster

6.在hdfs和Yarn上的MapReduce程序

hadoop fs -put wcinput /          #在网页上Utilities中有wcinput
hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.2.jar wordcount /wcinput /wcoutput

在网页上Utilities中有wcinput、wcoutput、tmp
7.hadoop fs -cat /wcoutput/*
atguigu 2
hadoop 2
mapreduce 1
yarn 1

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
您好!要在Hadoop中安装YARN时,首先需要确保您已经成功安装了Hadoop。下面是分布式安装YARN的步骤: 1. 下载和安装Hadoop: - 前往Hadoop官方网站下载最新版本的Hadoop压缩包。 - 解压下载的压缩包,并将解压后的文件夹移动到适当的位置(例如,/usr/local/hadoop)。 2. 配置Hadoop环境: - 打开Hadoop配置文件hadoop-env.sh,在其中设置JAVA_HOME变量为您系统中Java的安装路径。 - 打开core-site.xml文件,并添加以下配置: ``` <configuration> <property> <name>fs.defaultFS</name> <value>hdfs://localhost:9000</value> </property> </configuration> ``` - 打开hdfs-site.xml文件,并添加以下配置: ``` <configuration> <property> <name>dfs.replication</name> <value>1</value> </property> </configuration> ``` 3. 配置YARN环境: - 打开yarn-site.xml文件,并添加以下配置: ``` <configuration> <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> <property> <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name> <value>org.apache.hadoop.mapred.ShuffleHandler</value> </property> <property> <name>yarn.resourcemanager.hostname</name> <value>localhost</value> </property> </configuration> ``` - 打开mapred-site.xml文件,并添加以下配置: ``` <configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration> ``` 4. 格式化HDFS文件系统: - 打开终端,执行以下命令格式化HDFS文件系统: ``` $ hdfs namenode -format ``` 5. 启动Hadoop集群: - 打开终端,执行以下命令启动Hadoop集群: ``` $ start-all.sh ``` - 您可以使用以下命令检查HadoopYARN的运行状态: ``` $ jps ``` 如果看到以下进程正在运行,则表示HadoopYARN已经成功启动: ``` NameNode DataNode SecondaryNameNode ResourceManager NodeManager ``` 现在,您已经成功在分布式模式下安装了YARN。您可以使用YARN来管理和调度作业。希望对您有所帮助!如果您还有其他问题,请随时提问。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值