Hadoop2.7.3配置Yarn资源管理器

接着上一篇文章(搭建伪分布式),本文讲述如何配置Yarn,并对其进行功能和性能测试。

执行步骤

1.配置集群

(a)配置yarn-env.sh

配置一下JAVA_HOME

[root@hadoop01 hadoop-2.7.3]# echo $JAVA_HOME
/usr/local/java/jdk1.8.0_241

                                  

                                       

(b)配置yarn-site.xml

<!-- Reducer获取数据的方式 -->
<property>
 	<name>yarn.nodemanager.aux-services</name>
 	<value>mapreduce_shuffle</value>
</property>

<!-- 指定YARN的ResourceManager的地址 -->
<property>
    <name>yarn.resourcemanager.hostname</name>
    <value>hadoop01</value>
</property>

                     

(c)配置:mapred-env.sh

配置一下JAVA_HOME

[root@hadoop01 hadoop-2.7.3]# echo $JAVA_HOME
/usr/local/java/jdk1.8.0_241

                       

                      

(d)配置: (对mapred-site.xml.template重新命名为) mapred-site.xml,然后修改它

[root@hadoop01 hadoop-2.7.3]# mv mapred-site.xml.template mapred-site.xml
<!-- 指定MR运行在YARN上 -->
<property>
		<name>mapreduce.framework.name</name>
		<value>yarn</value>
</property>

                                

                    

2.启动集群

(a)启动前必须保证NameNode和DataNode已经启动

(b)启动ResourceManager

[root@hadoop01 hadoop-2.7.3]# sbin/yarn-daemon.sh start resourcemanager

(c)启动NodeManager

[root@hadoop01 hadoop-2.7.3]# sbin/yarn-daemon.sh start nodemanager

 

启动集群的另外一种方法:(一键启动)

(a)在sbin目录下输入:

./start-all.sh

(b)输入密码

由于没有设置ssh免密登录,因此过程中会输入3次yes,4次密码(ssh免密登录之后会讲解)

(c)最后,用jps命令查看,出现上图中6个则表示集群启动成功

(d)停止服务,在sbin目录下输入,还需要输入4次密码

./stop-all.sh

3.集群操作

(a)YARN的浏览器页面查看

该界面是查看MapReduce的

输入hadoop01:8088

(b)删除文件系统上的output文件

bin/hdfs 和hdfs命令的区别是:如果配置和Hadoop的全局变量,则可以省略bin。

[root@hadoop01 hadoop-2.7.3]# bin/hdfs dfs -rm -R /user/atguigu/output

(c)执行MapReduce程序

[root@hadoop01 hadoop-2.7.3]# bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar wordcount /user/atguigu/input  /user/atguigu/output

                        

               (d)查看运行结果

[root@hadoop01 hadoop-2.7.3]# bin/hdfs dfs -cat /user/atguigu/output/*

此时点击“历史服务器”会出现404,因为还没有配置,下一篇文章将讲述如何配置。

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值