hadoop中Yarn的配置与使用示例

最新推荐文章于 2024-06-28 10:18:31 发布

超哥的杂货铺

最新推荐文章于 2024-06-28 10:18:31 发布

阅读量1.1k

点赞数

本文链接：https://blog.csdn.net/hitchenghengchao/article/details/103034115

版权

mapred-site.xml和yarn-site.xml两个配置文件即可，这两个文件与前文提到过的三个配置文件都在$HADOOPHOME/etc/hadoop文件夹下。

1.mapred-site.xml配置

进入相应的文件夹下编辑mapred-site.xml文件，添加mapreduce.framework属性即可。

配置文件所在位置

mapred-site.xml的配置

2.yarn-site.xml配置

yarn-site.xml的配置

同样的，在yarn-site.xml中添加nodemanager的服务即可。

3.启动yarn相关进程并验证是否启动成功

启动yarn相关进程

./start-yarn.sh #在sbin目录下执行该命令可以启动yarn	
# 注意在这之前要先启动HDFS，从控制台的输出中可以看出，	
# 启动了resourcemanager和nodemanager进程，jps验证也输出了相应的进程号。	
# 启动之后可以通过访问http://localhost:8088来访问yarn的管理界面。
./stop-yarn.sh #停止yarn相关进程

4.在yarn上运行hadoop示例程序

任务正在运行：RUNNING

任务运行结束：FINISHED

与前文一样，我们依然运行hadoop自带jar包例子中计算PI的程序。此处有几点需要说明。

1）web页面可以随时跟踪任务的执行状态，刚提交时是running，执行结束后会变成finished。如上图所示。

2）配置了yarn之后，会在计算时链接yarn的服务。从控制台输出中我们可以看到连接了ResourceManger。ResourceManager就是yarn的资源管理器。

配置yarn之后的计算PI日志

3）对比没有配置yarn之前的控制台上输出。可以看出配置yarn之后的日志更简洁。配置之前的(部分)日志见下图，配置之后的(部分)日志见上图。配置之前日志信息告诉我们，执行的是一个MapReduce过程，有map task，reduce task等。而配置之后，只有mapreduce job。可以理解为是运行在yarn之上的一个map reduce作业。配置之后运行时间虽然不一定快，但yarn的统一管理对整个集群来讲是更优化的。