CC00031.hadoop——|Hadoop&MapReduce.V04|——|Hadoop.v04|WordCount案例之编写本地YARN运行.v02|

一、运行任务
### --- 本地模式

~~~     直接运行会报错:因为没有设置传参
~~~     直接Idea中运行驱动类即可:idea运行需要传入参数:
~~~     IDEA.Driver传参:WORDCOUNTDRIVER——>edit configuration
~~~     在program arguments设置参数
~~~     运行结束,去到输出结果路径查看结果
~~~     注意本地idea运行mr任务与集群没有任何关系,没有提交任务到yarn集群,
~~~     是在本地使用多线程方式模拟的mr的运行。
二、Yarn集群模式
### --- Yarn集群模式

~~~     把程序打成jar包,改名为wc.jar;上传到Hadoop集群选择合适的Jar包
~~~     IDEA打成Jar包:右侧——>maven——>wordcount——>lifecycle——>clean——>package——>
### --- 准备原始数据文件,上传到HDFS的路径,不能是本地路径,因为跨节点运行无法获取数据!!

[root@linux121 ~]# ls
wc.jar  wc.txt
### --- 启动Hadoop集群(Hdfs,Yarn)
~~~     使用Hadoop 命令提交任务运行

[root@linux121 ~]# hadoop jar wc.jar com.yanqi.mr.wc.WordCountDriver /user/yanqi/input /user/yanqi/output
21/08/15 21:29:28 INFO mapreduce.Job: Job job_1628995889675_0001 completed successfully
三、通过dfs查看是否生成数据
四、Yarn集群任务运行成功展示图
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

yanqi_vip

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值