实验课-用集群运行自带的wordcount程序(Hadoop基础-提交wordcount应用程序)

1.首先确保mapred-site.xml里面有以下配置内容:

<property>

  <name>yarn.app.mapreduce.am.env</name>

  <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>

</property>

<property>

  <name>mapreduce.map.env</name>

  <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>

</property>

<property>

  <name>mapreduce.reduce.env</name>

  <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>

</property>

2. 准备数据文件:

cd $HADOOP_HOME

vim input1.txt 

输入以下内容:

hello bigdata 2017

hello bigdata 2018

hello bigdata 2019

hello bigdata 2020

hello ynnu 2017

hello ynnu 2018

hello ynnu 2019

hello ynnu 2020

同样的操作创建input2.txt

 3.HDFS上创建目录并且上传数据到HDFS:

hdfs dfs -mkdir /test

hdfs dfs -mkdir /test/input

上传:

hdfs dfs -copyFromLocal input1.txt  /test/inpu

hdfs dfs -copyFromLocal input2.txt  /test/inputt

查看上传的结果:

hdfs dfs -ls /test/input

4. 运行程序:

hadoop jar hadoop-mapreduce-examples-3.1.3.jar wordcount /test/input /test/output

(注意:output一定不是自己创建的,不需要自己创建)

5.查看生成的结果:

hdfs dfs -cat /test/output2/part-r-00000 

 

 

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值