Hadoop实战——MapReduce对英文单词文本进行统计和排序(超详细教学

Reduce类(部分代码展示)

(1)将每个单词统计次数结果进行求和合并,写入到map集合里

(2)调用Utils工具类的sortValue方法对map集合进行排序

(3)遍历排序好的map集合,依次写入到context上下文中

Utils类(对map进行排序)

(1)继承Comparable类,复写compare方法

(2)通过map<k,v>集合的value(也就是单词次数)进行排序

(3)将排序好的map返回

新建一个测试类测试一下,可以看到排序OK

四、生成jar包上传


先点击右边的 clean 清理一下,然后点击 package 生成打包jar包

运行完毕,会在左边生成一个 target 的文件夹,展开可以看到生成jar包程序

选中jar包,右键选择复制,粘贴到桌面

打开 winscp 工具,连接主节点虚拟机,将刚刚粘贴在桌面的jar包拷贝到虚拟机里(路径自己选,知道在哪就行)

打开虚拟机,跳转到刚刚复制的路径目录下,可以看到已经拷贝进来了

五、运行程序


(1)创建单词文本并上传

在下面可以看到有一个words.txt文本,这是我之前创好的

more指令查看文本,可以看到文本里有很多的英文单词

(2)上传到HDFS文件系统

首先创建一个文件夹存放统计前的单词文本(words.txt)

将单词文本(words.txt)上传到刚刚创建的文件夹下

执行jar包程序,hadoop   jar   jar包名称   包名称+主类名   输入路径   输出路径

包名称+主类名如下

回车执行命令,等待提示运行完毕,运行结束后

打开HDFS文件系统的output目录下,就能看到输出结果,打开文件点击Download下载

以文本方式打开,可以看到已经对单词进行了统计并且对其进行降序操作

Gitee仓库Hadoop项目下载地址

===================

Gitee仓库地址:Hadoop实战项目源码集合: https://blog.csdn.net/weixin_47971206CSDN文章教学中的源码汇总集合

其他系列技术教学、实战开发

=============

各大技术基础教学、实战开发教学(最新更新时间2021-11-23)


自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数Android工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年Android移动开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
img
img
img
img
img
img
img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Android开发知识点,真正体系化!

由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新

如果你觉得这些内容对你有帮助,可以添加V获取:vip204888 (备注Android)
img

最后是今天给大家分享的一些独家干货:

【Android开发核心知识点笔记】

【Android思维脑图(技能树)】

【Android核心高级技术PDF文档,BAT大厂面试真题解析】

【Android高级架构视频学习资源】

oid开发核心知识点笔记】**

[外链图片转存中…(img-sjiEl7s3-1711938372625)]

【Android思维脑图(技能树)】

[外链图片转存中…(img-Zohymxsr-1711938372625)]

【Android核心高级技术PDF文档,BAT大厂面试真题解析】

[外链图片转存中…(img-Ci2WLgd4-1711938372626)]

【Android高级架构视频学习资源】

本文已被CODING开源项目:《Android学习笔记总结+移动架构视频+大厂面试真题+项目实战源码》收录

  • 15
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,这个问题可以通过编写一个 MapReduce 程序来解决。以下是一个简单的 MapReduce 程序来对 Hadoop.txt 中各个单词出现的次数进行统计的示例: 1. Map 阶段 在 Map 阶段,我们将输入文件 Hadoop.txt 中的每一行分解成单词,并将每个单词映射到一个键值对中,其中键是单词本身,值为 1,表示该单词出现了一次。 ```java public class WordCountMapper extends Mapper<LongWritable, Text, Text, IntWritable> { private final static IntWritable ONE = new IntWritable(1); private Text word = new Text(); public void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException { String line = value.toString(); StringTokenizer tokenizer = new StringTokenizer(line); while (tokenizer.hasMoreTokens()) { word.set(tokenizer.nextToken()); context.write(word, ONE); } } } ``` 2. Reduce 阶段 在 Reduce 阶段,我们将相同单词的键值对合并,并将它们的值相加,以得到每个单词出现的总次数。 ```java public class WordCountReducer extends Reducer<Text, IntWritable, Text, IntWritable> { public void reduce(Text key, Iterable<IntWritable> values, Context context) throws IOException, InterruptedException { int sum = 0; for (IntWritable val : values) { sum += val.get(); } context.write(key, new IntWritable(sum)); } } ``` 3. 驱动程序 在驱动程序中,我们指定输入输出路径,以及 Mapper 和 Reducer 类。 ```java public class WordCountDriver { public static void main(String[] args) throws Exception { Configuration conf = new Configuration(); Job job = Job.getInstance(conf, "word count"); job.setJarByClass(WordCountDriver.class); job.setMapperClass(WordCountMapper.class); job.setCombinerClass(WordCountReducer.class); job.setReducerClass(WordCountReducer.class); job.setOutputKeyClass(Text.class); job.setOutputValueClass(IntWritable.class); FileInputFormat.addInputPath(job, new Path(args[0])); FileOutputFormat.setOutputPath(job, new Path(args[1])); System.exit(job.waitForCompletion(true) ? 0 : 1); } } ``` 以上代码可以将 Hadoop.txt 中各个单词出现的次数进行统计,并将结果输出到指定的输出路径中。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值