实验十 Hadoop实验——MapReduce编程

本实验介绍了如何使用Hadoop MapReduce进行文件合并与去重操作。通过编写MapReduce程序,实现了将两个输入文件合并并去除重复内容,生成新的输出文件。实验代码包括Map和Reduce类的实现,详细解释了每个关键代码段的功能,并展示了运行结果,成功完成了文件合并任务。
摘要由CSDN通过智能技术生成

实验十 Hadoop实验——MapReduce编程

  • 实验目的
    1. 通过实验掌握基本的MapReduce编程方法。
    2. 通过操作MapReduce的实验,模仿实验内容,深入理解MapReduce的过程,熟悉MapReduce程序的编程方式。
  • 实验环境

与实验五一致https://mp.csdn.net/editor/html/116616391,其他命令可参考实验六:https://mp.csdn.net/editor/html/116618050实验七https://mp.csdn.net/editor/html/116618050

  • 试验内容
  1. 对于两个输入文件,即文件A和文件B,请编写MapReduce程序,对两个文件进行合并,并剔除其中重复的内容,得到一个新的输出文件C。下面是输入文件和输出文件的一个样例供参考。

输入文件f1.txt的样例如下:

20150101     x

20150102     y

20150103     x

20150104     y

20150105     z

20150106     x

输入文件f2.txt的样例如下:

20150101     y

20150102     y

20150103     x

20150104     z

20150105     y

根据输入文件f1和f2合并得到的输出文件的样例如下:

20150101      x

20150101      y

评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值