Idea结合MRUnit测试wordcount(Mapreduce作业)过程及出错记录

一 .为什么使用MapReduce?

在Mapreduce中,map函数和reduce函数的独立测试非常方便,MRunit是一个测试库,它便于将已知的输入传递给mapper或者检查reducer的输出是否符合预期。这里由于主要体会MRunit.就用了最简单jing'dian的wordcount

MRUnit需要与Junit一起使用

二 . MRUnit引入

(首先如果在windows下测试,还需要winutils.exe和hadoop.dll,github地址在这里:

https://github.com/steveloughran/winutils

需要根据自己的hadoop版本下载,github直接在这个仓库点击find,输入这两个文件找到下载

下载后移入hadoop下的/bin/目录下即可)

第一种方式:maven项目中,pom.xml设置:

<dependency>
    <groupId>org.apache.mrunit</groupId>
    <artifactId>mrunit</artifactId>
    <version>0.8.0-incubating</version>
</dependency>

第二种方式:下载jar包导入项目

<
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值