idea编写mapreduceTopN程序,运用hdfs上的数据测试并将结果存到hdfs

问题:选出蜀国中五虎将

原始数据如下:
序号 姓名 武力值 国家
1 刘备 68 蜀国
2 马超 90 蜀国
3 黄忠 91 蜀国
4 魏延 76 蜀国
5 姜维 92 蜀国
6 关羽 96 蜀国
7 严颜 78 蜀国
8 孟达 64 蜀国
9 张飞 88 蜀国
10马谡 76 蜀国
11 赵云 95 蜀国
12 法正 88 蜀国

预期结果如下:
6 关羽 96 蜀国
11 赵云 95 蜀国
5 姜维 92 蜀国
3 黄忠 91 蜀国
2 马超 90 蜀国

准备工作

新建一个数据文件
在这里插入图片描述
将其传到hdfs上

hdfs dfs -put ~/wujiang.txt input

我的文件是在/home/wang 下
在这里插入图片描述
在hadoop web上查看
在这里插入图片描述

分析

通过对武力值排序,得到按武力值排序的数据,输出前五行即可。

讲解

自定义比较函数MyWritable,实现按武力值排序,并让其他数据一直跟随着武力值,以便后面输出完整的数据

MyWritable.java

import org.apache.hadoop.io.WritableComparable;

import java.io.DataInput;
import java.io.DataOutput;
import java.io.IOException;

public class MyWritable implements WritableComparable<MyWritable> {
   
    private Integer num;
    public String id;
    public String name;
    public String nation;

    public MyWritable(Integer num, String a, String b, String c) {
   
        this.num = num;
        this.id=a;
        this.name=b;
        this.nation=c;
    }

    public MyWritable() {
   
    }

    @Override
    public void write(DataOutput out) throws IOException {
   
        o
  • 1
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值