mapreduce计算平均值

最新推荐文章于 2024-05-17 16:48:52 发布

smallpizza

最新推荐文章于 2024-05-17 16:48:52 发布

阅读量4.5k

点赞数 4

分类专栏： mapreduce实例文章标签： mapreduce hadoop 计算平均值数据

本文链接：https://blog.csdn.net/smallpizza/article/details/78013472

版权

本文介绍了如何利用Hadoop的MapReduce组件计算大量学生成绩数据的平均值。通过示例数据和代码展示，Map阶段将学生姓名作为key，成绩作为value，而Reduce阶段则对相同key的成绩求和并计算科目数量，从而得出平均值。虽然程序没有处理小数成绩的情况，但展示了基本的计算思路。

摘要由CSDN通过智能技术生成

当我们有每一位同学的每一科成绩时，我们计算他们的平均成绩，用传统的方法比较麻烦，如果我们用hadoop中MapReduce组件的话就比较简单了。
测试数据如下：
仅用于测试的数据
从上面的数据可以看到，计算每一位同学的平均成绩，在map阶段，我们可以用同学的姓名作为key，成绩作为value；在reduce阶段，key值相同的value值相加计算出总成绩，并且计算出科目的数量，然后用总成绩来除以科目数量就可以得出每一位同学的平均成绩了。
代码如下：

import java.io.IOException;
import java.util.Iterator;
import java.util.StringTokenizer;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;

public class Socre {
   
    public sta