Hadoop系列(五)Mapreduce的使用,字符串分隔取需要值计算

本文介绍了如何使用Hadoop的MapReduce框架处理日志文件,通过Map阶段进行字符串分隔,Reducer阶段进行数据聚合计算。具体步骤包括输入日志文件、数据切片、Map操作、Shuffle过程、Reduce合并处理。示例中,通过内部类实现了Map和Reduce函数,主要目标是从输入文本中分隔字符串并获取第二个字段进行计数。
摘要由CSDN通过智能技术生成

在这里插入图片描述

计算框架:一个作业拆分成Map阶段和Reduce阶段 计算数据,挖取资源,基于硬盘的。主要数据清洗,把乱的数据清洗出来

先输入一个大的模块, 然后给它切分成不同的小模块 取出每个小模块的值赋一个1,方便后面的总结

input:日志文件输入

splitting:切片

Mapping:多个键值对转换成一系列键值对

shuffling:洗牌,把散落的计算结果按照key值进行放在一起,把相同花色放在一起

Reducing:相同的key结合在一起,也就是一个合并处理,最后进行统计数据出现多少次

TextInputFormt 读取文本文件
在这里插入图片描述

项目中创建data目录,创建word.txt文件

java::hadoop
html
css
java::java
html

1、实现map

创建类继承Mapper,重写map方法
public class WordCountMapper extends Mapper<LongWritable,Text,Text,IntWritable>{


    @Override
    protected void map(LongWritable key, Text value, Context context) throws IOException, Inte
  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值