Hadoop

本文介绍了Hadoop MapReduce的基本使用,通过一个WordCount实例展示了如何实现文本分词并计数。Map阶段利用Mapper类处理输入数据,将文本行拆分为单词,并输出<单词, 1>键值对。Hadoop系统中,包括HDFS分布式文件系统、NameNode、SecondaryNameNode、DataNode、YARN资源调度器等组件协同工作,确保数据处理的高效运行。" 111959362,10540312,bwlabel算法实现:一次遍历的二值化连通域标记,"['图像处理', '算法', 'C语言编程']
摘要由CSDN通过智能技术生成

import org.apache.hadoop.io.IntWritable;

import org.apache.hadoop.io.LongWritable;

import org.apache.hadoop.io.Text;

import org.apache.hadoop.mapreduce.Mapper;

import java.io.IOException;

/*LongWritable 偏移量 Long,表示该行在文件中的位置,而不是行号

* Text map阶段的输入数据 一行文本信息 字符串类型 String

* Text map阶段的数据字符串类型String

* IntWritable map阶段输出的value类型,对应java中的int型,表示行号*/

public class WordCountMap extends Mapper<LongWritable,Text,Text,IntWritable>{ //空格占两个字符

    @Override

    protected void map(LongWritable key,Text value,Context context)throws IOException,InterruptedException{

        //读取每行文本

        String line=value.toString();

        //splite拆分每行

        String[] words=line.split(" ");//分词

        //取出每个单词

        for(String word:words){

            //将单词转为Text类型

            Text wordText

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值