文章目录
11.MapReduce概述
11.1MapReduce定义
MapReduce是一个分布式运算程序的编程框架,是用户开发“基于Hadoop的数据分析应用”的核心框架。
MapReduce核心功能是将用户编写的业务逻辑代码
和自带默认组件
整合成一个完整的分布式运算程序,并发运行在一个Hadoop集群上。
11.2MapReduce优缺点
11.2.1优点
11.2.1.1MapReduce易于编程
它简单的实现一些接口,就可以完成一个分布式程序
,这个分布式程序可以分布到大量廉价的PC机器上运行。也就是说你写一个分布式程序,跟写一个简单的串行程序是一模一样的。就是因为这个特点使得MapReduce编程变得非常流行。
11.2.1.2良好的扩展性
当你的计算资源不能得到满足的时候,你可以通过简单的增加机器来扩展它的计算能力。
11.2.1.3高容错性
MapReduce设计的初衷就是使程序能够部署在廉价的PC机器上,这就要求它具有很高的容错性。比如其中一台机器挂了,它可以把上面的计算任务转移到另外一个节点上运行,不至于这个任务运行失败,
而且这个过程不需要人工参与,而完全是由Hadoop内部完成的。
11.2.1.4适合PB级以上海量数据的离线处理
可以实现上千台服务器集群并发工作,提供数据处理能力。
11.2.2缺点
11.2.2.1不擅长实时计算
MapReduce无法像MySQL一样,在毫秒或者秒级内返回结果。
11.2.2.2不擅长流式计算
流式计算的输入数据是动态的,而MapReduce的输入数据集是静态的
,不能动态变化。这是因为MapReduce自身的设计特点决定了数据源必须是静态的。
11.2.2.3不擅长DAG(有向无环图)计算
多个应用程序存在依赖关系,后一个应用程序的输入为前一个的输出。在这种情况下,MapReduce并不是不能做,而是使用后,每个MapReduce作业的输出结果都会写入到磁盘,会造成大量的磁盘IO,导致性能非常的低下。
11.3MapReduce核心思想
(1)分布式的运算程序往往需要分成至少2个阶段。
(2)第一个阶段的MapTask并发实例,完全并行运行,互不相干。
(3)第二个阶段的ReduceTask并发实例互不相干,但是他们的数据依赖于上一个阶段的所有MapTask并发实例的输出。
(4)MapReduce编程模型只能包含一个Map阶段和一个Reduce阶段,如果用户的业务逻辑非常复杂,那就只能多个MapReduce程序,串行运行。
总结:分析WordCount数据流走向深入理解MapReduce核心思想。
11.4MapReduce进程
一个完整的MapReduce程序在分布式运行时有三类实例进程:
(1)MrAppMaster:负责整个程序的过程调度及状态协调。
(2)MapTask:负责Map阶段的整个数据处理流程。
(3)ReduceTask:负责Reduce阶段的整个数据处理流程。
11.5官方WordCount源码
采用反编译工具反编译源码,发现WordCount案例有Map类、Reduce类和驱动类。且数据的类型是Hadoop自身封装的序列化类型。
使用这个打开
链接:https://pan.baidu.com/s/1TwFootEoRau9ySxaO0rveA?pwd=82sf
提取码:82sf
11.6常用数据序列化类型
Java类型 | Hadoop Writable类型 |
---|---|
Boolean | BooleanWritable |
Byte | ByteWritable |
Int | IntWritable |
Float | FloatWritable |
Long | LongWritable |
Double | DoubleWritable |
String | Text |
Map | MapWritable |
Array | ArrayWritable |
Null | NullWritable |
11.7MapReduce编程规范
用户编写的程序分成三个部分:Mapper、Reducer和Driver。
11.8WordCount案例实操
11.8.1本地测试
11.8.1.1需求
在给定的文本文件中统计输出每一个单词出现的总次数
(1)输入数据
wo ni
shi wan
shuai you
ge xi
ha ha
wo ni
li niu
hai niu
(2)期望输出数据
ge 1
ha 2
hai 1
li 1
ni 2
niu 2
shi 1
shuai 1
wan 1
wo 2
xi 1
you 1
11.8.1.2需求分析
按照MapReduce编程规范,分别编写Mapper,Reducer,Driver。
11.8.1.2.1 Driver
5.1 获取配置信息,获取job对象实例
5.3 关联Mapper/Reducer业务类
5.4 指定Mapper输出数据的kv类型
5.5 指定最终输出的数据的kv类型
5.6 指定job的输入原始文件所在目录
5.7 指定job的输出结果所在目录
5.2 指定本程序的jar包所在的本地路径
5.8 提交作业
11.8.1.3环境准备
(1)创建maven工程,MapReduceDemo
如果不清楚的可以看我之前发的博客https://blog.csdn.net/Redamancy06/article/details/126276423
(2)在pom.xml文件中添加如下依赖
<dependencies>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-client</artifactId>
<version>3.1.3</version>
</dependency>
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
<version>4.12</version>
</dependency>
<dependency>
<groupId>org.slf4j</groupId>
<artifactId>slf4j-log4j12</artifactId>
<version>1.7.30</version>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-hdfs</artifactId>
<version>3.1.3</version>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-common</artifactId>
<version>3.1.3</version>
</dependency>
</dependencies>
(3)在项目的src/main/resources目录下,新建一个文件,命名为“log4j.properties”,在文件中填入。
log4j.rootLogger=INFO, stdout
log4j.appender.stdout=org.apache.log4j.ConsoleAppender
log4j.appender.stdout.layout=org.apache.log4j.PatternLayout
log4j.appender.stdout.layout.ConversionPattern=%d %p [%c] - %m%n
log4j.appender.logfile=org.apache.log4j.FileAppender
log4j.appender.logfile.File=target/spring.log
log4j.appender.logfile.layout=org.apache.log4j.PatternLayout
log4j.appender.logfile.layout.ConversionPattern=%d %p [%c] - %m%n
(4)创建包名:com.summer.mapreduce.wordcount
(5)创建三个java文件
11.8.1.4编写程序
11.8.1.4.1编写Mapper类
package com.summer.mapreduce.wordcount;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Mapper;
import java.io.IOException;
/**
* @author Redamancy
* @create 2022-08-22 17:23
*/
/**
* KEYIN, map阶段输入的key的类型:LongWritable
* VALUEIN, map阶段输入的value的类型:Text
* KEYOUT, map阶段输出的key的类型:Text
* VALUEOUT,map阶段输出的kvalue的类型:IntWritable
*/
public class WordCountMapper extends Mapper<LongWritable, Text, Text, IntWritable> {
private Text outK = new Text();
private IntWritable outV = new IntWritable(1);
@Override
protected void map(LongWritable key, Text value, Mapper<LongWritable, Text, Text, IntWritable>.Context context) throws IOException, InterruptedException {
//1 获取一行
//wo ni
String line = value.toString();
//2 切割
//wo
//ni
String[] words = line.split(" ");
for (String word : words) {
//封装outK
outK.set(word);
//写出
context.write(outK, outV);
}
}
}
这里导第一个,第一个是hadoop2.x和hadoop3.x,第二个是hadoop1.x的版本,前者只管计算,后者管计算和资源调度
Text要导这个包,否则会出错
11.8.1.4.2编写Reducer类
package com.summer.mapreduce.wordcount;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Reducer;
import java.io.IOException;
/**
* @author Redamancy
* @create 2022-08-22 17:23
*/
/**
* KEYIN, reduce阶段输入的key的类型:Text
* VALUEIN, reduce阶段输入的value的类型:IntWritable
* KEYOUT, reduce阶段输出的key的类型:Text
* VALUEOUT,reduce阶段输出的kvalue的类型:IntWritable
*/
public class WordCountReducer extends Reducer<Text, IntWritable,Text,IntWritable> {
private IntWritable outV = new IntWritable();
@Override
protected void reduce(Text key, Iterable<IntWritable> values, Reducer<Text, IntWritable, Text, IntWritable>.Context context) throws IOException, InterruptedException {
int sum = 0;
//ha(1,1)
//累加
for (IntWritable value : values) {
sum += value.get();
}
outV.set(sum);
//写出
context.write(key, outV);
}
}
11.8.1.4.3编写Driver驱动类
package com.summer.mapreduce.wordcount;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
import java.io.IOException;
/**
* @author Redamancy
* @create 2022-08-22 17:23
*/
public class WordCountDriver {
public static void main(String[] args) throws IOException, InterruptedException, ClassNotFoundException {
//1 获取job
Configuration conf = new Configuration();
Job job = Job.getInstance(conf);
//2 设置jar包路径
job.setJarByClass(WordCountDriver.class);
//3 关联mapper和reduccer
job.setMapperClass(WordCountMapper.class);
job.setReducerClass(WordCountReducer.class);
//4 设置map输出的kv类型
job.setMapOutputKeyClass(Text.class);
job.setMapOutputValueClass(IntWritable.class);
//5 设置最终输出的kv类型
job.setOutputKeyClass(Text.class);
job.setOutputValueClass(IntWritable.class);
//6 设置输入路径和输出路径
FileInputFormat.setInputPaths(job, new Path("D:\\Acode\\Hadoop\\input"));
FileOutputFormat.setOutputPath(job, new Path("D:\\Acode\\Hadoop\\output\\output1"));
//7 提交job
boolean result = job.waitForCompletion(true);
System.exit(result ? 0 : 1);
}
}
11.8.1.5本地测试
(1)需要首先配置好HADOOP_HOME变量以及Windows运行依赖
(2)在IDEA/Eclipse上运行程序
假如输出路径已有,则会报错
11.8.2提交到集群测试
集群上测试
11.8.2.1用maven打jar包,需要添加的打包插件依赖
注意:如果工程上显示红叉。在项目上右键->maven->Reimport刷新即可
<build>
<plugins>
<plugin>
<artifactId>maven-compiler-plugin</artifactId>
<version>3.6.1</version>
<configuration>
<source>1.8</source>
<target>1.8</target>
</configuration>
</plugin>
<plugin>
<artifactId>maven-assembly-plugin</artifactId>
<configuration>
<descriptorRefs>
<descriptorRef>jar-with-dependencies</descriptorRef>
</descriptorRefs>
</configuration>
<executions>
<execution>
<id>make-assembly</id>
<phase>package</phase>
<goals>
<goal>single</goal>
</goals>
</execution>
</executions>
</plugin>
</plugins>
</build>
在重新建一个包,然后将那三个代码同时复制过来,不要一个一个的复制,然后将2处修改,可以实现为自定义输入输出路径,就不是死路径了。
然后打包即可
使用的这个jar包
直接拖拽jar包,
因为运行wordcount不能像官网那样直接写wordcount,需要写全类名
和之前的结果一模一样
<plugin>
<artifactId>maven-assembly-plugin</artifactId>
<configuration>
<descriptorRefs>
<descriptorRef>jar-with-dependencies</descriptorRef>
</descriptorRefs>
</configuration>
<executions>
<execution>
<id>make-assembly</id>
<phase>package</phase>
<goals>
<goal>single</goal>
</goals>
</execution>
</executions>
</plugin>
这个插件依赖的存在是可以将这个包所有依赖的包全部打包,比如写的这个他依赖hadoopjar包等,他都会把所有他依赖的包全部打包