MapReduce核心特性
-
主要用于大数据计算领域,解决海量数据的计算问题。
-
MR 本身只是一个编程和计算框架,或者干脆一点就是一堆可调用的 jar 包,和 mysql、hdfs、impala等有运行实例的服务不一样, MR 本身没有运行实例。
-
MR 有两个阶段组成:Map 和 Reduce,用户只需实现 map() 和 reduce() 两个函数,即可实现分布式计算。
-
MapReduce 编程模型只包含 Map 和 Reduce 两个过程,map 的主要输入是一对 <key,value> 值,经过 map 计算后输出一对 <key,value> 值;然后将相同 Key 合并,形成 <key,value> 集合;再将这个<key,value 集合>输入 reduce,经过计算输出零个或多个 <key,value> 对。
============================================================================
大数据应用进程(提交任务的客户端):
该进程是启动 MapReduce 程序的主入口,主要是指定 Map 和 Reduce 类、输入输出文件路径等,并提交作业给 Hadoop 集群
JobTracker进程:
Hadoop 集群常驻进程,根据要处理的输入数据量,命令 TaskTracker生成相应数量的Map和Reduce进程任务,并管理这个作业生命周期的任务的调度和监控
TaskTracker进程:
负责管理 Map 进程和 Reduce 进程。Hadoop 集群中绝大多数服务器同时运行 DataNode 进程和 TaskTracker 进程
==========================================================================
运维操作:
hadoop jar jar包路径 入口程序类名 输入文件的hdfs目录 输出文件的hdfs目录
=================================================================
public class WordCount {
public static class TokenizerMapper extends Mapper<Object, Text, Text, IntWritable>{
private final static IntWritable one = new IntWritable(1);
private Text word = new Text();
public void map(Object key, Text value, Context context
) throws IOException, InterruptedException {
StringTokenizer itr = new StringTokenizer(value.toString());
while (itr.hasMoreTokens()) {
word.set(itr.nextToken());
//针对每个单词输出一个<word ,1>
//MapReduce 计算框架会将这些<word ,1>收集起来,将相同的word放一起,形成
//<word,<1,1,1,...>>这样的<key,value集合>,然后输入给reduce
context.write(word, one);
}
}
}
public static class IntSumReducer extends Reducer<Text,IntWritable,Text,IntWritable> {
private IntWritable result = new IntWritable();
public void reduce(Text key, Iterable<IntWritable> values, Context context
) throws IOException, InterruptedException {
int sum = 0;
for (IntWritable val : values) {
//reduce对每个word对应的所有1 进行求和,最终将<word,合计>输出
sum += val.get();
![img](https://img-blog.csdnimg.cn/img_convert/dfa6b6f06715176f5230447aab28d6e7.png)
![img](https://img-blog.csdnimg.cn/img_convert/c536c37fbe4aa6353b4d341d4ca03b7d.png)
![img](https://img-blog.csdnimg.cn/img_convert/575cb07ae3b5d9fed16aab3f0f549537.png)
**既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!**
**由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新**
**[需要这份系统化资料的朋友,可以戳这里获取](https://bbs.csdn.net/topics/618545628)**
件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新**
**[需要这份系统化资料的朋友,可以戳这里获取](https://bbs.csdn.net/topics/618545628)**