大数据最新大数据技术入门：MapReduce（分布式计算框架）(1)，阿里P8手把手教你

本文链接：https://blog.csdn.net/2401_84182842/article/details/138735905

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

需要这份系统化资料的朋友，可以戳这里获取

主要用于大数据计算领域，解决海量数据的计算问题。
MR 本身只是一个编程和计算框架，或者干脆一点就是一堆可调用的 jar 包，和 mysql、hdfs、impala等有运行实例的服务不一样， MR 本身没有运行实例。
MR 有两个阶段组成：Map 和 Reduce，用户只需实现 map() 和 reduce() 两个函数，即可实现分布式计算。
MapReduce 编程模型只包含 Map 和 Reduce 两个过程，map 的主要输入是一对 <key,value> 值，经过 map 计算后输出一对 <key,value> 值；然后将相同 Key 合并，形成 <key,value> 集合;再将这个<key,value 集合>输入 reduce，经过计算输出零个或多个 <key,value> 对。

二、MapReduce工作原理

============================================================================

在这里插入图片描述

大数据应用进程（提交任务的客户端）：

该进程是启动 MapReduce 程序的主入口，主要是指定 Map 和 Reduce 类、输入输出文件路径等，并提交作业给 Hadoop 集群

JobTracker进程：

Hadoop 集群常驻进程，根据要处理的输入数据量，命令 TaskTracker生成相应数量的Map和Reduce进程任务，并管理这个作业生命周期的任务的调度和监控

TaskTracker进程：

负责管理 Map 进程和 Reduce 进程。Hadoop 集群中绝大多数服务器同时运行 DataNode 进程和 TaskTracker 进程

三、MapReduce操作

==========================================================================

运维操作：


 hadoop    jar    jar包路径   入口程序类名   输入文件的hdfs目录     输出文件的hdfs目录

四、案例

=================================================================


public class WordCount {

  public static class TokenizerMapper  extends Mapper<Object, Text, Text, IntWritable>{

    private final static IntWritable one = new IntWritable(1);

    private Text word = new Text();

    public void map(Object key, Text value, Context context

                    ) throws IOException, InterruptedException {

      StringTokenizer itr = new StringTokenizer(value.toString());

      while (itr.hasMoreTokens()) {

        word.set(itr.nextToken());

        //针对每个单词输出一个<word ,1>

        //MapReduce 计算框架会将这些<word ,1>收集起来，将相同的word放一起，形成

        //<word,<1,1,1,...>>这样的<key,value集合>，然后输入给reduce

        context.write(word, one);

      }

    }

  }

 

  public static class IntSumReducer    extends Reducer<Text,IntWritable,Text,IntWritable> {

    private IntWritable result = new IntWritable();

    public void reduce(Text key, Iterable<IntWritable> values, Context context

                       ) throws IOException, InterruptedException {

      int sum = 0;

      for (IntWritable val : values) {

          //reduce对每个word对应的所有1 进行求和，最终将<word,合计>输出

        sum += val.get();

      }


![img](https://img-blog.csdnimg.cn/img_convert/4b903d3ba9d686928a691da9f18ed890.png)
![img](https://img-blog.csdnimg.cn/img_convert/63a96b81ba8195f4c72c994a808eee6c.png)

**网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**

**[需要这份系统化资料的朋友，可以戳这里获取](https://bbs.csdn.net/forums/4f45ff00ff254613a03fab5e56a57acb)**


**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**

ms/4f45ff00ff254613a03fab5e56a57acb)**


**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**