MapReduce

MapReduce是一种用于处理和生成大数据集的并行计算框架。它采用分治策略,Map负责数据的拆分与处理,Reduce负责数据的聚合。MapReduce程序包括Map、Shuffle、Reduce三个阶段,涉及数据分区、排序、序列化等操作。程序可以在本地运行模式或集群运行模式下执行。ReduceTask包含Copy、Merge、合并排序和调用reduce方法四个步骤。
摘要由CSDN通过智能技术生成

核心思想:分治

       Map负责“分”,即把复杂的任务分解为若干个“简单的任务”来并行处理。可以进行拆分的前提是这些小任务可以并行计算,彼此间几乎没有依赖关系。

        Reduce负责“合”,即对map阶段的结果进行全局汇总。

主要特点

        把一个大的问题,划分成很多小的子问题,并且每个小的子问题的求取思路与我们大问题的求取思路一致

MapReduce框架结构

        一个完整的mapreduce程序在分布式运行时有三类实例进程:

        1、MRAppMaster:负责整个程序的过程调度及状态协调

        2、MapTask:负责map阶段的整个数据处理流程 

        3、ReduceTask:负责reduce阶段的整个数据处理流程

mapReduce编程模型的总结:

        MapReduce的开发一共有八个步骤其中map阶段分为2个步骤,shuffle阶段4个步骤,reduce阶段分为2个步骤

  • Map阶段2个步骤

        第一步:设置input

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值