MapReduce概述

MapReduce是一种分布式编程框架,主要用于大规模数据的离线处理。其优点包括易于编程、良好的扩展性和高容错性,但不适用于实时计算和流式计算。MapReduce的核心思想包括两个阶段:MapTask并行处理数据,ReduceTask处理所有MapTask的输出。编程模型通常包括Mapper、Reducer和Driver三个部分,用户需实现特定的接口来定义业务逻辑。
摘要由CSDN通过智能技术生成

一、MapReduce定义

1、mapreduce 是一个分布式运算程序的编程框架,是用户开发 “基于 Hadoop 的数据分析应用” 的核心框架。
2、mapreduce 核心功能是将 用户编写的业务逻辑代码自带默认组件 整合成一个完整的 分布式运算程序,并发运行在一个 hadoop 集群。

二、MapReduce优缺点

2.1 优点

1、mapreduce 易于编程
它简单的实现了一些接口,就可以完成一个分布式程序,这个分布式程序可以分布到大量廉价的 pc 机器上运行。也就是说你写一个分布式程序,和写一个简单的串行程序是一模一样的,就是因为这个特点使得 mapreduce 编程变得容易使人接受。

2、良好的扩展性
当你的计算资源不能得到满足的时候,你可以通过简单的增加机器来扩展它的计算能力。

3、高容错性
mapreduce 设计的初衷就是使程序能够部署在廉价的 pc 机器上,这就要求它具有很高的容错性。比如其中一台机器挂了,它可以把上面的计算任务转移到另外一台节点上运行,不至于这个任务运行失败,而且这个过程不需要人工参与,而完全是由 hadoop 内部完成的。

4、适合 PB 级别以上海量数据的离线处理
可以实现上千台服务器集群并发工作,提供数据处理能力。

2.2 缺点

1、不擅长实时计算
mapreduce 无法像 mysql 一样,在毫秒或者秒级内返回结果

2、不擅长流式计算
流式计算的输入数据是

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值