Hadoop之Hadoop基础知识

Hadoop之Hadoop基础知识复习


目录

  1. Hadoop是什么
  2. Hadoop的优势
  3. Hadoop组成
  4. 大数据技术生态体系

1. Hadoop是什么

1)Hadoop是一个由Apache基金会所开发的分布式系统基础架构。
2)主要解决的是海量数据的存储和海量数据的分析计算问题。
3)广义上来说,HADOOP通常是指一个更广泛的概念——HADOOP生态圈。
在这里插入图片描述


2. Hadoop的优势

1)高可靠性:Hadoop底层维护多个数据副本,所以即使Hadoop某个计算元素或存储出现故障,也不会导致数据的丢失。
2)高扩展性:在集群间分配任务数据,可方便的扩展数以千计的节点。
3)高效性:在MapReduce的思想下,Hadoop是并行工作的,以加快任务处理速度。
4)高容错性:能够自动将失败的任务重新分配。


3. Hadoop组成

  1. 在Hadoop1.x时代,Hadoop中的MapReduce同时处理业务逻辑运算和资源的调度,耦合性较大,在Hadoop2.x时代,增加了Yarn。Yarn只负责资源的调度,MapReduce只负责运算,如下图所示:在这里插入图片描述

  2. HDFS架构概述

    1. NameNode(nn):存储文件的元数据,如文件名,文件目录结构,文件属性(生成时间,副本数,文件权限),以及每个文件的块列表和块所在的DataNode。
    2. DataNdoe(dn):在本地文件系统存储文件块数据,以及块数据的校验和。
    3. Seconde NameNode(2nn):用来监控HDFS状态的辅助后台程序,每隔一段时间获取HDFS元数据的快照。
  3. YARN架构概述

    1. ResourceManager(rm):处理客户端请求,启动/监控ApplicationManager,监控NodeManager,资源分配与调度;
    2. NodeManager(nm):单个节点上的资源管理,处理来自ResourceManager的命令,处理来自ApplicationMaster的命令。
    3. ApplicationMaster:数据切分,为应用程序申请资源,并分配给内部任务,任务监控与容错。
    4. Container:对任务运行环境的抽象,封装了CPU,内存等多维资源以及环境变量,启动命令等任务运行相关的信息。
      在这里插入图片描述
  4. MapReduce架构概述
    MapReduce将计算过程分为两个阶段:Map和Reduce,如下图所示
    1)Map阶段并行处理输入数据
    2)Reduce阶段对Map结果进行汇总
    在这里插入图片描述


4. 大数据技术生态体系

在这里插入图片描述

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值