hadoop概述-包括各个组件

Hadoop是一个由Apache基金会开发的分布式系统基础架构,主要解决海量数据的存储和分析计算问题。Hadoop包括HDFS、MapReduce和YARN等组件,具有高可靠性、高扩展性和高容错性等优势。文章介绍了Hadoop的发展历史、三大发行版本(Apache、Cloudera、Hortonworks)以及其组成和部署方式。
摘要由CSDN通过智能技术生成

1、Hadoop 是什么

1)Hadoop 是一个由 Apache 基金会所开发的分布式系统基础架构
分布式表示把一件大事拆分成小事去处理        基础架构表示这是其它框架的基础

2)主要解决,海量数据的存储和海量数据的分析计算问题。(hdfs\mapreduce

3)广义上来说,HADOOP 通常是指一个更广泛的概念——HADOOP 生态圈

 上图就是服务器


2、Hadoop 发展历史

 

1)Lucene-->Doug Cutting 开创的开源软件,用 java 书写代码,实现与 Google 类似的全文搜索功能,它提供了全文检索引擎的架构,包括完整的查询引擎和索引引擎
了解搜索框架
2)2001年年底Lucene成为apache基金会的一个子项目
3)对于大数量的场景,Lucene 面对与 Google 同样的困难海量检索和存储
4)学习和模仿 Google 解决这些问题的办法 :微型版 Nutch
5)可以说Google 是 hadoop 的思想之源(Google 在大数据方面的三篇论文)
        GFS(google file system) --->HDFS
        Map-Reduce --->MR
        BigTable --->Hbase
6)2003-2004 年,Google 公开了部分GFS 和Mapreduce 思想的细节,以此为基础 Doug

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
Hadoop 是一个由 Apache 组织开发的分布式计算框架,它的核心组件包括 HDFS 和 MapReduce。除此之外,Hadoop 还有许多与之相关的工具和组件,下面是 Hadoop 的各个组件的简要概述: 1. HDFS(Hadoop Distributed File System):Hadoop 的分布式文件系统,用于存储大数据集,具有高容错性、高可靠性、高可扩展性等特点。 2. MapReduce:Hadoop 的分布式计算框架,用于处理大规模数据的计算任务,可并行处理数据,并将结果合并输出。 3. YARN(Yet Another Resource Negotiator):Hadoop 的资源管理器,负责集群资源的调度和管理,在 Hadoop 2.x 版本中取代了旧版的 JobTracker 和 TaskTracker。 4. Hive:基于 Hadoop 的数据仓库工具,用于处理结构化数据,提供类 SQL 查询语言和数据存储功能。 5. Pig:基于 Hadoop 的数据流编程工具,用于处理非结构化数据,提供类 SQL 查询语言和数据转换功能。 6. HBase:基于 Hadoop 的分布式数据库,用于存储大规模结构化数据,支持高并发读写操作。 7. ZooKeeper:分布式应用程序协调服务,用于在分布式系统中维护配置信息、命名服务、分布式锁等。 8. Sqoop:用于在 Hadoop 和关系型数据库之间进行数据传输的工具,支持 MySQL、Oracle、PostgreSQL、SQL Server 等多种数据库。 9. Flume:用于将大规模日志数据从各种源(如 Web 服务器、数据库等)传输到 Hadoop 中的工具。 10. Oozie:基于 Hadoop 的工作流调度系统,用于管理和调度分布式计算任务。 11. Mahout:基于 Hadoop 的机器学习框架,提供多种机器学习算法的实现。 以上是 Hadoop 的主要组件,每个组件都有其独特的作用和特点,在 Hadoop 的生态系统中相互配合,共同构建出一个高效可靠的大数据处理平台。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Mr.WANwan

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值