Hadoop介绍
- 狭义上Hadoop指的是Apache软件基金会的一款开源软件
- Hadoop核心组件
Hadoop HDFS(分布式文件存储系统):解决海量数据存储
Hadoop YARN(集群资源管理和任务调度框架):解决资源任务调度
Hadoop MapReduce(分布式计算框架):解决海量数据计算 - 广义上Hadoop指的是围绕Hadoop打造的大数据生态圈
Hadoop发展简史
- hadoop之父:doug Cutting
- Hadoop起源于Apache Lucene子项目:Nutch
Nutch的设计目标是构建一个大型的全网搜索引擎
遇到瓶颈:如何解决数十亿网页的存储和索引问题 - Google三篇论文
《The Google file system》:谷歌分布式文件系统GFS
《MapReduce:Simplified Data Processing on Large Clusters》:谷歌分布式计算框架MapReduce
《Bigtable:A Distributed Storage System for Structured Data》:谷歌结构化数据存储系统
Hadoop现状
- HDFS作为分布式文件存储系统,处在生态圈的底层与核心地位
- YARN作为分布式通用的集群资源管理系统和任务调度平台,支撑各种计算引擎运行,保证了Hadoop地位
- MapReduce作为大数据生态圈第一代分布式计算引擎,由于自身设计的模型所产生的弊端,导致企业一线几乎不再直接使用MapReduce进行编程处理,但是很多软件的底层依然在使用MapReduce引擎来处理数据
Hadoop特性优点
- 扩容能力(scalability):Hadoop是在可用的计算机集群间分配数据并完成计算任务的,这些集群可以方便灵活的方式扩展到数以千计的节点。
- 成本低(Economical):Hadoop集群允许通过部署普通廉价的机器组成集群来处理大数据,以至于成本很低。看中的是集群的整体能力
- 效率高(efficiency):通过并发数据,Hadoop可以在节点之间动态并行的移动数据,使得速度非常快
- 可靠性(reliability):能自动维护数据的多份复制,并且在任务失败后能自动地重新部署(redeploy)计算任务。所以Hadoop的按位存储和处理数据的能力值得人们信赖。