Hadoop生态系统框架详解(一):Hadoop框架

Hadoop框架

简述:Hadoop是一个由Apache基金会所开发的分布式系统基础架构。
主要解决海量数据的存储和海量数据的分析计算问题。
广义上来说，HADOOP通常是指一个更广泛的概念——HADOOP生态圈

思想来源:Google三大理论(GFS 文件存储、MapReduce 计算、Bigtable)

发行版本：1.Apache 最原始基础的版本,适用于初学者
2.Cloudera 大型互联网企业中使用较多
3.Hortonworks 多用于文档较好

优势: 1.高可靠性：Hadoop底层维护多个数据副本，所以即使Hadoop某个计算元素或存储出现故障，也不会导致数据的丢失。
2.高扩展性：在集群间分配任务数据，可方便的扩展数以千计的节点。
3.高效性：在MapReduce的思想下，Hadoop是并行工作的，以加快任务处理速度。
4.高容错性：能够自动将失败的任务重新分配。

模块组成: hadoop 1.x (HDFS,MapReduce)、hadoop 2.x(HDFS,MapReduce,Yarn)
1.HDFS:一个高可靠、高吞吐量的分布式文件系统
2.MapReduce:一个分布式的离线并行计算框架
3.Yarn:作业调度与集群资源管理的框架
4.Common:支持其他模块的工具模块

hadoop安装详解参考