是什么?
Hadoop是一个由Apache基金会所开发的分布式系统基础架构。 主要解决用来海量数据的存储和海量数据的分析计算问题。 从广义上来说,Hadoop通常是指一个更广泛的概念——Hadoop生态圈。
四大优势
- 高可靠性:Hadoop底层维护多个数据副本,所以即使Hadoop某个计算元素或存储出现故障,也不会导致数据的丢失。
- 高扩展性:在集群间分配任务数据,可方便的扩展数以千计的节点。
- 高效性:在MapReduce的思想下,Hadoop是并行工作的,以加快任务处理速度。
- 高容错性:能够自动将失败的任务重新分配。
组成
HDFS概述
HDFS(Hadoop Distributed File System)是一个分布式文件管理系统。其组成:
- NameNode(nn):存储文件的元数据,如文件名,文件目录结构,文件属性(生成数、副本数、文件权限),以及每个文件的块列表和块所在的DataNode等;
- DataNode(dn):在本地文件系统存储文件块数据,以及块数据的校验和;
- Secondary NameNode(2nn):每隔一段时间对NameNode元数据备份。
YARN概述
YARN(Yet Another Resourse Negotiator)简称YARN,另一种资源协调者,是Hadoop的资源管理者。其组成:
- ResourseManger(RM):整个集群资源(内存、cpu等)的管理者;
- NodeManger(NM):单个节点服务器的管理者;
- ApplicationMaster(AM):单个任务运行的主人;
- Container:容器,相当于一台独立的服务器,里面封装了任务运行所需要的资源,如内存、CPU、磁盘、网络等。
MapReduce架构概述
MapReduce将计算过程分为两个阶段:Map和Reduce
- Map阶段并行处理输入数据;
- Reduce阶段对Map结果汇总