什么是Hadoop
hadoop提供:分布式数据存储、分布式数据计算、分布式资源调度为一体的整体解决方案。
apachehadoop是典型的分布式软件框架,可以部署在1台乃至成千上万台服务器节点上协同工作。
个人或企业可以借助hadoop构建大规模服务器集群,完成海量数据的存储和计算。
分布式调度两大架构模式
去中心化模式:没有明确中心,基于特定规则进行同步协调进行同步协调。【区块链】
中心化模式:有一个中心节点(服务器)来统筹其他服务器工作,统一指挥,统一调派,避免混乱 【主从模式】
内部功能组件
HDFS集群
主角色
NameNode
- hdfs系统的主角色,是一个独立的进程
- 负责管理hdfs整个文件系统
- 负责管理datanode
主角色辅助角色
SecondaryNameNode
- namenode的辅助,是一个独立进程
- 主要帮助namenode完成元数据整理工作(打杂)
从角色
DataNode
- hdfs系统的从角色,是一个独立进程
- 主要负责数据的存储,即存入数据和取出 好的那么简单的数据
MapReduce
YARN