什么是Hadoop?
Hadoop是apache旗下的一款开源的软件平台。
Hadoop提供的功能:利用服务器集群,根据用户的业务逻辑,对海量数据进行分布式处理。
多个服务器进行并行计算,把最后的结果汇总。
- 集群
多台服务器的方式,每台服务器可以【独自】完成工作。(可以自己完成工作,也可以分给别人一起做) - 分布式
多台服务器【共同】完成一个或多个工作。(必须多台机器一起完成)
Hadoop的主要组成:
- common:基础功能组件,提供基础功能服务(通信)
- HDFS:分布式文件系统
- YARN:资源调度系统
- MapReduce:分布式离线计算框架
yarn调度资源给mapreduce进行作业,通过从hdfs调用数据(hdfs提供底层的存储数据)进行计算,都是需要common进行通信。
什么是HDFS?
HDFS是hadoop的分布式文件系统,采用的是集群的方式来存储海量数据。