Hadoop模块组成(HDFS+YARN)
一、HDFS:分布式文件存储系统
1.什么是文件存储系统?
在了解HDFS之前,我们首先要了解什么是文件存储系统,顾名思义,文件存储系统就是能存储文件;查找、修改、删除文件;文件在文件存储系统中不能随意丢失,满足以上几个功能的就可以称为一个文件存储系统,最常见的一个文件存储系统就是我们的电脑。
2.什么是分布式?
分布式文件存储系统简单的理解就是由很多台电脑帮你存文件,那么就有一个问题,为什么要需要这么多台电脑帮我们存文件呢?因为数据量很大呀,一台机器存不下我的东西,那我就要找很多台机器来帮我存,就比如我现在有一个大小为1TB的用户行为数据,而我只拥有两个各为500GB的机器,所以我的解决办法就是将这个用户行为数据分成两部分存储在这两个机器上,这就是分布式的概念。
3.分布式文件存储系统
分布式文件存储系统其实就是一个软件,通过这个软件实现多台机器的文件存储问题。
4.分布式文件存储系统的架构
5.什么是元数据和block块?
元数据简单的理解就是描述数据的数据。我们的数据是以block块的方式保存的,每个block块的大小实际上可以自己设置,通常是256M或者128M