分布式文件系统 - 概述及主流的分布式文件系统

什么是分布式文件系统

分布式文件系统解决了海量文件存储及传输访问的瓶颈问题，对海量视频的管理、对海量图片的管理等。

分布式文件系统（Distributed File System）是指文件系统管理的物理存储资源不一定直接连接在本地节点上，而是通过计算机网络与节点相连。

 

为什么会有分布文件系统

1.存在问题

分布式文件系统是面对互联网的需求而产生，互联网时代对海量数据如何存储？靠简单的增加硬盘的个数已经满足不了我们的要求，因为硬盘传输速度有限但是数据在急剧增长，另外我们还要要做好数据备份、数据安全等问题。

2.解决办法

采用分布式文件系统可以将多个地点的文件系统通过网络连接起来，组成一个文件系统网络，结点之间通过网络进行通信，一台文件系统的存储和传输能力有限，我们让文件在多台计算机上存储，通过多台计算共同传输。

好处

1.一台计算机的文件系统处理能力扩充到多台计算机同时处理

2.如果一台计算机挂了，还有另外副本计算机提供数据。

3.每台计算机可以放在不同的地域，这样用户就可以就近访问，提高访问速度

 

主流的分布式文件系统

①NFS

在客户端上映射NFS服务器的驱动器，客户端通过网络访问NFS服务器的硬盘完全透明。

 

②GFS

GFS采用主从结构，一个GFS集群由一个master和大量的chunkserver组成。master存储了数据文件的元数据，一个文件被分成了若干块存储在多个chunkserver中。用户从master中获取数据元信息，从chunkserver存储数据。

 

③HDFS

Hadoop分布式文件系统主要用于大数据。HDFS采用主从结构，一个HDFS集群由一个名称结点和若干数据结点组成

名称结点存储数据的元信息，一个完整的数据文件分成若干块存储在数据结点。客户端从名称结点获取数据的元信息及数据分块的信息，得到信息客户端即可从数据块来存取数据。