gfs分布式文件系统

最新推荐文章于 2024-05-10 07:25:55 发布

花生味花生米

最新推荐文章于 2024-05-10 07:25:55 发布

阅读量369

点赞数

文章标签： GFS

本文链接：https://blog.csdn.net/qq_59161414/article/details/127269021

版权

1.分布式卷（Distribute volume）

2.条带卷（Stripe volume)

3.复制卷（Replica volume）

4.分布式条带卷（Distribute Stripe volume）

5.分布式复制卷（Distribute Replica volume）

前言

GFS是一个可扩展的分布式文件系统，用于大型的、分布式的、对大量数据进行访问的应用。它运行于廉价的普通硬件上，并提供容错功能。它可以给大量的用户提供总体性能较高的服务。

一.GlusterFS简介

1.GlusterFS 是一个开源的分布式文件系统。
2.由存储服务器、客户端以及NFS/Samba存储网关(可选，根据需要选择使用)组成。
3.没有元数据服务器组件，这有助于提升整个系统的性能、可靠性和稳定性。

传统的分布式文件系统大多通过元服务器来存储元数据，元数据包含存储节点上的目录信息、目录结构等。这样的设计在浏览目录时效率高，但是也存在一些缺陷，例如单点故障。一旦元数据服务器出现故障，即使节点具备再高的冗余性，整个存储系统也将崩溃。而GlusterFS 分布式文件系统是基于无元服务器的设计，数据横向扩展能力强，具备较高的可靠性及存储效率。

二.GlusterFS特点

扩展性和高性能
GlusterFS利用双重特性来提供高容量存储解决方案。

Scale-Out架构允许通过简单地增加存储节点的方式来提高存储容量和性能(磁盘、计算和I/O资源都可以独立增加)，支持10GbE和InfiniBand等高速网络互联。
Gluster弹性哈希(ElasticHash) 解决了GlusterFS对元数据服务器的依赖，改善了单点故障和性能瓶颈，真正实现了并行化数据访问。GlusterFS采用弹性哈希算法在存储池中可以智能地定位任意数据分片(将数据分片存储在不同节点上)，不需要查看索引或者向元数据服务器查询。

1.高可用性

GlusterFS可以对文件进行自动复制，如镜像或多次复制，从而确保数据总是可以访问，甚至是在硬件故障的情况下也能正常访问当数据出现不一致时，自我修复功能能够把数据恢复到正确的状态，数据的修复是以增量的方式在后台执行，几乎不会产生性能负载。
GlusterFS可以支持所有的存储，因为它没有设计自己的私有数据文件格式，而是采用操作系统中主流标准的磁盘文件系统(如EXT3、XFS等)来存储文件，因此数据可以使用传统访问磁盘的方式被访问。

2.全局统一命名空间

分布式存储中，将所有节点的命名空间整合为统一命名空间，将整个系统的所有节点的存储容量组成一个大的虛拟存储池，供前端主机访问这些节点完成数据读写操作。

3.弹性卷管理

GlusterFs通过将数据储存在逻辑卷中，逻辑卷从逻辑存储池进行独立逻辑划分而得到。
逻辑存储池可以在线进行增加和移除，不会导致业务中断。逻辑卷可以根据需求在线增长和缩减，并可以在多个节点中实现负载均衡。
文件系统配置也可以实时在线进行更改并应用，从而可以适应工作负载条件变化或在线性能调优。

4.基于标准协议

Gluster存储服务支持NFS、CIFS、HTTP、FTP、SMB 及Gluster原生协议，完全与POSIX标准(可移植操作系统接口)兼容。
现有应用程序不需要做任何修改就可以对Gluster中的数据进行访问，也可以使用专用API进行访问。

5.GlusterFS术语

**Brick（块存储服务器）**实际存储用户数据的服务器
**Volume（逻辑卷）**本地文件系统的"分区"
FUSE用户空间的文件系统（类别EXT4），”这是一个伪文件系统“，用户端的交换模块
**VFS（虚拟端口）**内核态的虚拟文件系统，用户是提交请求给VFS 然后VFS交给FUSH，再交给GFS客户端，最后由客户端交给远端的存储
**Glusterd（服务）**是运行再存储节点的进程（客户端运行的是gluster client）GFS使用过程中整个GFS之间的交换由Gluster client 和glusterd完成
使用GFS会使用到以上的虚拟文件系统

6.GlusterFS构成

模块化堆栈式架构
模块化、堆栈式的架构
通过对模块的组合，实现复杂的功能
API：应用程序编程接口
模块化：每个模块可以提供不同的功能
堆栈式：同时启用多个模块，多个功能可以组合，实现复杂的功能

I/O cache：I/O缓存
read ahead：内核文件预读
distribute/stripe：分布式、条带化
Gige：千兆网/千兆接口
TCP/IP：网络协议
InfiniBand：网络协议，与TCP/IP相比，TCP/IP具有转发丢失数据包的特性，基于此通信协议可能导致通信变慢，而IB使用基于信任的、流控制的机制来保证连接完整性
RDMA：负责数据传输，有一种数据传输协议，功能：为了解决传输过程中客户端与服务器端数据处理的延迟

7.后端存储如何定位文件

弹性HASH算法是Davies-Meyer算法的具体实现，通过HASH算法可以得到一个32位的整数范围的hash值, 假设逻辑卷中有N个存储单位Brick，则32位的整数范围将被划分为N个连续的子空间，每个空间对应一个Brick。
当用户或应用程序访问某一个命名空间时，通过对该命名空间计算HASH值，根据该HASH值所对应的32位整数空间定位数据所在的Brick。

三.GFS支持的七种卷

1.分布式卷（Distribute volume）

文件通过HASH算法分布到所有Brick Server上，这种卷是GlusterFS的默认卷;以文件为单位根据HASH算法散列到不同的Brick，其实只是扩大了磁盘空间，如果有一块磁盘损坏，数据也将丢失，属于文件级的RAID0，不具有容错能力。
在该模式下，并没有对文件进行分块处理，文件直接存储在某个Server节点上。
由于直接使用本地文件系统进行文件存储，所以存取效率并没有提高，反而会因为网络通信的原而有所降低。

分布式卷具有如下特点:

文件分布在不同的服务器，不具备冗余性
更容易和廉价地扩展卷的大小
单点故障会造成数据丢失
依赖底层的数据保护