一、GlusterFS简介
1、GlusterFS的概念
GlusterFS:分布式文件系统
开源的分布式文件系统
组成:
存储服务器
客户端
NFS/Samba 存储网关
无元数据服务器
数据分散存储
可避免出现单点故障
2、GlusterFS特点
扩展性和高性能
GlusterFS利用双重特性来提供高容量存储解决方案。
(1)Scale-Out架构允许通过简单地增加存储节点的方式来提高存储容量和性能(磁盘、计算和I/O资源都可以独立增加),支持10GbE和 InfiniBand等高速网络互联。
(2)Gluster弹性哈希(ElasticHash)解决了GlusterFS对元数据服务器的依赖,改善了单点故障和性能瓶颈,真正实现了并行化数据访问。GlusterFS采用弹性哈希算法在存储池中可以智能地定位任意数据分片(将数据分片存储在不同节点上),不需要查看索引或者向元数据服务器查询。
高可用性
GlusterFS可以对文件进行自动复制,如镜像或多次复制,从而确保数据总是可以访问,甚至是在硬件故障的情况下也能正常访问。
当数据出现不一致时,自我修复功能能够把数据恢复到正确的状态,数据的修复是以增量的方式在后台执行,几乎不会产生性能负载。
GlusterFS可以支持所有的存储,因为它没有设计自己的私有数据文件格式,而是采用操作系统中主流标准的磁盘文件系统(如EXT3、XFS等)来存储文件,因此数据可以使用传统访问磁盘的方式被访问。
全局统一命名空间
分布式存储中,将所有节点的命名空间整合为统一命名空间,将整个系统的所有节点的存储容量组成一个大的虚拟存储池,供前端主机访问这些节点完成数据读写操作。
弹性卷管理
GlusterFS通过将数据储存在逻辑卷中,逻辑卷从逻辑存储池进行独立逻辑划分而得到。
逻辑存储池可以在线进行增加和移除,不会导致业务中断。逻辑卷可以根据需求在线增长和缩减,并可以在多个节点中实现负载均衡。
文件系统配置也可以实时在线进行更改并应用,从而可以适应工作负载条件变化或在线性能调优。
基于标准协议
Gluster 存储服务支持 NFS、CIFS、HTTP、FTP、SMB 及 Gluster原生协议,完全与 POSIX 标准兼容。
现有应用程序不需要做任何修改就可以对Gluster 中的数据进行访问,也可以使用专用 API 进行访问。
3、GlusterFS术语
**Brick(块存储):**由主机提供的用于物理存储的专用分区,是GlusterFS中的基本存储单元,同时也是可信存储池中服务器上对外提供的存储目录。
**Volume(逻辑卷):**一个逻辑卷是一组 Brick 的集合。卷是数据存储的逻辑设备,类似于 LVM 中的逻辑卷。大部分 Gluster 管理操作是在卷上进行的。
**FUSE(Filesystem in Userspace):**用户空间的文件系统(类别EXT4),”这是一个伪文件系统“,用户端的交换模块
**VFS(Virtual File System-虚拟文件系统):**内核态的虚拟文件系统,用户是提交请求给VFS 然后VFS交给FUSH,再交给GFS客户端,最后由客户端交给远端的存储
**Glusterd(服务):**是运行再存储节点的进程(客户端运行的是gluster client)GFS使用过程中整个GFS之间的交换由Gluster client 和glusterd完成
4、GlusterFS的模块化堆栈式架构
模块化、堆栈式的架构
(1)模块化:每个模块可以提供不同的功能
(2)堆栈式:同时启用多个模块,多个功能可以组合,实现复杂的功能
GlusterFS Client客户端
VFS(Virtual File System-虚拟文件系统):为各类文件系统提供了一个统一的操作界面和应用编程接口
I/O cache(I/O缓存,Input/Output):用于数据在内部存储器和外部存储器或其他周边设备之间的输入和输出。
read ahead(内核文件预读)
Distribute/Stripe:分布式、条带化
replicate:复制功能
网络层
Gige(千兆网/千兆接口)
TCP/IP(网络协议)
InfiniBand(网络协议):与TCP/IP相比,TCP/IP具有转发丢失数据包的特性,基于此通信协议可能导致通信变慢,而IB使用基于信任的、流控制的机制来保证连接完整性
RDMA(Remote Direct Memory Access,远程直接数据存取)负责数据传输。功能:为了解决传输过程中客户端与服务器端数据处理的延迟
Server服务端
POSIX(Portable Operating System Interface:可移植操作系统接口):解决客户端与服务端系统兼容性问题
Brick:块存储
5、GlusterFS的工作流程
1、外来一个请求,例:用户端申请创建一个文件,客户端或应用程序通过GFS的挂载点访问数据
2、linux系统内容通过VFSAPI收到请求并处理
3、VFS将数据递交给FUSE内核文件系统,fuse文件系统则是将数据通过/dev/fuse设备文件递交给了GlusterFS client端
4、GlusterFS client端收到数据后,会根据配置文件的配置对数据进行处理
5、再通过网络,将数据发送给远端的ClusterFS server,并将数据写入