GlusterFS 分布式文件系统的卷类型及配置
GlusterFS概述
GlusterFS简介
开源的分布式文件系统
由存储服务器、客户端以及NFS/Samba存储网关组成
无元数据服务器
GlusterFS特点
扩展性和高性能
高可用性
全局统一命名空间
弹性卷管理
基于标准协议
GlusterFS术语.
Brick
Volume
FUSE
VFS.
Glusterd
Brick(存储块):指可信主机池中由主机提供的用于物理存储的专用分区,是
GlusterFS 中的基本存储单元,同时也是可信存储池中服务器上对外提供的存储目录o
Volume(逻辑卷):一个逻辑卷是一组 Brick 的集合。卷是数据存储的逻辑设备,类似于LVM中的逻辑卷。大部分Gluster管理操作是在卷上进行的。
FUSE (Filesystem inUserspace):是一个内核模块,允许用户创建自己的文件系统,无须修改内核代码。
VFS:内核空间对用户空间提供的访问磁盘的接口。
Glusterd(后台管理进程):在存储群集中的每个节点上都要运行。
模块化堆栈式架构
模块化、堆栈式的架构
通过对模块的组合,实现复杂的功能d
GlusterFS工作原理
GlusterFS工作流程:
1.客户端或应用程序通过GlusterFS的挂载点(VFS)访问数据
2.linux系统内核通过VFS API收到请求并处理
3.VFS将数据递交给FUSE内核文件系统,fuse文件系统则是将数据通过/dev/fuse设备文件递交给了GlusterFS client(客户机)
4.GlusterFS client收到数据后,client根据配置文件的配置对数据进行处理
5.通过网络将数据传递至远端的GlusterFS server(服务器),并且将数据写入到服务器的存储设备上。
弹性HASH算法
1.通过HASH算法得到一个32位的整数
2.划分为N个连续的子空间,每个空间对应一个Brick
3.弹性HASH算法的优点:
保证数据平均分布在每一个Brick中
解决了对元数据服务器的依赖,进而解决了单点故障以及访问瓶颈
四个Brick节点的GlusterFS卷,平均分配2的32次方的区间的范围空间
访问文件时,通过计算该文件的HASH值(key值),从而对应到Brick存储空间
GlusterFS的卷类型
分布式卷
条带卷
复制卷
分布式条带卷
分布式复制卷
条带复制卷
分布式条带复制卷
分布式卷
分布式卷(异地存储)
没有对文件进行分块处理
通过扩展文件属性保存HASH值
支持的底层文件系统有EXT2,EXT4,ZFS,XFS等
没有分块处理,文件只能存在一个server中,效率不提升
分布式卷的特点
文件分布在不同的服务器不具备冗余性(备份)
更容易和廉价地扩展卷的大小
单点故障会造成数据丢失
依赖底层的数据保护(需要进行额外的数据备份)
创建分布式卷
创建一个名为dis-volume(卷名称,自定义)的分布式卷,文件将根据HASH分布在server1:/dir1、server2:/dir2和server3:/dir3中
#gluster volume create dis-volume server1:/dir1 server2:/dir2 server3:/dir3
条带卷
根据偏移量将文件分成N块(N个条带节点),轮询的存储在每个Brick Server节点
存储大文件时,性能尤为突出
不具备冗余性,类似Raid0
从多个server中同时读取文件,效率提升
特点
数据被分割成更小块分布到块服务器群中的不同条带区
分布减少了负载且更小的文件加速了存取的速度
没有数据冗余
创建条带卷
创建了一个名为Stripe-volume的条带卷,文件将被分块轮询的存储在Server1:/dir1和Server2:/dir2两个Brick中
# gluster volume create stripe-volume stripe 2 transport tcp server1:/dir1 server2:/dir2
磁盘数 协议
复制卷(类似Raid1)
同一文件保存一份或多分副本
因为要保存副本,所以磁盘利用率较低
若多个节点上的存储空间不一致,将按照木桶效应取最低节点的容量作为该卷的总容量
特点
卷中所有的服务器均保存一个完整的副本
卷的副本数量可由客户创建的时候决定
至少有两个块服务器或更多服务器
具备冗余性
创建复制卷
创建名为rep-volume的复制卷,文件将同时存储两个副本,分别
在Server1 :/dir1和Server2:/dir2两个Brick中
# gluster volume create rep-volume replica 2transport tcp server1:/dir1 server2:/dir2
分布式条带卷
分布式条带卷(先条带,后分布)
兼顾分布式卷和条带卷的功能
主要用于大文件访问处理
至少最少需要4台服务器
创建分布式条带卷
创建了名为dis-stripe的分布式条带卷,配置分布式的条带卷时,卷中Brick所包含的存储服务器数必须是条带数的倍数(>=2倍)
# gluster volume create dis-stripe stripe 2 transport tcp server1:/dir1server2:/dir2 server3:/dir3 serve:4:/dir4
分布式复制卷
兼顾分布式卷和复制卷的功能
用于需要冗余的情况
创建分布式复制卷
创建名为dis-rep的分布式条带卷,配置分布式复制卷时,卷中Brick所包含的存储服务器数必须是复制卷数的倍数(>=2)
# gluster volume create dis-rep replica 2 transport tcp server1:/dir1 server2:/dir2 server3:/dir3 server4:/dir4
项目
卷名称 | 卷类型 | 空间大小 | Brick |
---|---|---|---|
dis-volume | 分布式卷 | 12G | node1(/e6)、node2(/e6) |
stripe-volume | 条带卷 | 10G | node1(/d5)、node2(/d5) |
rep-volume | 复制卷 | 5G | node3(d5)、node4(/d5) |
dis-stripe | 分布式条带卷 | 12G | node1(/b3)、node2(/b3)、node3(/b3)、node4(/b3) |
dis-rep | 分布式复制卷 | 8G | node1(/c4)、node2(/c4)、node3(/c4)、node4(/c4) |
环境:
node1:192.168.188.10
node2:192.168.188.20
node3:192.168.188.30
node4:192.168.188.40
client:192.168.188.50
1、构建储存池
node1:192.168.188.10
node2:192.168.188.20
node3:192.168.188.30
node4:192.168.188.40
添加4块磁盘然后重启,每块都是20G,格式化后进行挂载
服务器及客户端添加映射
[root@server1 ~]#vi /etc/hosts
192.168.188.10 node1
192.168.188.20 node2
192.168.188.30 node3
192.168.188.40 node4
注:关闭防火墙和核心防护
2、安装软件
在4台服务器上添加gfsrepo目录
需要将压缩包解压放进root目录
编写yum
`
[root@server1 ~]# unzip gfsrepo.zip //解压
[root@server1 ~]# cd /etc/yum.repos.d/
[root@server1 yum.repos.d]# ls
backup local.repo
[root@server1 yum.repos.d]# mv local.repo backup/
[root@server1 yum.repos.d]# cd
[root@server1 ~]# vim /etc/yum.repos.d/GLFS.repo //配置GLF本地源,其他本地源全部放入备份文件中
[GLFS]
name=glfs
baseurl=file:///root/gfsrepo
gpgcheck=0
enabled=1
[root@server1 ~]# yum -y install glusterfs glusterfs-server glusterfs-fuse glusterfs-rdma //安装GLFS软件
[root@server1 ~]# systemctl start glusterd.service //开启服务
[root@server1 ~]# systemctl enable glusterd.service //开机自启
Created symlink from /etc/systemd/system/multi-user.target.wants/glusterd.service to /usr/lib/systemd/system/glusterd.service.
3、格式化银盘并且挂载
[root@server1 ~]# fdisk -l //查看磁盘
磁盘 /dev/sdd:21.5 GB, 21474836480 字节,41943040 个扇区
Units = 扇区 of 1 * 512 = 512 bytes
扇区大小(逻辑/物理):512 字节 / 512 字节
I/O 大小(最小/最佳):512 字节 / 512 字节
磁盘 /dev/sde:21.5 GB, 21474836480 字节,41943040 个扇区
Units = 扇区 of 1 * 512 = 512 bytes
扇区大小(逻辑/物理):512 字节 / 512 字节
I/O 大小(最小/最佳):512 字节 / 512 字节
磁盘 /dev/sdc:21.5 GB, 21474836480 字节,41943040 个扇区
Units = 扇区 of 1 * 512 = 512 bytes
扇区大小(逻辑/物理):512 字节 / 512 字节
I/O 大小(最小/最佳):512 字节 / 512 字节
磁盘 /dev/sda:64.4 GB, 64424509440 字节,125829120 个扇区
Units = 扇区 of 1 * 512 = 512 bytes
扇区大小(逻辑/物理):512 字节 / 512 字节
I/O 大小(最小/最佳):512 字节 / 512 字节
磁盘标签类型:dos
磁盘标识符:0x000a43b8
设备 Boot Start End Blocks Id System
/dev/sda1 * 2048 616447 307200 83 Linux
/dev/sda2 616448 8744959 4064256 82 Linux swap / Solaris
/dev/sda3 8744960 125829119 58542080 83 Linux
磁盘 /dev/sdb:21.5 GB, 21474836480 字节,41943040 个扇区
Units = 扇区 of 1 * 512 = 512 bytes
扇区大小(逻辑/物理):512 字节 / 512 字节
I/O 大小(最小/最佳):512 字节 / 512 字节
[root@server1 ~]# fdisk /dev/sdb
欢迎使用 fdisk (util-linux 2.23.2)。
更改将停留在内存中,直到您决定将更改写入磁盘。
使用写入命令前请三思。
Device does not contain a recognized partition table
使用磁盘标识符 0xac5e0f9e 创建新的 DOS 磁盘标签。
命令(输入 m 获取帮助):n //创建分区
Partition type:
p primary (0 primary, 0 extended, 4 free)
e extended
Select (default p): p //创建主分区
分区号 (1-4,默认 1): //回车
起始 扇区 (2048-41943039,默认为 2048): //回车
将使用默认值 2048
Last 扇区, +扇区 or +size{K,M,G} (2048-41943039,默认为 41943039): //回车
将使用默认值 41943039
分区 1 已设置为 Linux 类型,大小设为 20 GiB
命令(输入 m 获取帮助):w //保存
The partition table has been altered!
Calling ioctl() to re-read partition table.
正在同步磁盘。
同样操作创建sdc,sdd,sde
[root@server1 ~]# mkfs -t xfs /dev/sdb1 //格式化磁盘
meta-data=/dev/sdb1 isize=512 agcount=4, agsize=1310656 blks
= sectsz=512 attr=2, projid32bit=1
= crc=1 finobt=0, sparse=0
data = bsize=4096 blocks=5242624, imaxpct=25
= sunit=0 swidth=0 blks
naming =version 2 bsize=4096 ascii-ci=0 ftype=1
log =internal log bsize=4096 blocks=2560, version=2
= sectsz=512 sunit=0 blks, lazy-count=1
realtime =none extsz=4096 blocks=0, rtextents=0
同样操作创建sdc,sdd,sde
[root@server1 ~]# mkfs -t xfs /dev/sdc1
[root@server1 ~]# mkfs -t xfs /dev/sdd1
[root@server1 ~]# mkfs -t xfs /dev/sde1
[root@server1 ~]# mkdir /data //创建挂载目录
[root@server1 ~]# cd /data/ //进入挂载目录
[root@server1 data]# mkdir sdb sdc sdd sde //创建挂载点
[root@server1 ~]# vi /etc/fstab
末尾添加
/dev/sdb1 /data/sdb xfs defaults 0 0
/dev/sdc1 /data/sdc xfs defaults 0 0
/dev/sdd1 /data/sdd xfs defaults 0 0
/dev/sde1 /data/sde xfs defaults 0 0
[root@server1 ~]# mount -a //挂载
[root@server1 ~]# df -Th //查看挂载
文件系统 类型 容量 已用 可用 已用% 挂载点
/dev/sda3 xfs 56G 5.0G 51G 9% /
devtmpfs devtmpfs 1.9G 0 1.9G 0% /dev
tmpfs tmpfs 1.9G 0 1.9G 0% /dev/shm
tmpfs tmpfs 1.9G 9.1M 1.9G 1% /run
tmpfs tmpfs 1.9G 0 1.9G 0% /sys/fs/cgroup
/dev/sr0 iso9660 4.3G 4.3G 0 100% /mnt
/dev/sda1 xfs 297M 157M 141M 53% /boot
tmpfs tmpfs 378M 12K 378M 1% /run/user/42
tmpfs tmpfs 378M 0 378M 0% /run/user/0
/dev/sdb1 xfs 20G 33M 20G 1% /data/sdb
/dev/sdc1 xfs 20G 33M 20G 1% /data/sdc
/dev/sdd1 xfs 20G 33M 20G 1% /data/sdd
/dev/sde1 xfs 20G 33M 20G 1% /data/sde
4、五台都映射
[root@server1 ~]# vim /etc/hosts
192.168.188.10 node1
192.168.188.20 node2
192.168.188.30 node3
192.168.188.40 node4
5、时间同步
[root@server1 ~]# ntpdate ntp.aliyun.com
5 Jan 12:06:56 ntpdate[11950]: adjust time server 203.107.6.88 offset -0.004766 sec
6、构建储存池(任意节点添加)
[root@server1 ~]# gluster peer probe node2 //添加节点2
peer probe: success.
[root@server1 ~]# gluster peer probe node3 //添加节点3
peer probe: success.
[root@server1 ~]# gluster peer probe node4//添加节点4
peer probe: success.
[root@server1 ~]# gluster peer status //查看节点状态
Number of Peers: 3
Hostname: node2
Uuid: 28d1be91-43a2-49bd-a3fd-4d962f02cea7
State: Peer in Cluster (Connected)
Hostname: node3
Uuid: 23d9def5-002f-42c3-95a5-fab16d17ccbb
State: Peer in Cluster (Connected)
Hostname: node4
Uuid: 74b42fff-ad21-4641-8922-98d921e48738
State: Peer in Cluster (Connected)
7、客户机
7.1安装glusterfs软件
[root@server5 ~]# yum -y install glusterfs glusterfs-fuse
7.2创建5个40M的文件
[root@server5 ~]# dd if=/dev/zero of=/opt/test1.txt bs=1M count=40
记录了40+0 的读入
记录了40+0 的写出
41943040字节(42 MB)已复制,0.163798 秒,256 MB/秒
[root@server5 ~]# dd if=/dev/zero of=/opt/test2.txt bs=1M count=40
记录了40+0 的读入
记录了40+0 的写出
41943040字节(42 MB)已复制,0.361526 秒,116 MB/秒
[root@server5 ~]# dd if=/dev/zero of=/opt/test3.txt bs=1M count=40
记录了40+0 的读入
记录了40+0 的写出
41943040字节(42 MB)已复制,0.363567 秒,115 MB/秒
[root@server5 ~]# dd if=/dev/zero of=/opt/test4.txt bs=1M count=40
记录了40+0 的读入
记录了40+0 的写出
41943040字节(42 MB)已复制,0.21627 秒,194 MB/秒
[root@server5 ~]# dd if=/dev/zero of=/opt/test5.txt bs=1M count=40
记录了40+0 的读入
记录了40+0 的写出
41943040字节(42 MB)已复制,0.230961 秒,182 MB/秒
1、创建分布式卷(任意一个节点)
[root@server1 ~]#gluster volume create dis-vol node1:/data/sdb node2:/data/sdb force //#gluster volume create:创建分布式卷,dis-vol:自己定义的名称,node1:/data/sdb node2:/data/sdb:指定的节点,force:强制执行
volume create: dis-vol: success: please start the volume to access data
[root@server1 ~]#gluster volume info dis-vol //#查看分布式卷信息
Volume Name: dis-vol
Type: Distribute
Volume ID: 38f9229e-967a-4daf-bf7d-6f5594c6a2e6
Status: Created #关闭状态,没有被应用
Snapshot Count: 0
Number of Bricks: 2
Transport-type: tcp
Bricks:
Brick1: node1:/data/sdb #两个节点
Brick2: node2:/data/sdb
Options Reconfigured:
transport.address-family: inet
nfs.disable: on
[root@server1 ~]#gluster volume list #查看创建的卷
dis-vol
[root@server1 ~]#gluster volume start dis-vol #开启分布式卷
volume start: dis-vol: success
[root@server1 ~]#gluster volume info dis-vol
Volume Name: dis-vol
Type: Distribute
Volume ID: 38f9229e-967a-4daf-bf7d-6f5594c6a2e6
Status: Started #开启状态
Snapshot Count: 0
Number of Bricks: 2
Transport-type: tcp
Bricks:
Brick1: node1:/data/sdb
Brick2: node2:/data/sdb
Options Reconfigured:
transport.address-family: inet
nfs.disable: on
客户端挂载分布式卷到/test/dis目录下,并将5个测试文件拷贝进去
[root@server5 ~]# mkdir -p /text/dis #创建挂载点
[root@server5 ~]# mount.glusterfs node1:dis-vol /text/dis/ //挂载
[root@server5 ~]# df -Th //查看挂载
文件系统 类型 容量 已用 可用 已用% 挂载点
/dev/sda3 xfs 56G 4.6G 52G 9% /
devtmpfs devtmpfs 1.9G 0 1.9G 0% /dev
tmpfs tmpfs 1.9G 0 1.9G 0% /dev/shm
tmpfs tmpfs 1.9G 9.1M 1.9G 1% /run
tmpfs tmpfs 1.9G 0 1.9G 0% /sys/fs/cgroup
/dev/sda1 xfs 297M 157M 141M 53% /boot
tmpfs tmpfs 378M 4.0K 378M 1% /run/user/42
tmpfs tmpfs 378M 32K 378M 1% /run/user/0
/dev/sr1 iso9660 4.3G 4.3G 0 100% /run/media/root/CentOS 7 x86_64
/dev/sr0 iso9660 4.3G 4.3G 0 100% /mnt
node1:dis-vol fuse.glusterfs 40G 65M 40G 1% /text/dis
[root@server5 ~]# cp /opt/test* /text/dis/ //将创建的5个测试文件拷贝进挂载点
node1和node2节点中查看5个文件分布情况
node1
[root@server1 ~]#ll /data/sdb
总用量 122880
-rw-r--r-- 2 root root 41943040 1月 5 18:56 test1.txt
-rw-r--r-- 2 root root 41943040 1月 5 18:56 test3.txt
-rw-r--r-- 2 root root 41943040 1月 5 18:56 test4.txt
分到三个
node2
[root@server2 ~]#ll /data/sdb
总用量 81920
-rw-r--r-- 2 root root 41943040 1月 5 18:56 test2.txt
-rw-r--r-- 2 root root 41943040 1月 5 18:56 test5.txt
分到两个
2、创建复制卷
[root@server1 ~]#gluster volume create rep-vol replica 2 node3:/data/sdb node4:/data/sdb force //#创建复制卷,replica 2:两个分片
volume create: rep-vol: success: please start the volume to access data
[root@server1 ~]#gluster volume start rep-vol
volume start: rep-vol: success
[root@server1 ~]#gluster volume status rep-vol
Status of volume: rep-vol
Gluster process TCP Port RDMA Port Online Pid
------------------------------------------------------------------------------
Brick node3:/data/sdb 49152 0 Y 11966
Brick node4:/data/sdb 49152 0 Y 12804
Self-heal Daemon on localhost N/A N/A Y 12097
Self-heal Daemon on node2 N/A N/A Y 12012
Self-heal Daemon on node4 N/A N/A Y 12824
Self-heal Daemon on node3 N/A N/A Y 11986
Task Status of Volume rep-vol
------------------------------------------------------------------------------
There are no active volume tasks
客户端挂载复制卷到/test/rep-vol目录下,并将5个测试文件拷贝进去
[root@server5 ~]# mkdir /text/rep-vol
[root@server5 ~]# mount.glusterfs node1:rep-vol /text/rep-vol/
[root@server5 ~]# df -Th
文件系统 类型 容量 已用 可用 已用% 挂载点
/dev/sda3 xfs 56G 4.6G 52G 9% /
devtmpfs devtmpfs 1.9G 0 1.9G 0% /dev
tmpfs tmpfs 1.9G 0 1.9G 0% /dev/shm
tmpfs tmpfs 1.9G 9.1M 1.9G 1% /run
tmpfs tmpfs 1.9G 0 1.9G 0% /sys/fs/cgroup
/dev/sda1 xfs 297M 157M 141M 53% /boot
tmpfs tmpfs 378M 4.0K 378M 1% /run/user/42
tmpfs tmpfs 378M 28K 378M 1% /run/user/0
/dev/sr1 iso9660 4.3G 4.3G 0 100% /run/media/root/CentOS 7 x86_64
/dev/sr0 iso9660 4.3G 4.3G 0 100% /mnt
node1:dis-vol fuse.glusterfs 40G 265M 40G 1% /text/dis
node1:rep-vol fuse.glusterfs 20G 33M 20G 1% /text/rep-vol
[root@server5 ~]# cp /opt/test* /text/rep-vol/
node3和node4节点中查看5个文件分布情况
node3
[root@server3 ~]#ll /data/sdb
总用量 204800
-rw-r--r-- 2 root root 41943040 1月 5 19:25 test1.txt
-rw-r--r-- 2 root root 41943040 1月 5 19:25 test2.txt
-rw-r--r-- 2 root root 41943040 1月 5 19:25 test3.txt
-rw-r--r-- 2 root root 41943040 1月 5 19:25 test4.txt
-rw-r--r-- 2 root root 41943040 1月 5 19:25 test5.txt
node4
[root@server4 ~]#ll /data/sdb
总用量 204800
-rw-r--r-- 2 root root 41943040 1月 5 19:25 test1.txt
-rw-r--r-- 2 root root 41943040 1月 5 19:25 test2.txt
-rw-r--r-- 2 root root 41943040 1月 5 19:25 test3.txt
-rw-r--r-- 2 root root 41943040 1月 5 19:25 test4.txt
-rw-r--r-- 2 root root 41943040 1月 5 19:25 test5.txt
3、创建分布式复制卷
[root@server1 ~]#gluster volume create dis-rep replica 2 node1:/data/sde node2:/data/sde node3:/data/sde node4:/data/sde force
volume create: dis-rep: success: please start the volume to access data
[root@server1 ~]#gluster volume start dis-rep
volume start: dis-rep: success
[root@server1 ~]#
客户端挂载分布式复制卷到/test/dis-rep目录下,并将5个测试文件拷贝进去
[root@server5 ~]# mkdir /text/dis-rep
[root@server5 ~]# mount.glusterfs node1:dis-rep /text/dis-rep/
[root@server5 ~]# df -Th
文件系统 类型 容量 已用 可用 已用% 挂载点
/dev/sda3 xfs 56G 4.6G 52G 9% /
devtmpfs devtmpfs 1.9G 0 1.9G 0% /dev
tmpfs tmpfs 1.9G 0 1.9G 0% /dev/shm
tmpfs tmpfs 1.9G 9.1M 1.9G 1% /run
tmpfs tmpfs 1.9G 0 1.9G 0% /sys/fs/cgroup
/dev/sda1 xfs 297M 157M 141M 53% /boot
tmpfs tmpfs 378M 4.0K 378M 1% /run/user/42
tmpfs tmpfs 378M 28K 378M 1% /run/user/0
/dev/sr1 iso9660 4.3G 4.3G 0 100% /run/media/root/CentOS 7 x86_64
/dev/sr0 iso9660 4.3G 4.3G 0 100% /mnt
node1:dis-vol fuse.glusterfs 40G 265M 40G 1% /text/dis
node1:rep-vol fuse.glusterfs 20G 233M 20G 2% /text/rep-vol
node1:dis-rep fuse.glusterfs 40G 65M 40G 1% /text/dis-rep
[root@server5 ~]# cp /opt/test* /text/dis-rep/
node1、node2、node3和node4节点中查看5个文件分布情况
node1
[root@server1 ~]#ll /data/sde
总用量 122880
-rw-r--r-- 2 root root 41943040 1月 5 19:29 test1.txt
-rw-r--r-- 2 root root 41943040 1月 5 19:29 test3.txt
-rw-r--r-- 2 root root 41943040 1月 5 19:29 test4.txt
node2
[root@server2 ~]#ll /data/sde
总用量 122880
-rw-r--r-- 2 root root 41943040 1月 5 19:29 test1.txt
-rw-r--r-- 2 root root 41943040 1月 5 19:29 test3.txt
-rw-r--r-- 2 root root 41943040 1月 5 19:29 test4.txt
node3
[root@server3 ~]#ll /data/sde
总用量 81920
-rw-r--r-- 2 root root 41943040 1月 5 19:29 test2.txt
-rw-r--r-- 2 root root 41943040 1月 5 19:29 test5.txt
node4
[root@server4 ~]#ll /data/sde
总用量 81920
-rw-r--r-- 2 root root 41943040 1月 5 19:29 test2.txt
-rw-r--r-- 2 root root 41943040 1月 5 19:29 test5.txt
node1和node2节点中互为备份的存了三个文件
node3和node4节点中互为备份的存了剩下的两个文件
破坏测试
将node2(挂起)宕机掉模拟故障,查看客户端中挂载点中依然存在的文件
[root@server5 text]# ll -h dis
总用量 120M
-rw-r--r--. 1 root root 40M 1月 5 18:56 test1.txt
-rw-r--r--. 1 root root 40M 1月 5 18:56 test3.txt
-rw-r--r--. 1 root root 40M 1月 5 18:56 test4.txt
[root@server5 text]# ll -h dis-rep
总用量 200M
-rw-r--r--. 1 root root 40M 1月 5 19:29 test1.txt
-rw-r--r--. 1 root root 40M 1月 5 19:29 test2.txt
-rw-r--r--. 1 root root 40M 1月 5 19:29 test3.txt
-rw-r--r--. 1 root root 40M 1月 5 19:29 test4.txt
-rw-r--r--. 1 root root 40M 1月 5 19:29 test5.txt
[root@server5 text]# ll -h rep-vol
总用量 200M
-rw-r--r--. 1 root root 40M 1月 5 19:25 test1.txt
-rw-r--r--. 1 root root 40M 1月 5 19:25 test2.txt
-rw-r--r--. 1 root root 40M 1月 5 19:25 test3.txt
-rw-r--r--. 1 root root 40M 1月 5 19:25 test4.txt
-rw-r--r--. 1 root root 40M 1月 5 19:25 test5.txt
复制卷、分布式复制卷的数据完整
条带卷数据全部丢失,分布式卷丢失一部分
总结:总结,我们认为GFS是可以容忍节点失败的,牺牲可用性,确保数据一致性。