[]~(￣▽￣)~*GFS分布式文件系统ヾ(≧ ▽ ≦)ゝ

最新推荐文章于 2021-08-16 16:50:24 发布
最新推荐文章于 2021-08-16 16:50:24 发布
阅读量160 收藏
点赞数
文章标签： GFS分布式文件系统
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_56669056/article/details/119575319
版权

GlusterFS简介

开源的分布文件系统
由存储服务器、客户端以及NFS/Samba存储网关组成
无元数据服务器

GFS分布式文件系统

1、NFS/Samba网关接口（存储）
2、存储服务器（工具、管理存储）
3、需要存储的文件（客户端）

模块化堆栈式架构

模块化、维栈式的架构
通过对模块的组合，实现复杂的功能

GLusterFS 模块化维栈式架构

模块化:
类似linux编译安装
很多功能都可以做定制的，通常都是通过软件开发的方式封装为模块，按需使用/不适用

InfiniBand

网络协议，与TCP/IP相比，TcP/IP具有转发丢失数据包的特性，基于此通讯协议可能导致通讯变慢，而rB使用基于信任的、流控制的机制来确保连接完整性，数据包丢失几率小。
RDN纽A:负责数据传输,有一种数据传输协议，功能:为了解决传输中客户端与服务器端数据处理的延迟
POSIX :可移植操作系统接口，主要解决不同操作系统间的移植性
然后再转换为逻辑存储（EXT4 +BRICK)
以上架构模式可以提高GFS的工作效率
Application:客户端或应用程序通过GlusterFSync的挂载点访问数据
VFS: linux系统内核通过
VFS API收到请求并处理
FUSE:VFS将数据递交给FUSE内核文件系统，fuse文件系统则是将数据通过/dev/fuse设备文件递交给了GlusterFS
GlusterFs client ;通过网络将数据传递至远端的GclusterFS Server，并且写入到服务器存储设备上
read ahead :内核文件预读

工作流程(写)

客户端在本地发出读写请求，然后交由vFs的API接受请求，接受请求后会交给FUSE(内核伪文件系统，FUSE可以模拟操作系统，所以可以对文件系统进行转存，转存的设备位置为:/dev/fuse (用于传输的设备-虚拟设备文件)
》交给GFs客户端，client会根据配置文件对数据进行处理，然后再通过TCP/ib/rdma
网络发送到GFs服务端，并且将数据写到服务器存储设备上

基本卷

(1)distribute volume:分布式卷
(2)stripe volume:条带卷
(3)replica volume:复制卷

复合卷

(4)distribute stripe volume:分布式条带卷
(5)distribute replica volume:分布式复制卷
(6)stripe replica volume:条带复制卷
(7) distribute stripe replicavolume:分布式条带复制卷
gige:千兆网/千兆接口
分布式卷（默认):文件通过HASH算法分布到所有 Brick Server 上，这种卷是Glusterf的基础;以文件为单位根据HASH算法散列到不同的 Brick，其实只是扩大了磁盘空间，如果有一块磁盘损坏，数据也将丢失，属于文件级的 RAID 0)，不具有容错能力。
条带卷（默认）:类似RAIDO，文件被分成数据块并以轮询的方式分布到多个Brick Server上，文件存储以数据块为单位，支持大文件存储，文件越大，读取效率越高。
复制卷(Replica volume):将文件同步到多个Brick 上，使其具备多个文件副本，属于文件级RAID1，具有容错能力。因为数据分散在多个Brick 中，所以读性能得到很大提升，但写性能下降。
分布式条带卷(Distribute stripe volume) : Brick server 数量是条带数（数据块分布的 Brick数量〉的倍数,兼具分布式卷和条带卷的特点。
分布式复制卷（Distribute Replica volume) : Brick server 数量是镜像数（数据副本数量）的倍数,兼具分布式卷和复制卷的特点。
条带复制卷（stripe Replica volume):类似RAID 10，同时具有条带卷和复制卷的特点
分布式条带复制卷(Distribute stripe Replicavolume):三种基本卷的复合卷，通常用于类Map Reduce. 应用

磁盘分区，并挂载

[root@node1 ~]# cd /opt
[root@node1 opt]# vim fdisk.sh
[root@node1 opt]# chmod +x fdisk.sh 
[root@node1 opt]# sh -x fdisk.sh 
#!/bin/bash
echo "the disks exist list:"
##grep出系统所带磁盘
fdisk -l |grep '磁盘 /dev/sd[a-z]'    
echo "=================================================="
PS3="chose which disk you want to create:"
 ##选择需要创建的磁盘编号
select VAR in `ls /dev/sd*|grep -o 'sd[b-z]'|uniq` quit   
do
    case $VAR in
    sda)
 ##本地磁盘就退出case语句
        fdisk -l /dev/sda   
        break ;;
    sd[b-z])
        #create partitions
        echo "n    ##创建磁盘
                p
                
                
           
                w"  | fdisk /dev/$VAR
 
        #make filesystem
##格式化
        mkfs.xfs -i size=512 /dev/${VAR}"1" &> /dev/null    
	#mount the system
        mkdir -p /data/${VAR}"1" &> /dev/null
###永久挂载
        echo -e "/dev/${VAR}"1" /data/${VAR}"1" xfs defaults 0 0\n" >> /etc/fstab
###使得挂载生效
        mount -a &> /dev/null
        break ;;
    quit)
        break;;
    *)
        echo "wrong disk,please check again";;
    esac
done

在这里插入图片描述
在这里插入图片描述

所有服务器都做映射

[root@node4 opt]# vim /etc/hosts

在这里插入图片描述

上传gfsrepo.zip 至/opt

[root@node1 opt]# unzip gfsrepo.zip

在这里插入图片描述

将gfsrepo 软件上传到/opt目录

[root@node1 opt]# cd /etc/yum.repos.d/
[root@node1 yum.repos.d]# mkdir bak
[root@node1 yum.repos.d]# mv CentOS-* bak

[root@node1 yum.repos.d]# vim glfs.repo
[glfs]
name=glfs
baseurl=file:///opt/gfsrepo
gpgcheck=0
enabled=1
[root@node1 yum.repos.d]# yum clean all
[root@node1 yum.repos.d]# yum makecache

在这里插入图片描述

yum -y install glusterfs glusterfs-server glusterfs-fuse glusterfs-rdma
systemctl start glusterd.service 
systemctl enable glusterd.service
systemctl status glusterd.service

在这里插入图片描述

添加节点到存储信任池中（在 node1 节点上操作）

 [root@node1 yum.repos.d]# gluster peer probe node1
peer probe: success. Probe on localhost not needed
[root@node1 yum.repos.d]# gluster peer probe node2
peer probe: success. 
[root@node1 yum.repos.d]# gluster peer probe node3
peer probe: success. 
[root@node1 yum.repos.d]# gluster peer probe node4
peer probe: success. 
[root@node1 yum.repos.d]# gluster peer ststus
unrecognized word: ststus (position 1)
[root@node1 yum.repos.d]# gluster peer status

在这里插入图片描述

1创建分布式卷

[root@node1 yum.repos.d]# gluster volume create dis-volume node1:/data/sdb1 node2:/data/sdb1 force
volume create: dis-volume: success: please start the volume to access data
[root@node1 yum.repos.d]# gluster volume list 
dis-volume
[root@node1 yum.repos.d]# gluster volume start dis-volume 
volume start: dis-volume: success
[root@node1 yum.repos.d]# gluster volume info dis-volume

在这里插入图片描述

2创建条带卷

[root@node1 yum.repos.d]# gluster volume create stripe-volume stripe 2 node1:/data/sdc1 node2:/data/sdc1 force
volume create: stripe-volume: success: please start the volume to access data
[root@node1 yum.repos.d]# gluster volume start stripe-volume 
volume start: stripe-volume: success
[root@node1 yum.repos.d]# gluster volume info stripe-volume

在这里插入图片描述

3创建复制卷

[root@node1 yum.repos.d]# gluster volume create rep-volume replica 2 node3:/data/sdb1 node4:/data/sdb1 force
volume create: rep-volume: success: please start the volume to access data
[root@node1 yum.repos.d]# gluster volume start rep-volume 
volume start: rep-volume: success
[root@node1 yum.repos.d]# gluster volume info rep-volume

在这里插入图片描述

4创建分布式条带卷

[root@node1 yum.repos.d]# gluster volume create dis-stripe stripe 2 node1:/data/sdd1 node2:/data/sdd1 node3:/data/sdd1 node4:/data/sdd1 force
volume create: dis-stripe: success: please start the volume to access data
[root@node1 yum.repos.d]# gluster volume start dis-stripe 
volume start: dis-stripe: success
[root@node1 yum.repos.d]# gluster volume info dis-stripe

在这里插入图片描述

5创建分布式复制卷

[root@node1 yum.repos.d]# gluster volume create dis-rep replica 2 node1:/data/sde1 node2:/data/sde1 node3:/data/sde1 node4:/data/sde1 force
volume create: dis-rep: success: please start the volume to access data
[root@node1 yum.repos.d]# gluster volume start dis-rep 
volume start: dis-rep: success
[root@node1 yum.repos.d]# gluster volume info dis-rep

在这里插入图片描述

安装客户端软件

[root@client opt]# unzip gfsrepo.zip
[root@client opt]# cd /etc/yum.repos.d/
[root@client yum.repos.d]# ls
CentOS-Base.repo  CentOS-Debuginfo.repo  CentOS-Media.repo    CentOS-Vault.repo
CentOS-CR.repo    CentOS-fasttrack.repo  CentOS-Sources.repo
[root@client yum.repos.d]# mkdir bak
[root@client yum.repos.d]# mv CentOS-* bak
[root@client yum.repos.d]# vim glfs.repo
[glfs]
name=glfs
baseurl=file:///opt/gfsrepo
gpgcheck=0
enabled=1
[root@client yum.repos.d]# yum clean all 
[root@client yum.repos.d]# yum makecache

在这里插入图片描述

[root@client yum.repos.d]# yum -y install glusterfs glusterfs-fuse

创建挂载目录

[root@client yum.repos.d]# mkdir -p /test/{dis,stripe,rep,dis_stripe,dis_rep}
[root@client yum.repos.d]# ls /test

在这里插入图片描述

添加映射

[root@client yum.repos.d]# echo "192.168.235.144 node1" >> /etc/hosts
[root@client yum.repos.d]# echo "192.168.235.156 node2" >> /etc/hosts
[root@client yum.repos.d]# echo "192.168.235.166 node3" >> /etc/hosts
[root@client yum.repos.d]# echo "192.168.235.177 node4" >> /etc/hosts
[root@client yum.repos.d]# echo "192.168.235.179 client" >> /etc/hosts

在这里插入图片描述

挂载Gluster文件系统

[root@client yum.repos.d]# mount.glusterfs node1:dis-volume /test/dis
[root@client yum.repos.d]# mount.glusterfs node1:stripe-volume /test/stripe
[root@client yum.repos.d]# mount.glusterfs node1:rep-volume /test/rep
[root@client yum.repos.d]# mount.glusterfs node1:dis-stripe /test/dis_stripe
[root@client yum.repos.d]# mount.glusterfs node1:dis-rep /test/dis_rep 
[root@client yum.repos.d]# df -hT

在这里插入图片描述

测试

1卷中写入文件，客户端操作

root@client test]# cd /opt
[root@client opt]# dd if=/dev/zero of=/opt/demo1.log bs=1M count=20
记录了20+0 的读入
记录了20+0 的写出
20971520字节(21 MB)已复制，0.00725318 秒，2.9 GB/秒
[root@client opt]# dd if=/dev/zero of=/opt/demo2.log bs=1M count=20
记录了20+0 的读入
记录了20+0 的写出
20971520字节(21 MB)已复制，0.0112017 秒，1.9 GB/秒
[root@client opt]# dd if=/dev/zero of=/opt/demo3.log bs=1M count=20
记录了20+0 的读入
记录了20+0 的写出
20971520字节(21 MB)已复制，0.0245634 秒，854 MB/秒
[root@client opt]# dd if=/dev/zero of=/opt/demo4.log bs=1M count=20
记录了20+0 的读入
记录了20+0 的写出
20971520字节(21 MB)已复制，0.0535315 秒，392 MB/秒
[root@client opt]# dd if=/dev/zero of=/opt/demo5.log bs=1M count=20
记录了20+0 的读入
记录了20+0 的写出
20971520字节(21 MB)已复制，0.0685257 秒，306 MB/秒
[root@client opt]# ls -lh
总用量 150M
-rw-r--r--. 1 root root  20M 8月  11 00:45 demo1.log
-rw-r--r--. 1 root root  20M 8月  11 00:45 demo2.log
-rw-r--r--. 1 root root  20M 8月  11 00:45 demo3.log
-rw-r--r--. 1 root root  20M 8月  11 00:45 demo4.log
-rw-r--r--. 1 root root  20M 8月  11 00:45 demo5.log
drwxr-xr-x. 3 root root 8.0K 11月 20 2020 gfsrepo
-rw-r--r--. 1 root root  50M 8月  10 16:57 gfsrepo.zip
drwxr-xr-x. 2 root root    6 10月 31 2018 rh
[root@client opt]# cp demo* /test/dis
[root@client opt]# cp demo* /test/stripe/
[root@client opt]# cp demo* /test/rep/
[root@client opt]# cp demo* /test/dis_stripe/
[root@client opt]# cp demo* /test/dis_rep/

在这里插入图片描述
2查看分布式文件

[root@node1 yum.repos.d]# ls -lh /data/sdb1

在这里插入图片描述

破坏性测试

挂起 node2 节点或者关闭glusterd服务来模拟故障

在这里插入图片描述

[root@client test]# ls dis
demo1.log  demo2.log  demo3.log  demo4.log
[root@client test]# ls rep/
demo1.log  demo2.log  demo3.log  demo4.log  demo5.log
[root@client test]# ls -lh rep/

在这里插入图片描述

抱过后分开走
关注
GFS
老葱的专栏
05-07 4247
摘要我们已经设计和实现了Google File System，一个适用于大规模分布式数据处理相关应用的，可扩展的分布式文件系统。它基于普通的不算昂贵的硬件设备，实现了容错的设计，并且为大量客户端提供极高的聚合处理性能。我们的设计目标和上一个版本的分布式文件系统有很多相同的地方，我们的设计是依据我们应用的工作量以及技术环境来设计的，包括现在和预期的，都有一部分和早
[RDMA] 高性能异步的可靠消息传递和RPC ：Accelio
Master-TJ的个人博客
07-19 2547
目录   1. Introduce 2. Accelio 设计目标 3. Accelio Key Features 4. Who can take advantage of it? 5. Accelio 的结构示意图 6. Accelio Integration With Other Applications/Projects 7. 一个会话/连接建立流程 8. 高级别传输流程 ...
基于Java的RDMA高性能通信库（二）：Java Socket Over RDMA
Master-TJ的个人博客
07-19 2906
  目录 1.Comparing JSOR with Java TCP communications 2.Comparing JSOR to Java Sockets Direct Protocol (SDP) communications 3.JSOR features and design 3.1 JSOR Desgin 3.2 JSOR Zero copy function 4...
自动下载并保存GFS数据的Shell脚本
07-05
自动下载并保存GFS数据的Shell脚本，支持自动下载GFS气象数据并保存进数据库，便于与cron结合实现自动下载并保存。
GFS配置
疯飙的蜗牛
12-18 714
##################gfs####################################### 挂载点data xenserver 10.0.3.223 10.0.3.224 ，在3.42 和3.43 服务器 上各添加一块盘 mkfs.xfs /dev/xvdi mkdir /data/data-ssp echo "/dev/xvdi /data/data-ssp...
使用python下载GFS数据
风来了
01-21 3782
from selenium import webdriver import os import time # https://nomads.ncep.noaa.gov/cgi-bin/filter_gfs_0p25.pl?file=gfs.t00z.pgrb2.0p25.f000&all_lev=on&all_var=on&subregion=&leftlon=...
GFS分布式文件系统
06-16
### GFS分布式文件系统关键技术知识点 #### 一、GFS概览 - **设计初衷**：GFS（Google File System）是由Google设计并实现的一种分布式文件系统，旨在为大规模数据密集型应用提供一种可伸缩的解决方案。它通过运行...
GFS分布式文件系统实验包
04-08
**GFS分布式文件系统实验包** GFS，全称为Google File System，是Google开发的一款分布式文件系统，主要用于处理大规模的数据存储和处理任务。这个实验包是针对GFS的一个学习资源，旨在帮助用户理解和掌握分布式...
搭建GFS分布式文件系统
12-15
GlusterFS（Google File System）是一个开源的分布式文件系统，它通过TCP/IP网络将存储资源分散存储在不同节点上，并提供一个统一的资源访问点。在存储方面，GlusterFS具有强大的横向扩展能力，可以通过增加存储节点...
GFS存储服务
weixin_48190887的博客
10-27 319
GlusterFS概述 开源的分布式文件系统 由存储服务器、客户端以及NFS/Samba存储网关组成 无元数据服务器 特点 扩展性和高性能 高可用性 全局统一命名空间 弹性卷管理 基于标准协议 术语：brick、volume、fuse、vfs、glusterd 工作原理 弹性HASH算法 通过HASH算法得到32位整数 划分N个连续的子空间，每个空间对应一个Brck 弹性HASH算法优点 保证数据平均分布在每一个Brick中 解决了对元数据服务的依赖，进而解决了单点故障以及访问瓶颈 卷的类型 分布
GFS分布式文件系统（分布式卷、条带卷、复制卷、分布式条带卷、分布式复制卷）
ycycyyc_的博客
09-15 903
文章目录一、GlusterFS概述1.1 GlusterFS简介1.2 GlusterFS特点1.3 GlusterFS术语1.4 模块化堆栈架构二、GlusterFS工作原理2.1 GlusterFS工作流程2.2 弹性HASH算法三、GlusterFS的卷类型类型3.1 分布式卷3.2 条带卷3.3 复制卷四、部署群集类型五、创建卷、部署客户端、测试文件系统六、其他的维护命令 一、GlusterFS概述 1.1 GlusterFS简介 开源的分布式文件系统 由存储服务器、客户端以及NFS/Samba存
浅谈GFS之---读写文件流程
weixin_39802680的博客
08-16 3222
文章目录Master 主要的两个表单读文件流程写文件流程primary chunk 不存在 Master 主要的两个表单 客户端要从chunkserver 上读写文件首先要发请求给Master获取文件相关的数据。将数据缓存到客户端本地（后面将介绍为什么要这么做）。根据相关数据与chunkserver 进行交互，实现文件的读写。每个chunk 的大小为64MB。 Master主要有两个表单来存储相关的元数据（注意有的元数据需要持久化到硬盘，有的只存放在内存，后面将介绍为什么这样做）。 两个表单如下： 文件名
GFS 数据解析
q742971636的博客
06-29 1281
https://blog.csdn.net/goldenhawking/article/details/80586858
***GFS浅析
u014765410的博客
06-09 243
参考博文：GFS浅析 next->客户端的读写
详解 GFS分布式文件系统 （条带卷/复制卷/分布式条带卷/分布式复制卷）
穷则独善其身 达则兼善天下
07-17 1514
GFS分布式文件系统一.GlusterFS概述1.GlusterFS简介2.GlusterFS特点3. GlusterFS术语4.模块化堆栈式架构5. GlusterFS 工作流程6.弹性HASH算法7. GlusterFs的卷类型二. 部署GlusterFs 群集 一.GlusterFS概述 1.GlusterFS简介 ① GlusterFS是一-个开源的分布式文件系统。 由存储服务器、客户端以及NFS/Samba存储网关(可选，根据需要选择使用)组成。 没有元数据服务器组件，这有助于提升整个系统的性能、
java基于SpringBoot+vue 美食信息推荐系统源码 带毕业论文
09-12
1、开发环境：SpringBoot框架；内含Mysql数据库；VUE技术；内含说明文档 2、需要项目部署的可以私信 3、项目代码都经过严格调试，代码没有任何bug！ 4、该资源包括项目的全部源码，下载可以直接使用！ 5、本项目适合作为计算机、数学、电子信息等专业的课程设计、期末大作业和毕设项目，作为参考资料学习借鉴。 6、本资源作为“参考资料”如果需要实现其他功能，需要能看懂代码，并且热爱钻研，自行调试。
Sigrity-SystemSI-Statistical Analysis Application Note.rar
09-12
Sigrity-SystemSI-Statistical Analysis Application Note.rar 介绍 Sigrity SystemSI-串行链路分析中使用的传统分析流程涉及 基于高级卷积信道的信道电路冲激响应 并在接收器处导出时域波形。这些波形是 经过统计后处理，生成眼图、浴缸曲线和其他输出。 通过信道运行的比特数越多，结果就越准确。 统计分析通常适用于线性时不变（LTI）系统。a中的线性 系统指示叠加适用。时间不变性表明，对于具有 x（t）输入和y（t）输出，输入中的时移z，例如x（t+z）将导致 对应的时移输出y（t+z）。许多（尽管不是全部）串行链路系统可以近似为LTI，因此统计分析是串行链路分析工具箱中一种有用的功能。 与时域仿真方法相比，纯统计分析的主要优点是可以直接考虑所有符号间干扰（ISI）。 因此，它的准确性不依赖于模拟的比特数，就像传统的时域方法一样。 统计分析的主要局限性是它只适用于LTI系统。 使用AMI_GetWave函数执行实时波形处理的算法（AMI）模型不能保证LTI操作。 许多使用Decision的多千兆位接收器 反馈均衡（DFE）使
MATLAB的汉字定位检测识别系统GUI设计.zip
最新发布
09-12
产品经理项目实战案例
谷歌分布式文件系统GFS详解
"Google GFS (Google File System) 是一个由Google开发的可扩展的分布式文件系统，主要用于大型数据密集型应用。它在廉价的商用硬件上运行，提供高聚合性能，服务于大量的客户端，并具备故障容忍能力。GFS的设计考虑...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值