GFS分布式搭建

最新推荐文章于 2024-04-09 19:28:44 发布
最新推荐文章于 2024-04-09 19:28:44 发布
阅读量336 收藏
点赞数
文章标签： 分布式
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_55614372/article/details/118879806
版权

GFS支持的七种卷

1、分布式卷（默认）：文件通过HASH算法分布到所有Brick Server上，这种卷是GFS的基础；以文件为单位根据HASH算法散列到不同的Brick，其实只是扩大了磁盘空间，并不具备容错能力，属于文件级RAID 0

2、条带卷（默认）：类似RAID 0，文件被分成数据库并以轮询的方式分布到多个Brick Server上，文件存储以数据块为单位，支持大文件存储，文件越大，读取效率越高

3、复制卷（Replica volume）：将文件同步到多个Brick上，使其具备多个文件副本，属于文件级RAID 1，具有容错能力。因为数据分散在多个Brick中，所以读性能得到很大提升，但写性能下降

4、分布式条带卷（Distribute Stripe volume）：Brick Server数量是条带数（数据块分布的Brick数量）的倍数，兼具分布式卷和条带的特点

5、分布式复制卷（Distribute Replica volume）：Brick Server数量是镜像数（数据副本 数量）的倍数，兼具分布式卷和复制卷的特点

6、条带复制卷（Stripe Replca volume）：类似RAID 10，同时具有条带卷和复制卷的特点

7、分布式条带复制卷（Distribute Stripe Replicavolume）：三种基本卷的复合卷通常用于类Map Reduce应用

在这里插入图片描述

GFS脚本


————————————————————————环境准备————————————————————————————————————————

Node1节点：node1/192.168.150.100		  磁盘： /dev/sdb1			挂载点： /data/sdb1
											/dev/sdc1					/data/sdc1
											/dev/sdd1					/data/sdd1
											/dev/sde1					/data/sde1

Node2节点：node2/192.168.150.101		  磁盘： /dev/sdb1			挂载点： /data/sdb1
											/dev/sdc1					/data/sdc1
											/dev/sdd1					/data/sdd1
											/dev/sde1					/data/sde1

Node3节点：node3/192.168.150.102		  磁盘： /dev/sdb1			挂载点： /data/sdb1
											/dev/sdc1					/data/sdc1
											/dev/sdd1					/data/sdd1
											/dev/sde1					/data/sde1

Node4节点：node4/192.168.150.103   	  磁盘： /dev/sdb1			挂载点： /data/sdb1
											/dev/sdc1					/data/sdc1
											/dev/sdd1					/data/sdd1
											/dev/sde1					/data/sde1

=====客户端节点：192.168.150.140=====

——————————————————————————————————————————————————————————————————————
——————————————————设置主机名————
node1（192.168.150.100）
[root@localhost ~] # hostname node1

node2（192.168.150.101）                                          
[root@localhost ~]#hostname node2

node3（192.168.150.102）
[root@localhost ~]#hostname node3

node4（192.168.150.103）
[root@promote ~]#hostname node4
——————————————————————
节点进行磁盘挂载，安装本地源，所有节点（这里使用node1作为示范）
[root@node1 ~] # systemctl stop firewalld
[root@node1 ~] # setenforce 0

[root@node1 ~] # vim /opt/fdisk.sh

#!/bin/bash
NEWDEV=`ls /dev/sd* | grep -o 'sd[b-z]' | uniq`
for VAR in $NEWDEV
do
   echo -e "n\np\n\n\n\nw\n" | fdisk /dev/$VAR &> /dev/null
   mkfs.xfs /dev/${VAR}"1" &> /dev/null
   mkdir -p /data/${VAR}"1" &> /dev/null
   echo "/dev/${VAR}"1" /data/${VAR}"1" xfs defaults 0 0" >> /etc/fstab
done
mount -a &> /dev/null

========》wq

[root@node1 ~] # chmod +x /opt/fdisk.sh
[root@node1 ~] # cd /opt/
[root@node1 /opt] # ./fdisk.sh

[root@node1 /opt] # echo "192.168.150.100 node1" >> /etc/hosts
[root@node1 /opt] # echo "192.168.150.101 node2" >> /etc/hosts
[root@node1 /opt] # echo "192.168.150.102 node3" >> /etc/hosts
[root@node1 /opt] # echo "192.168.150.103 node4" >> /etc/hosts

[root@node1 /opt] # ls
fdisk.sh  rh
[root@node1 /opt] # rz -E
rz waiting to receive.
[root@node1 /opt] # ls
fdisk.sh  gfsrepo.zip  rh
[root@node1 /opt] # unzip gfsrepo.zip 

[root@node1 /opt] # cd /etc/yum.repos.d/
[root@node1 /etc/yum.repos.d] # ls
local.repo  repos.bak
[root@node1 /etc/yum.repos.d] # mv * repos.bak/
mv: 无法将目录"repos.bak" 移动至自身的子目录"repos.bak/repos.bak" 下
[root@node1 /etc/yum.repos.d] # ls
repos.bak
[root@node1 /etc/yum.repos.d] # vim glfs.repo

[glfs]
name=glfs
baseurl=file:///opt/gfsrepo
gpgcheck=0
enabled=1

========》wq

[root@node1 /etc/yum.repos.d] # yum clean all && yum makecache
已加载插件：fastestmirror, langpacks
正在清理软件源： glfs
Cleaning up everything
Maybe you want: rm -rf /var/cache/yum, to also free up space taken by orphaned data from disabled or removed repos
已加载插件：fastestmirror, langpacks
glfs                                                                  | 2.9 kB  00:00:00     
(1/3): glfs/filelists_db                                              |  62 kB  00:00:00     
(2/3): glfs/other_db                                                  |  46 kB  00:00:00     
(3/3): glfs/primary_db                                                |  92 kB  00:00:00     
Determining fastest mirrors
元数据缓存已建立

[root@node1 /etc/yum.repos.d] # yum -y install glusterfs glusterfs-server glusterfs-fuse glusterfs-rdma

[root@node1 /etc/yum.repos.d] # systemctl start glusterd.service 
[root@node1 /etc/yum.repos.d] # systemctl enable glusterd.service
Created symlink from /etc/systemd/system/multi-user.target.wants/glusterd.service to /usr/lib/systemd/system/glusterd.service.

[root@node1 /etc/yum.repos.d] # systemctl status glusterd.service
● glusterd.service - GlusterFS, a clustered file-system server
   Loaded: loaded (/usr/lib/systemd/system/glusterd.service; enabled; vendor preset: disabled)
   Active: active (running) since 二 2021-03-02 19:45:10 CST; 764ms ago
 Main PID: 51664 (glusterd)
   CGroup: /system.slice/glusterd.service
           └─51664 /usr/sbin/glusterd -p /var/run/glusterd.pid --log-level INFO

3月 02 19:45:10 node1 systemd[1]: Starting GlusterFS, a clustered file-system server...
3月 02 19:45:10 node1 systemd[1]: Started GlusterFS, a clustered file-system server.
————————————————————————————————————————
                                                            添加节点创建集群
添加节点到存储信任池中（仅需在一个节点上操作，node1）
 [root@node1 ~] # gluster peer probe node1
peer probe: success. Probe on localhost not needed
[root@node1 ~] # gluster peer probe node2
peer probe: success. 
[root@node1 ~] # gluster peer probe node3
peer probe: success. 
[root@node1 ~] # gluster peer probe node4
peer probe: success. 

[root@node1 ~] # gluster peer status
Number of Peers: 3

Hostname: node2
Uuid: 2ee63a35-6e83-4a35-8f54-c9c0137bc345
State: Peer in Cluster (Connected)

Hostname: node3
Uuid: e63256a9-6700-466f-9279-3e3efa3617ec
State: Peer in Cluster (Connected)

Hostname: node4
Uuid: 9931effa-92a6-40c7-ad54-7361549dd96d
State: Peer in Cluster (Connected)

——————————————————————————————
                                                  根据规划创建卷
========根据以下规划创建卷=========
卷名称 				卷类型				Brick
dis-volume			分布式卷			node1(/data/sdb1)、node2(/data/sdb1)
stripe-volume		条带卷			node1(/data/sdc1)、node2(/data/sdc1)
rep-volume			复制卷			node3(/data/sdb1)、node4(/data/sdb1)
dis-stripe			分布式条带卷		node1(/data/sdd1)、node2(/data/sdd1)、node3(/data/sdd1)、node4(/data/sdd1)
dis-rep				分布式复制卷		node1(/data/sde1)、node2(/data/sde1)、node3(/data/sde1)、node4(/data/sde1)

创建分布式卷
gluster volume create dis-volume node1:/data/sdb1 node2:/data/sdb1 force
gluster volume list
gluster volume start dis-volume
gluster volume info dis-volume

创建条带卷
gluster volume create stripe-volume stripe 2 node1:/data/sdc1 node2:/data/sdc1 force
gluster volume start stripe-volume
gluster volume info stripe-volume

创建复制卷
gluster volume create rep-volume replica 2 node3:/data/sdb1 node4:/data/sdb1 force
gluster volume start rep-volume
gluster volume info rep-volume

创建分布式条带卷
gluster volume create dis-stripe stripe 2 node1:/data/sdd1 node2:/data/sdd1 node3:/data/sdd1 node4:/data/sdd1 force
gluster volume start dis-stripe
gluster volume info dis-stripe

创建分布式复制卷
gluster volume create dis-rep replica 2 node1:/data/sde1 node2:/data/sde1 node3:/data/sde1 node4:/data/sde1 force
gluster volume start dis-rep
gluster volume info dis-rep 

——————————————————————————
                                                                部署gluster客户端


systemctl stop firewalld
setenforce 0
cd /opt  
gluster传进去
unzip gfsrepo.zip
cd /etc/yum.repos.d/
[root@promote yum.repos.d]#ls
local.repo  repos.bak
[root@promote yum.repos.d]#mv * repos.bak/
mv: 无法将目录"repos.bak" 移动至自身的子目录"repos.bak/repos.bak" 下
[root@promote yum.repos.d]#ls
repos.bak
[root@promote yum.repos.d]#vim glfs.repo

[glfs]
name=glfs
baseurl=file:///opt/gfsrepo
gpgcheck=0
enabled=1

========》wq

yum clean all && yum makecache
yum -y install glusterfs glusterfs-fuse
mkdir -p /test/{dis,stripe,rep,dis_stripe,dis_rep}
cd /test/
ls  #查看目录是否有以下文件
dis  dis_rep  dis_stripe  rep  stripe

echo "192.168.150.100 node1" >> /etc/hosts
echo "192.168.150.101 node2" >> /etc/hosts
echo "192.168.150.102 node3" >> /etc/hosts
echo "192.168.150.103 node4" >> /etc/hosts

mount.glusterfs node1:dis-volume /test/dis
mount.glusterfs node1:stripe-volume /test/stripe
mount.glusterfs node1:rep-volume /test/rep
mount.glusterfs node1:dis-stripe /test/dis_stripe
mount.glusterfs node1:dis-rep /test/dis_rep

df -h

cd /opt
dd if=/dev/zero of=/opt/demo1.log bs=1M count=40
dd if=/dev/zero of=/opt/demo2.log bs=1M count=40
dd if=/dev/zero of=/opt/demo3.log bs=1M count=40
dd if=/dev/zero of=/opt/demo4.log bs=1M count=40
dd if=/dev/zero of=/opt/demo5.log bs=1M count=40

ls -lh /opt
cp demo* /test/dis
cp demo* /test/stripe/
cp demo* /test/rep/
cp demo* /test/dis_stripe/
cp demo* /test/dis_rep/

cd /test/
tree

进行查看

准备环境(每一台都设置)

node1节点：192.168.235.101 磁盘：/dev/sd[bcde]1 挂载目录：/data/sd[bcde]1
node2节点：192.168.235.102 磁盘：/dev/sd[bcde]1 挂载目录：/data/sd[bcde]1
node3节点：192.168.235.103 磁盘：/dev/sd[bcde]1 挂载目录：/data/sd[bcde]1
node4节点：192.168.235.104 磁盘：/dev/sd[bcde]1 挂载目录：/data/sd[bcde]1
关闭防火墙

1.磁盘分区、挂载

在这里插入图片描述

2.修改主机名

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

3.安装、启动GFS

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

4.添加节点到储存信任池上（在node1节点上操作即可）

在这里插入图片描述

5.创建卷

dis-volume 分布式卷 node1(/data/sdb1)、node2(/data/sdb1)
stripe-volume 条带卷 node1(/data/sdc1)、node2(/data/sdc1)
rep-volume 复制卷 node3(/data/sdb1)、node4(/data/sdb1)
dis-stripe 分布式条带卷 node1(/data/sdd1)、node2(/data/sdd1)、node3(/data/sdd1)、node4(/data/sdd1)
dis-rep 分布式复制卷 node1(/data/sde1)、node2(/data/sde1)、node3(/data/sde1)、node4(/data/sde1)

（1）创建分布式卷

gluster volume create dis-volume node1:/data/sdb1 node2:/data/sdb1 force

（2）创建条带卷

gluster volume create stripe-volume stripe 2 node1:/data/sdc1 node2:/data/sdc1 force

（3）创建复制卷

gluster volume create rep-volume replica 2 node3:/data/sdb1 node4:/data/sdb1 force

（4）创建分布式条带卷

gluster volume create dis-stripe stripe 2 node1:/data/sdd1 node2:/data/sdd1 node3:/data/sdd1 node4:/data/sdd1 force

（5）创建分布式复制卷

gluster volume create dis-rep replica 2 node1:/data/sde1 node2:/data/sde1 node3:/data/sde1 node4:/data/sde1 force
在这里插入图片描述

二、部署Gluster客户端

在这里插入图片描述

1.安装客户端软件

和上面安装方法相同，导入压缩包解压后，使用yum安装yum -y install glusterfs glusterfs-fuse。

2.创建挂载目录

在这里插入图片描述

3.配置/etc/hosts文件

在这里插入图片描述

4.挂载Gluster文件系统

两种挂载方法
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
挂载完成以后，我们就可以在挂载目录里面写入内容，其内容就会根据挂载目录对应的卷的规则进行保存。

附：其他的维护命令

1.查看GlusterFS卷
gluster volume list
2.查看所有卷的信息
gluster volume info
3.查看所有卷的状态
gluster volume status
4.停止一个卷
gluster volume stop dis-stripe
5.删除一个卷。注意:删除卷时，需要先停止卷，且信任池中不能有主机处于宕机状态，否则删除不成功
gluster volume delete dis-stripe
6.设置卷的访问控制
gluster volume set dis-rep auth.allow 192.168.121.550
gluster volume set dis-rep auth.allow 192.168.80.*（#设置192.168.80.0网段的所有IP地址都能访问dis-rep卷(分布式复制卷)）

楠哥要留长头发
关注
搭建GFS分布式文件系统
12-15
文档中并未提供搭建Gluster分布式文件系统的具体步骤，但是可以推测，这通常需要以下几步： - 准备服务器：准备足够的服务器，根据需要部署GlusterFS。 - 安装和配置GlusterFS：在每台服务器上安装GlusterFS软件包...
GFS分布式文件系统及其部署
m0_71931851的博客
11-16 768
GFS分布式文件系统及其部署
搭建GFS
Fairy的博客
01-03 453
GlusterFS搭建与使用
一文看懂GFS如何搭建
白雪滑落树梢
11-17 1220
文章目录前言一、服务端配置1.环境2.修改主机名3.使用脚本对硬盘进行分区挂载4.添加四个节点域名解析5.安装本地源GFS6.创建卷1.创建分布式卷2.创建条带卷3.创建复制卷4.创建分布式条带卷5.创建分布式复制卷二、客户端配置总结 前言 一、服务端配置 1.环境 每台虚拟机需要添加4块5G磁盘 Node1节点：node1/192.168.3.11 磁盘：/dev/sdb1 挂载点：/data/sdb1 5GX4 /dev/sdc1 /data/sdc1
GFS分布式文件系统
qq_57377057的博客
10-10 2006
目录 引言 一、文件系统的作用 1.1、文件系统的挂载使用 二、GlusterFS简介 三、GlusterFS特点 3.1、扩展性和高性能 3.2、高可用性 3.3、全局同一命名空间 3.4、弹性卷管理 3.5、基于标准协议 四、GlusterFS术语 五、GlusterFS构成 六、GlusterFS的工作流程 理解： 七、弹性HASH算法 弹性HASH算法优点 八、GFS支持七种卷 8.1、分布式卷（Distribute volume） 分布式卷具有以下特点 8.
GFS分布式文件系统（详解与配置）
qq_51545656的博客
12-21 1573
FUSE是一个用户空间文件系统的框架，允许非特权用户在用户空间中实现文件系统。通过FUSE，文件系统的实现不需要修改内核，而是在用户空间中运行。
GFS分布式数据存储搭建gfsrepo.zip包
04-04
GFS分布式数据存储搭建gfsrepo.zip包用于完成GFS分布式数据存储实验
基于GFS的分布式云存储应用技术的设计.pdf
08-10
本文主要探讨了基于Google File System（GFS）的分布式云存储应用技术，特别是在医疗信息化系统中的设计与应用。 首先，云计算技术的核心理念在于按需提供资源，即用户可以根据自身需求动态地获取计算资源、存储...
GlusterFS分布式存储
最新发布
十七拾的博客
04-09 1220
本文主要介绍了GFS分布存储的概述和如何搭建部署GlusterFS集群等，希望对你有帮助！
GFS（GlusterFS）分布式文件系统（工作原理、部署步骤详解）
Chenwei的博文
03-02 7544
GFS（GlusterFS）分布式文件系统（工作原理、部署步骤详解） @toc 一、GlusterFS 概述 1.1 GlusterFS 简介 GlusterFS 是一个开源的分布式文件系统，主要由存储服务器（BrickServer）、客户端及 NFS/Samba 存储网关（可选， 根据需要选择使用）组成。GlusterFS同时也是Scale-Out（横向扩展）存储解决方案Gluster的核心，在存储数据方面具有强大的横向扩展能力，通过扩展能够支持数PB存储容量和处理数千客户端。 GlusterFS借助TC
GFS分布式文件系统概述以及集群部署
rmh0713的博客
04-09 999
①GlusterFS是一个开源的分布式文件系统。②由存储服务器、客户端以及NFS/Samba存储网关（可选，根据需要选择使用）组成。③没有元数据服务器组件，这有助于提升整个系统的性能、可靠性和稳定性。传统的分布式文件系统大多通过元服务器来存储元数据，元数据包含存储节点上的目录信息、目录结构等。这样的设计在浏览目录时效率高，但是也存在一些缺陷，例如单点故障。一旦元数据服务器出现故障，即使节点具备再高的冗余性，整个存储系统也将崩溃。
如何搭建GFS分布式文件系统
咸鱼吧的博客
08-14 1064
如何搭建GFS分布式文件系统什么是文件系统文件系统的组成部分文件系统作用文件系统的使用分布式文件系统GFSGFS简介GFS组成GFS的特点GFS专业术语GFS模块化和堆栈式架构GFS工作流程分布式如何在后端存储中定位文件分布式的优点卷的分类基本卷复合卷部署GFS集群创建卷创建分布式卷创建条带卷创建复制卷创建分布式条带卷创建分布式复制卷部署GFS的客户端测试gluster文件系统破坏测试 什么是文件系统 文件系统的组成部分 文件系统接口 对对像管理的软件集合 对象及属性 文件系统作用 文件系统是对文件存
GFS的配置及应用
lu2002lulu的专栏
11-09 347
I．前言 经过这一段时间的配置以及测试，gfs(globe file system)对于我们的邮件系统已经到了一个可以应用的阶段，这里包含老祝和韩麟同学的共同努力，还有黄亚洲同学的支持，下面我把配置方法过程写下： 一、安装操作系统以及GFS套件包 我们这次配置用的标准平台是centOS5.3，因为安装GFS软件的时候需要很多其他cluster软件的支持，cen...
GFS分布式存储
weixin_67033761的博客
07-04 688
1
强烈推荐！老板再也不用担心我的数据存储了-搭建GFS
Friendsofthewind的博客
06-13 1173
学习目标： 提示：这里可以添加学习目标 例如：一周掌握 Java 入门知识 学习内容： 提示：这里可以添加要学的内容 例如： 1、 搭建 Java 开发环境 systemctl stop firewalld setenforce 0 sed -i '2a 192.168.8.134 node1' /etc/hosts sed -i '3a 192.168.8.136 node2' /etc/hosts sed -i '4a 192.168.8.139 node3' /etc/hosts sed
Linux GFS 配置方法及注意事项
Wonderful's DBA Story
11-07 9926
Linux GFS（Global File System）是实现为多个访问节点或者主机能同时读写的分布式文件系统。
Hadoop分布式与全分布式搭建教程
"Hadoop为分布式与全分布式搭建的教程涵盖了Hadoop的基本概念、起源、优势以及核心组件的介绍，特别适合初学者跟随步骤进行实践操作。教程中包含丰富的截图和命令示例，使得学习过程更加直观易懂。" 在大数据领域，...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值