MFS(一)---mfs详解与部署

最新推荐文章于 2024-07-26 13:52:53 发布
最新推荐文章于 2024-07-26 13:52:53 发布
阅读量3k 收藏 15
点赞数 2
分类专栏： 企业实战 文章标签： mfs 分布式存储 运维 服务器 大数据
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_35887546/article/details/106734938
版权

mfs详解与部署

一、MFS详解

分布式原理：

分布式文件系统（Distributed File Systemm）是指文件系统管理的物理存储资源不一定直接连接在本地节点上，而是通过计算机网络与节点相连。简单来说，就是把一些分散的（分布在局域网内各个计算机上）共享文件夹，集合到一个文件夹内（虚拟共享文件夹）。对于用户来说，要访问这些共享文件夹时，只要打开这个虚拟共享文件夹，就可以看到所有链接到虚拟共享文件夹内的共享文件夹，用户感觉不到这些共享文件是分散在各个计算机上的。分布式文件系统的好处是集中访问、简化操作、数据容灾，以及提高文件的存取性能。

MFS原理：

MFS是一个具有容错性的网络分布式文件系统，它把数据分散存放在多个物理服务器上，而呈现给用户的则是一个统一的资源。

MFS文件系统的组成

  • 元数据服务器（Master）:在整个体系中负责管理文件系统，维护元数据。

  • 元数据日志服务器（MetaLogger）:备份Master服务器的变化日志文件，文件类型为changelog_ml.*.mfs。当Master服务器数据丢失或者损坏时，可以从日志服务器中取得文件，进行修复。

  • 数据存储服务器（Chunk Server）:真正存储数据的服务器。存储文件时，会把文件分块保存，在数据服务器之间进行复制。数据服务器越多，能使用的“容量”就越大，可靠性就越高，性能也就越好。

  • 客户端（Client）:可以像挂载NFS一样挂载MFS文件系统，其操作是相同的。

MFS读取数据的处理过程：

在这里插入图片描述

  • 客户端向元数据服务器发出读请求
  • 元数据服务器把所需数据存放的位置（Chunk Server的IP地址和Chunk编号）告知客户端
  • 客户端向已知的Chunk Server请求发送数据
  • Chunk Server向客户端发送数据

MFS写入数据的处理过程：

在这里插入图片描述

  • 客户端向元数据服务器发送写入请求
  • 元数据服务器与Chunk Server进行交互（只有当所需的分块Chunks存在的时候才进行交互），但元数据服务器只在某些服务器创建新的分块Chunks,创建成功后由元数据服务器告知客户端，可以在哪个Chunk Server的哪些Chunks写入数据。
  • 客户端向指定的Chunk Server写入数据
  • 该Chunk Server与其他Chunk Server进行数据同步，同步成功后Chunk Server告知客户端数据写入成功
  • 客户端告知元数据服务器本次写入完毕

MFS的删除文件过程

  • 客户端有删除操作时，首先向Master发送删除信息；
  • Master定位到相应元数据信息进行删除，并将chunk server上块的删除操作加入队列异步清理；
  • 响应客户端删除成功的信号

MFS修改文件内容的过程

  • 客户端有修改文件内容时，首先向Master发送操作信息；
  • Master申请新的块给.swp文件，
  • 客户端关闭文件后，会向Master发送关闭信息；
  • Master会检测内容是否有更新，若有，则申请新的块存放更改后的文件，删除原有块和.swp文件块；
  • 若无，则直接删除.swp文件块。

MFS重命名文件的过程

  • 客户端重命名文件时，会向Master发送操作信息；
  • Master直接修改元数据信息中的文件名；返回重命名完成信息；

MFS遍历文件的过程

  • 遍历文件不需要访问chunk server，当有客户端遍历请求时，向Master发送操作信息；
  • Master返回相应元数据信息；
  • 客户端接收到信息后显示

二、MFS的部署

部署可以参考官网：https://moosefs.com/download/#current

主机准备

主机ip作用
server1172.25.1.1master
server2172.25.1.2chunk server
server3172.25.1.3chunk server
foundation1172.25.1.250master

主机版本：rhel7.6
所有主机的selinux和防火墙均属于关闭状态。

yum源

对所有节点，yum源是相同的

可以通过以下命令获取：

curl "http://ppa.moosefs.com/MooseFS-3-el7.repo" > /etc/yum.repos.d/MooseFS.repo

如果时el6或者el8直接将el7更改即可。

下载完repo文件后将gpgcheck关闭

[root@server1 ~]# cd /etc/yum.repos.d/
[root@server1 yum.repos.d]# ls
MooseFS.repo  redhat.repo  rhel.repo
[root@server1 yum.repos.d]# vim MooseFS.repo 
[root@server1 yum.repos.d]# cat MooseFS.repo 
[MooseFS]
name=MooseFS $releasever - $basearch
baseurl=http://ppa.moosefs.com/moosefs-3/yum/el7
gpgcheck=0					#改为0
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS
enabled=1

同时在所有节点作master的解析：

# vim /etc/hosts
# cat /etc/hosts
172.25.1.1 server1 mfsmaster

master配置

安装：

[root@server1 ~]#  yum install moosefs-master moosefs-cgi moosefs-cgiserv moosefs-cli -y

其主配置文件是/etc/mfs/mfsmaster.cfg

启动服务和cgi-server：

[root@server1 ~]# systemctl enable --now moosefs-master
[root@server1 ~]# systemctl enable --now moosefs-cgiserv.service

启动后查看端口：

[root@server1 ~]# netstat -antlp
Active Internet connections (servers and established)
Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name    
tcp        0      0 0.0.0.0:9419            0.0.0.0:*               LISTEN      3821/mfsmaster      
tcp        0      0 0.0.0.0:9420            0.0.0.0:*               LISTEN      3821/mfsmaster      
tcp        0      0 0.0.0.0:9421            0.0.0.0:*               LISTEN      3821/mfsmaster      
tcp        0      0 0.0.0.0:9425            0.0.0.0:*               LISTEN      3852/python2        
tcp        0      0 0.0.0.0:22              0.0.0.0:*               LISTEN      3097/sshd           
tcp        0      0 127.0.0.1:25            0.0.0.0:*               LISTEN      3300/master         
tcp        0      0 172.25.1.1:22           172.25.1.250:53068      ESTABLISHED 3315/sshd: root@pts 
tcp6       0      0 :::22                   :::*                    LISTEN      3097/sshd           
tcp6       0      0 ::1:25                  :::*                    LISTEN      3300/master

可以看到开启服务后打开了9419，9420，9421，9425几个端口，其中，9421为监听客户端连接的端口，9419为用于监听metalogger（冷备）、masters和supervisors连接的端口，9420为chunkserver连接的侦听端口，9425为cgi-server的端口，可以在浏览器访问172.25.1.1:9425：

在这里插入图片描述
可以看出的当前就只有一个master。

chunk server配置

以下以server2为例，server3的操作和server2类似，首先安装：

[root@server2 ~]# yum install moosefs-chunkserver -y

在chunk server中，/etc/mfs/mfshdd.cfg用来指定其存储路径

创建存储路径：

[root@server2 mfs]# mkdir /mnt/chunk1
[root@server2 mfs]# chown mfs.mfs /mnt/chunk1/			#更改所有者和所有组

制定存储路径：

[root@server2 mfs]# vim mfshdd.cfg
[root@server2 mfs]# tail -1 mfshdd.cfg
/mnt/chunk1

配置后启动服务：

[root@server2 mfs]# systemctl enable --now moosefs-chunkserver

服务启动后查看开启的端口：

[root@server2 mfs]# netstat -antlp
Active Internet connections (servers and established)
Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name    
tcp        0      0 0.0.0.0:9422            0.0.0.0:*               LISTEN      3874/mfschunkserver 
tcp        0      0 0.0.0.0:22              0.0.0.0:*               LISTEN      3087/sshd           
tcp        0      0 127.0.0.1:25            0.0.0.0:*               LISTEN      3309/master         
tcp        0      0 172.25.1.2:45240        172.25.1.1:9420         ESTABLISHED 3874/mfschunkserver 
tcp        0      0 172.25.1.2:22           172.25.1.250:49848      ESTABLISHED 3632/sshd: root@pts 
tcp6       0      0 :::22                   :::*                    LISTEN      3087/sshd           
tcp6       0      0 ::1:25                  :::*                    LISTEN      3309/master

可以看出开启了一个9422端口，并且打开了一个随即端口45240和master的9420端口进行通信。启动后查看网页端：
在这里插入图片描述可以看到server2已经加入了集群。

在server3中将chunk1改为chunk2即可。启动后查看网页端：
在这里插入图片描述
可以看出看出两个chunk server已经加入集群。

client客户端配置

安装客户端：

[root@foundation1 ~]# yum install moosefs-client -y

三、初步使用mfs

新建mfs目录：

[root@foundation1 ~]# cd /mnt/
[root@foundation1 mnt]# mkdir mfs

挂载该目录：

[root@foundation1 mfs]# mfsmount /mnt/mfs/

查看挂载情况：

[root@foundation1 mfs]# mount
mfsmaster:9421 on /mnt/mfs type fuse.mfs (rw,nosuid,nodev,relatime,user_id=0,group_id=0,allow_other)

可以看到挂载的是mfsmaster（server1）的9421端口。

创建测试文件目录：

[root@foundation1 mfs]# mkdir data1
[root@foundation1 mfs]# mkdir data2
[root@foundation1 mfs]# mfsgetgoal data1/			#若报错可以退出这个目录重新进，然后再新建
data1/: 2
[root@foundation1 mfs]# mfsgetgoal data2/
data2/: 2

以上结果表示两个目录都保存了2份。

可以使用以下命令将备份数改为1份：

[root@foundation1 mfs]# mfssetgoal -r 1 data1/
data1/:
 inodes with goal changed:                       1
 inodes with goal not changed:                   0
 inodes with permission denied:                  0
[root@foundation1 mfs]# 
[root@foundation1 mfs]# mfsgetgoal data1/
data1/: 1
[root@foundation1 mfs]# mfsgetgoal data2/
data2/: 2

可以看到data1已经保存为1份.拷贝测试文件：

[root@foundation1 mfs]# cp /etc/passwd data1/
[root@foundation1 mfs]# cp /etc/fstab data2/

查看拷贝文件的信息：

[root@foundation1 mfs]# mfsfileinfo data1/passwd 
data1/passwd:
	chunk 0: 0000000000000001_00000001 / (id:1 ver:1)
		copy 1: 172.25.1.3:9422 (status:VALID)
[root@foundation1 mfs]# 
[root@foundation1 mfs]# mfsfileinfo data2/fstab 
data2/fstab:
	chunk 0: 0000000000000002_00000001 / (id:2 ver:1)
		copy 1: 172.25.1.2:9422 (status:VALID)
		copy 2: 172.25.1.3:9422 (status:VALID)

可以看到再data1中的文件只有一个备份保存在server3，而在data2中的文件有两个备份，保存在server2和server3各一份。

当我们把server3的mfs服务关闭后：

[root@server3 ~]# systemctl stop moosefs-chunkserver

在这里插入图片描述查看data2中的文件：

[root@foundation1 mfs]# cat data2/fstab 

#
# /etc/fstab
# Created by anaconda on Thu May  2 18:01:16 2019
#
。。。。。。

可以正常查看，查看data1中的文件：

[root@foundation1 mfs]# mfsfileinfo data1/passwd 
data1/passwd:
	chunk 0: 0000000000000001_00000001 / (id:1 ver:1)
		no valid copies !!!

可以看出没有可用拷贝，访问文件会卡住。

现在恢复server3：

[root@server3 ~]# systemctl start moosefs-chunkserver

在这里插入图片描述恢复后查看data1中的文件就可以正常查看：

[root@foundation1 mfs]# cat data1/passwd 
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
......

接下来进行切分的实验，默认chunk的大小为64M，当文件大于64M时会进行切分：

在data1中新建一个100M的文件：

[root@foundation1 data1]# dd if=/dev/zero of=bigfile bs=1M count=100

查看这个文件的信息：

[root@foundation1 data1]# mfsfileinfo bigfile 
bigfile:
	chunk 0: 0000000000000003_00000001 / (id:3 ver:1)
		copy 1: 172.25.1.3:9422 (status:VALID)
	chunk 1: 0000000000000004_00000001 / (id:4 ver:1)
		copy 1: 172.25.1.2:9422 (status:VALID)

可以看出被切分成两个chunk，这样就可以保证写入和读取的速度，这也就是分布式文件系统的意义。

CL82
关注
  • 2
    点赞
  • 踩
  • 15
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
网络分布式文件系统-MFS搭建以及部署详解
chaos_oper的博客
05-18 817
实验环境： 主机名 功能 server1 master server server2 chunk servers server3 chunk servers foundation8.ilt.example.com client 一.网络分布式文件系统 MooseFS是一个具有容错性的网络分布式文件系统。它把数据分散存放在多个物理服务器上，而呈现给用户的则是一个统一的...
MFS部署脚本及MFS部署包
12-06
**MFS部署脚本及MFS部署包详解** MFS，全称为 Modular File System，是一种模块化的文件系统，常用于分布式存储环境中。它允许用户在不同的硬件和软件平台上灵活地组织和管理数据。MFS部署脚本和MFS部署包是实现MFS...
mfs如何使用：基本使用步骤
weixin_43822401的博客
05-11 106
2、查找对应的 exploit 模块。5、执行 exploit 开始攻击。4、添加 payload 后门。1、查找 CVE 公布的漏洞。
MFS部署详解
weixin_33805557的博客
03-24 101
原文http://windphp.com/unix/20.html没有使用FastDFS的原因是它所有的操作都要调用api, 不能指定命名格式, 或许它更适合网盘类?;虽然现在已经有nginx和apache模块了, 虽然性能要比mfs好点, 考虑得到易用性, 工作量(系统已经成型, 有着自己的命名规范)的问题还是选择了mfs需要用到的软件, 最新下载地址:http://so...
MFS分布式对象存储原理及部署
weixin_58978695的博客
12-03 1027
MFS分布式存储部署流程及应用原理，超详细
MFS详解
crazzy_lp的博客
11-21 2338
一、分布式文件系统     分布式文件系统（Distributed File System）是指文件系统管理的物理存储资源不一定直接连接在本地节点上，而是通过计算机网络与节点相连。分布式文件系统的设计基于客户机/服务器模式。一个典型的网络可能包括多个供多用户访问的服务器。另外，允许一些系统扮演客户机和服务器的双重角色。例如，用户可以“发表”一个允许其他客户机访问的目录，一旦被访问，这个目录对...
存储组件之MFS详解
一只程序猿的修炼之旅
12-19 4129
一、引言 MFS：MooseFS是一个具有冗余容错功能的分布式网络文件系统，具有高可靠性，高可扩展性，高可容错性和高数据一致性 应用场景： 1、大规模高并发的线上数据存储及访问（不论大文件还是小文件） 2、大规模的数据处理，如日志分析、小文件强调性能不用HDFS 二、组件 网络架构： 管理服务器 managing server，简称master：它是管理整个mfs文件系统的主服务器，出了分发用户请求外，还用来存储整个文件系统的metadata信息，包括目录、socket、管道、块设备等的大小、属性、文件路
MFS分布式文件系统（一) ——MFS简介+部署+使用
fighting
11-01 4557
分布式文件系统简介 分布式文件系统是指文件系统管理的物理存储资源,不一定在本地节点上，而是通过网络与节点相连。 就是把一些分散的（分布在局域网内各个计算机上）共享文件夹，集合到一个文件夹内（虚拟共享文件夹）。 对于用户来说，要访问这些共享文件夹时，只要打开这个虚拟共享文件夹，就可以看到所有链接到虚拟共享文件夹内的共享文件夹，用户感觉不到这些共享文件是分散在各个计算机上的。 分布式文件系统的好处是集中访问、简化操作、数据容灾，以及提高文件的存取性能。 MFS简介 MooseFS是一个具有容错性的网络分布式文件
MFS分布式存储
Inspiration126的博客
02-09 356
架构环境：基于Centos6.7 实验环境：一台master、一台metalogger、两台trunkserver、一台客户端 特点：分散存储，易于管理，可靠性极高，部署简单 组成： 1）Master（元数据服务器）：负责维护、管理数据的所在位置等 2）Chunk Server（数据存储服务器）：负责数据的存储 3）Metalogger（元数据日志服务器）：负责纪录数据的改动情况 4）Client...
详解MFS分布式存储系统
小米bb的博客
07-29 696
分布式原理 分布式文件系统是指文件系统管理的物理存储资源下不一定直接连接在本地节点上，而是通过计算机网络与节点相连。分布式文件系统的优点是集中访问、简化操作、数据容灾，以及提高了文件的存取性能。 MFS分布式文件系统 MFS是一种半分布式文件系统，它是由波兰人开发的。MFS文件系统能够实现RAID的功能，不但能够更节约存储成本，而且不比专业的存储系统差，它还可以实现在线扩展。 MFS原理 ...
linux 分布式存储 软件,详解MFS分布式存储系统
weixin_42522400的博客
05-07 777
分布式原理分布式文件系统是指文件系统管理的物理存储资源下不一定直接连接在本地节点上，而是通过计算机网络与节点相连。分布式文件系统的优点是集中访问、简化操作、数据容灾，以及提高了文件的存取性能。MFS分布式文件系统MFS是一种半分布式文件系统，它是由波兰人开发的。MFS文件系统能够实现RAID的功能，不但能够更节约存储成本，而且不比专业的存储系统差，它还可以实现在线扩展。MFS原理MFS是一个具有容...
Python-gcForest这是实现gcForest的官方克隆
08-11
**Python-gcForest官方克隆详解** gcForest是一种深度集成学习框架，由Zhou和Tang等人在2017年提出，主要用于解决复杂多模态数据的分类问题。gcForest的核心思想是通过一系列随机森林构成的级联结构，逐步提取和...
moosefs的ansible自动部署
12-01
【MooseFS与Ansible自动化部署详解】 MooseFS（简称MFS）是一款高可用、高性能、可扩展的分布式文件系统。它通过将数据分散存储在多台服务器上，提供了强大的容错能力和高可用性，适合大数据处理和云计算环境。而...
实施文档mfs.txt
01-25
MFS（MooseFS）是一种高可用、高性能的分布式文件系统，主要用于大规模数据存储与处理场景。它借鉴了Google的GFS（Google File System）的设计理念，旨在提供一个可靠且可扩展的数据存储解决方案。本文将围绕MFS的...
linux下MFS(moosefs)安装使用
12-07
### Linux 下 MFS (MooseFS) 安装与使用详解 #### MFS 文件系统概述 MooseFS（简称 MFS）是一种分布式文件系统，它能够提供高性能、高可用性和可扩展性的数据存储解决方案。MFS 适用于需要处理大量数据的应用场景，...
使用易备数据备份软件，践行虚拟机最佳备份方案
sanyuan7783的博客
07-26 906
新的关键业务应用程序有助于为容器和容器化工作负载赋予更大动力。但是，在可预见的未来，虚拟机的应用仍会普遍存在。容器和虚拟机可以很好地协同工作，适用于大多数关键的 IT 基础设施。因此，备份虚拟机及其包含的数据、服务和应用程序仍然是企业至关重要的任务。本文以 VMware vSphere 虚拟机为例，介绍虚拟机备份的最佳实践方法。
AccessLog| 一款开源的日志分析系统
最新发布
ClkLog的博客
07-26 451
系统采用Java语言、搭配OLAP数据库，涵盖基本web日志分析，同时提供性能分析，帮助高效运维
DNS反向解析、多域名解析、时间服务器相关配置
qq_74793290的博客
07-24 492
DNS反向解析、多域名解析、时间服务器
MFS分布式存储系统详解与部署指南
分布式存储MFS是一种基于网络的、高可用性和容错性的文件系统解决方案，由...分布式存储MFS是一个复杂的系统，涵盖了从架构设计、部署、配置到故障恢复的全方位管理，对于保证大规模分布式存储系统的高效运行至关重要。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值