本文主要关于moosefs的介绍及各节安装配置

一、mfs介绍

1.角色

(1)管理服务器managing server (master):管理服务器:负责各个数据存储服务器的管理,文件读写调度,文件空间回收以及恢复,多节点拷贝。

(2)元数据日志服务器Metalogger server(Metalogger):元数据日志服务器: 负责备份master服务器的变化日志文件,文件类型为changelog_ml.*.mfs,以便于在master server出问题的时候接替其进行工作。

(3)数据存储服务器data servers (chunkservers):数据存储服务器:负责连接管理服务器,听从管理服务器调度,提供存储空间,并为客户提供数据传输。

(4)客户机挂载使用client computers:通过fuse内核接口挂接远程管理服务器上所管理的数据存储服务器,.看起来共享的文件系统和本地unix文件系统使用一样的效果。

2.数据读取过程:

wKiom1eu6RjSvPAdAACPTFVaR1c712.jpg

 

(1)client当需要一个数据时,首先向master server发起查询请求;

(1)管理服务器检索自己的数据,获取到数据所在的可用数据服务器位置ip|port|chunkid;

(2)管理服务器将数据服务器的地址发送给客户端;

(3)客户端向具体的数据服务器发起数据获取请求;

(4)数据服务器将数据发送给客户端;

3.数据写过程

wKioL1eu6iuQn_0VAACwK5HIIWA065.jpg

(1)当客户端有数据写需求时,首先向管理服务器提供文件元数据信息请求存储地址(元数据信息如:文件名|大小|份数等);

(2)管理服务器根据写文件的元数据信息,到数据服务器创建新的数据块;

(2)数据服务器返回创建成功的消息;

(3)管理服务器将数据服务器的地址返回给客户端(chunkIP|port|chunkid);

(4)客户端向数据服务器写数据;

(7)数据服务器返回给客户端写成功的消息;

(8)客户端将此次写完成结束信号和一些信息发送到管理服务器来更新文件的长度和最后修改时间

二、软件安装

IP地址角色系统备注
192.168.115.11mfsmasterCentos7
192.168.115.12mfsmetaloggerCentos7
192.168.115.13mfschunkserverCentos7
192.168.115.5mfsclientCentos7

软件包:moosefs-ce-2.0.43-1.tar.gz

1. mfsmaster安装

创建用户和组

groupadd mfs
useradd -g mfs  -s  /sbin/nologin mfs

编译安装软件

tar  -zxf  moosefs-ce-2.0.43-1.tar.gz
cd moosefs-ce-2.0.43
./configure--prefix=/usr/local/mfs --sysconfdir=/usr/local/mfs/etc--localstatedir=/usr/local/mfs/lib --with-default-user=mfs--with-default-group=mfs --disable-mfschunkserver --disable-mfsmount
make &&make install

修改/usr/local/mfs/lib/mfs下二进制文件的后缀名

mv  /usr/local/mfs/lib/mfs/metadata.mfs.empty 
/usr/local/mfs/lib/mfs/metadata.mfs

提供配置文件

# cd/usr/local/mfs/etc/mfs
# mv  mfsmaster.cfg.dist  mfsmaster.cfg
# mv  mfsexports.cfg.dist  mfsexports.cfg

mfsmaster.cfg主配置文件可使用默认配置

mfsexports.cfg配置客户端挂载权限

192.168.115.0/24                   /       rw,alldirs,maproot=0

修改hosts文件

192.168.115.11mfsmaster

2. mfsmetalogger安装

创建用户和组

groupadd mfs
useradd -g mfs  -s  /sbin/nologin mfs

编译安装软件

tar  -zxf  moosefs-ce-2.0.43-1.tar.gz
cd moosefs-ce-2.0.43
# ./configure--prefix=/usr/local/mfs --sysconfdir=/usr/local/mfs/etc--localstatedir=/usr/local/mfs/lib --with-default-user=mfs --with-default-group=mfs--disable-mfschunkserver --disable-mfsmount
make &&make install

修改/usr/local/mfs/lib/mfs下二进制文件的后缀名

# mv  /usr/local/mfs/lib/mfs/metadata.mfs.empty

提供配置文件

# cd/usr/local/mfs/etc/mfs
# mv  mfsmetalogger.cfg.dist  mfsmetalogger.cfg

修改配置文件

vi  mfsmetalogger.cfg
MASTER_HOST =mfsmaster  #管理服务器
MASTER_PORT = 9419

修改hosts文件

192.168.115.11mfsmaster

3. mfschunkserver安装

创建用户和组

groupadd mfs
useradd -g mfs  -s  /sbin/nologin mfs

编译安装软件

tar  -zxf  moosefs-ce-2.0.43-1.tar.gz
cd moosefs-ce-2.0.43
#  ./configure  --prefix=/usr/local/mfs  --sysconfdir=/usr/local/mfs/etc 
--localstatedir=/usr/local/mfs/lib--with-default-user=mfs --with-default-group=mfs --disable-mfsmaster
make &&make install

提供配置文件

# cd/usr/local/mfs/etc/mfs
# mv  mfschunkserver.cfg.dist  mfschunkserver.cfg
# mv  mfshdd.cfg.dist  mfshdd.cfg

mfschunkserver.cfgchunkserver主配置文件,连接mfsmaster

mfshdd.cfg:定义chunkserver数据目录

修改配置文件

vi  mfschunkserver.cfg
MASTER_HOST =mfsmaster  #管理服务器
MASTER_PORT = 9420

修改hosts文件

192.168.115.11mfsmaster

创建数据目录

mkdir /data/mfs
chown –R  mfs.mfs /data/mfs

4. mfsclient安装

编译安装软件

tar  -zxf  moosefs-ce-2.0.43-1.tar.gz
cd moosefs-ce-2.0.43
# ./configure--prefix=/usr/local/mfs --sysconfdir=/usr/local/mfs/etc  --localstatedir=/usr/local/mfs/lib --disable-mfsmaster  --disable-mfschunkserver --enable-mfsmount
make &&make install

修改hosts文件

192.168.115.11mfsmaster

三、启动服务

1.192.168.115.11mfsmaster

#/usr/local/mfs/sbin/mfsmaster start

wKiom1eu6nLicBQUAAB6ta-qMpo748.jpg

wKioL1eu6oXB18SHAACIlIjejmk656.jpg

说明服务已正常启动

2.192.168.115.12mfsmetalogger

#/usr/local/mfs/sbin/mfsmetalogger start

wKioL1eu6t-jKIrCAABSaG2zwb4809.jpg

3. 192.168.115.13mfschunkserver

#/usr/local/mfs/sbin/mfschunkserver start

wKioL1eu6vuBDkKzAABIyoptmEI639.jpg

四、客户端挂载

192.168.115.5mfsclient

#/usr/local/mfs/bin/mfsmount /mnt/mfs/ -H mfsmaster

#/usr/local/mfs/bin/mfsmount -m /mnt/mfs_trash/ -H mfsmaster  #挂载回收站

回收站可将在mfs上删除的文件恢复回来,默认保留时长为一天

wKiom1eu6xqSCBr8AABCBkh3iUQ865.jpg