linux分布式文件部署,Linux的企业-分布式文件系统mfs(moosefs)搭建与配置

一、MFS 特性:

1. Free(GPL)

2. 通用文件系统,不需要修改上层应用就可以使用

3. 可以在线扩容,体系架构可伸缩性极强。

4. 部署简单。

5. 高可用,可设置任意的文件冗余程度(提供比 raid1+0 更高的冗余级别,而绝对不会影响读或写的性能,只会加速)

6. 可回收在指定时间内删除的文件( “ 回收站 ” 提供的是系统级别的服务,不怕误操作了,提供类似 oralce 的闪回等高级 dbms 的即时回滚特性)

7. 提供 netapp,emc,ibm 等商业存储的 snapshot 特性。(可以对整个文件甚至在正在写入的文件创建文件的快照)

8. google filesystem 的一个 c 实现。

9. 提供 web gui 监控接口。

10. 提高随机读或写的效率。

11. 提高海量小文件的读写效率。

可能的瓶颈:

1. master 本身的性能瓶颈。mfs 系统 master 存在单点故障如何解决?

moosefs+drbd+heartbeat来保证 master 单点问题?不过在使用过程中不可能完全不关机和间歇性的网络中断!

2. 体系架构存储文件总数的可遇见的上限。(mfs 把文件系统的结构缓存到 master 的内存中,文件越多,master 的内存消耗越大,8g 对应 2500w 的文件数,2 亿文件就得 64GB 内存 )。

master 服务器 CPU 负载取决于操作的次数,内存的使用取决于文件和文件夹的个数。

二、MFS 文件系统结构:

包含 4 种角色:

管理服务器 managing server (master)

元数据日志服务器 Metalogger server(Metalogger)

数据存储服务器 data servers (chunkservers)

客户机挂载使用 client computers

各种角色作用:

1. 管理服务器:负责各个数据存储服务器的管理,文件读写调度,文件空间回收以及恢复,多节点拷

贝。

2. 元数据日志服务器: 负责备份 master 服务器的变化日志文件,文件类型为changelog_ml.*.mfs,以便于在 master server 出问题的时候接替其进行工作。

3. 数据存储服务器:负责连接管理服务器,听从管理服务器调度,提供存储空间,并为客户提供数据传输。

4. 客户端:通过 fuse 内核接口挂接远程管理服务器上所管理的数据存储服务器,看起来共享的文件系统和本地 unix 文件系统使用一样的效果。

原始的读/写速度很明显是主要取决于所使用的硬盘的性能、网络的容量和拓扑结构的,使用的硬

盘和网络的吞吐量越好,整个系统的性能也就会越好。

三.mfs的安装配置

1.配置环境

redhat6.5

servre1:master 172.25.50.1 mfsmaster

server2:chunk  172.25.50.2

server2:chunk  172.25.50.3

真机client:172.25.50.250

2.将mfs源码包变为rpm包安装

安装rpm-build软件

931e3e08ad319f54fcb98cb3b7fcdca3.png

27d93c6b4c062205eeacbc75a18ac5ce.png

创建rpm包时需要的包依赖

688d70e93a4d5d806e69c1017c59a9bb.png

ba558feae5fe9c95646e62f70eed0237.png

7398b199293aed457220da8abe865577.png

3.在server1上安装mfsmaster

f46e5daca62cc778099baec96144cad2.png

4.使用mfs分布式文件系统需要做好解析

master端 设置为mfsmaster

a958aabdd662fbb29b00225feb84bbe6.png

5.mfsmaster端无需配置,直接启动

cbed0a873543aef000ac951d3d7418fc.png

master端三个端口正常启动,cgi web图形端口已经打开

4f63b6ed0a8f170d4a9160ff46fcae66.png

6.在客户端做好解析,网页访问

b105d0f59274a9d0f15d3b87c8ba19fc.png

33dd8541820f70a808a7a31b412f6312.png

四.server2和server3配置chunk

1.server2安装chunk

安装包依赖

9d898393a1b5b9c7fb1539c58a9d7b6c.png

2.server2配置解析

8843259883107b76e0733d41b8d4b14b.png

3.配置共享点chunk1

权限限制,在启动chunk server前,需确保用户mfs有权限读写将要被挂载的分区

40d52ac7c3e398323aad87fd8b50c7fa.png

5f7d51a894d9dc9acf305a76ceba5783.png

4.启动chunk

cc494cce5cf84a81a9c97ccee96a6b8f.png

查看数据

1db77f0368a9e80716f9c7049cf2a371.png

4.server3上的chunk配置和server2一样,共享点为chunk2

4404532138a9d571a0dd972e4d277713.png

8280c0aab8bf76c884587fb5a6c31230.png

1b782ec8fcadcd8875b3df5fba1fa496.png

3f7851fcc281945d3096829ae32538c8.png

五.客户端连接

1.安装mfs 客户端软件,配置解析

c699214c540637924e73c842040f71b2.png

98a85a002e0e82913b65e48f0a7044ee.png

2.创建挂载点并挂载mfsmount

318459272f9714195e7542a8cd8970fd.png

3. 在/mnt/mfs创建两个目录,并设置其文件存储份数

71176276f30c773782e6a620e0a4c198.png

将目录dir1的储存份数设置为1

9aa6907900a2f4e4c009e26498f7c248.png

4.测试

拷贝passwd文件,查看信息:

dir1一份 在server2上

dir2二份 在server2和server3上

90dd198a8e2d956ac9d4b12cc78aac45.png

浏览器查看server2和server3

d4ff3c88f742489ae36e026a4b0a6ceb.png

注:关闭一个chunkserver2(172.25.50.2)后,dir1无法查看,因为只存了一份在sevrer2上,但dir2没有影响,因为存了2份,chunkserver2重新启动后,恢复正常。

5.恢复垃圾箱文件:

误删:

[root@foundtion50 mfs]# rm -fr /mnt/mfs/dir2/passwd

[root@foundtion50 mfs]# mfsgettrashtime dir2  #查看垃圾箱中文件的保留时间

dir2: 86400        ##86400s=1day

[root@foundtion50 mfs]# mkdir /mnt/mfsdeta  #创建目录

[root@foundtion50 ~]# ll -d /mnt/mfsdeta/

drwxr-xr-x 2 root root 4096 Sep 19 18:40 /mnt/mfsdeta/

[root@foundtion50 ~]# mfsmount -m /mnt/mfsdeta/#挂载

mfsmaster accepted connection with parameters: read-write,restricted_ip

[root@foundtion50 ~]# cd /mnt/mfsdeta/

[root@foundtion50 mfsdeta]# ls

sustained  trash

[root@foundtion50 mfsdeta]# cd trash/

[root@foundtion50 trash]# find -type f

./004/00000004|dir2|passwd

[root@foundtion50 trash]# mv ./004/00000004\|dir2\|fstab undel/    #恢复误删文件

[root@foundtion50 trash]# ls /mnt/mfs/dir2/

passwd

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值