使用moosefs的利与弊

我在工作中需要把生产环境的用户访问日志存储到数据处理服务器,并备份起来。一开始的做法是由人工来均衡数据处理服务器的空间使用,但是随着服务器数据量的增加,人工的管理将变得很困难,一方面是存在单点故障的问题,如果一台数据处理服务器挂了,上面的数据可能会丢失;另一方面,为了均衡各服务器间的空间使用,需要把日志从一台服务器传输到另外一台。显然人工的方式已经无法满足数据增长的要求了,需要引入自动化的服务器文件管理系统。

MooseFS是一种分布式文件系统,结构包括以下四种角色:

1 管理服务器managing server (master)

2 元数据日志服务器Metalogger server(Metalogger)

3 数据存储服务器data servers (chunkservers)

4 客户机挂载使用client computers

各种角色的作用如下:

1 管理服务器:负责各个数据存储服务器的管理,文件读写调度,文件空间回收以及恢复.多节点拷贝

2 元数据日志服务器: 负责备份master服务器的变化日志文件,文件类型为changelog_ml.*.mfs,以便于在master server出问题的时候接替其进行工作

3 数据存储服务器:负责连接管理服务器,听从管理服务器调度,提供存储空间,并为客户提供数据传输.

4 客户端: 通过fuse内核接口挂接远程管理服务器上所管理的数据存储服务器,.看起来共享的文件系统和本地unix文件系统使用一样的效果.


工作原理如下图所示:


简单的说,就是找一台服务器作为moosefs的master,其他的服务器都挂到这个master上面,由master统一进行数据存储的管理和读写的调度。使用起来就像在本地操作一个超大的硬盘。

这样处理之后,传到一台服务器的日志文件将会被打散到各个服务器上,从而实现了服务器空间使用的均衡;其次,moosefs可以灵活的调整数据的备份个数,备份的数据将会被随机的保存到其他机器,比如做两个备份时,数据将会被拷贝到两台不同的服务器,从而保证了在一台机器挂掉的情况下,数据依旧安全。

虽然使用moosefs可以解决服务器空间使用均衡和数据备份安全的问题,但是由于是通过一台中心机进行调度的,所以当这台中心机挂掉的话,服务器上的数据将难以辨认和查找。其次,当moosefs上某台机器的硬盘损坏了,将导致整个moosefs的日志传输速度变得很慢,而且有可能会导致正在读取该盘数据的程序僵死。


所以在使用moosefs时需要做一些准备工作:
1、master机要有主备。这样可以在其中一台master坏的情况下及时切换和调度数据的备份

2、需要做好对服务器硬盘的监控。当出现某个硬盘损坏时,要及时将该硬盘踢掉。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
MooseFS是一个可扩展的分布式文件系统,具有POSIX接口。POSIX(Portable Operating System Interface)是一个UNIX操作系统的标准化接口,它定义了一套系统调用和库函数,用于访问操作系统的基本功能。MooseFS的POSIX接口使用户能够以传统的方式访问和操作MooseFS文件系统。 MooseFS的POSIX接口提供了类似于本地文件系统的操作方式,包括文件的打开、读写、截断、重命名、删除等。用户可以使用标准的File I/O函数(如open、read、write等)对MooseFS中的文件进行操作,而无需了解底层存储和数据分布的细节。 通过MooseFS的POSIX接口,用户可以将MooseFS看作一个连接到本地机器的文件系统,从而方便地进行文件的读写和管理。用户可以使用常见的命令行工具(如cp、mv、rm等)或者程序中的标准文件操作函数与MooseFS进行交互。 MooseFS的POSIX接口还支持一些额外的特性,如扩展属性(extended attribute)、文件锁定(file locking)等。扩展属性可以让用户在文件上附加一些自定义的元数据信息,而文件锁定可以防止多个进程同时对同一文件进行修改引起的数据冲突问题。 总之,MooseFS的POSIX接口为用户提供了一种方便、易用的方式来访问和操作MooseFS文件系统。用户可以通过标准的UNIX文件操作函数对MooseFS中的文件进行读写和管理,而无需关心底层的分布式存储细节。这使得MooseFS成为一个理想的分布式文件系统解决方案,适用于需要可扩展、高性能的文件存储需求。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值